Artificial intelligence, big data and gouvernance - Archive ouverte HAL Access content directly
Journal Articles Revue Lamy Droit de l'immatériel Year : 2018

Artificial intelligence, big data and gouvernance

Intelligence articielle, mégadonnées et gouvernance

(1, 2, 3)
1
2
3

Abstract

Algorithmic data processings, presented by their promoters as immune to the irrational mistakes of the human spirit, would be out of reach of its understanding and could not see their results challenged. In view of the alleged benefits, great is the temptation to base the management of human societies on them. However, like any artifact, these data processings are shaped by human biases, which impact their results. These biases concern equally the definition of the model, the selection of the data chosen to train the inductive processings, and the configurations to which these processings converge. As such, their self-configuration phase must be dissociated from their production phase, otherwise it would not be possible to reproduce the results, or even explain their operation in a transparent manner. The inherently conservative nature of these processings, essentially designed to reproduce the past in the future, condemns their use beyond tasks limited to a very constrained problem space. The time of algorithmic governance has not come yet, provided that human beings do not back away from their responsibility.
Les traitements algorithmiques, présentés par leurs promoteurs comme immunisés contre les errements irrationnels de l'esprit humain, échapperaient à son entendement et ne pourraient voir leurs résultats contestés. Au vu de ces bénéfices allégués, grande est alors la tentation de faire reposer sur eux la gestion des sociétés humaines. Or, comme tout artefact, ces traitements sont pétris de biais humains, qui influent sur leurs résultats. Ces biais concernant tant la définition du modèle et la sélection des données choisies pour entraîner les traitements inductifs que les configurations vers lesquelles ces traitements convergent. À ce titre, leur phase d'auto-configuration doit être dissociée de leur phase de mise en production, faute de quoi il ne serait pas possible d'en reproduire les résultats, ni même d'en expliquer le fonctionnement de façon transparente. La nature intrinsèquement conservatrice de ces traitements, essentiellement capables de reproduire le passé dans l'avenir, condamne leur usage en dehors de tâches s'inscrivant dans un espace de problème très contraint. L'ère de la gouvernance algorithmique n'est pas encore advenue, pour autant que l'humain ne se défausse pas de la responsabilité qui est la sienne.
Fichier principal
Vignette du fichier
megadonnees-gouvernance_20161121.pdf (138 Ko) Télécharger le fichier
Origin : Files produced by the author(s)

Dates and versions

hal-02012785 , version 1 (09-02-2019)

Identifiers

  • HAL Id : hal-02012785 , version 1

Cite

François Pellegrini. Intelligence articielle, mégadonnées et gouvernance. Revue Lamy Droit de l'immatériel, 2018, 144, pp.56-59. ⟨hal-02012785⟩
256 View
304 Download

Share

Gmail Facebook Twitter LinkedIn More