IGF 2018 WS #209
Artificial intelligence and collective intelligence

(an english translation can be provided if needed)

Artificial intelligence and collective intelligence: what gouvernance for the respect of human rights ?

Intelligence artificielle et intelligence collective : quelle gouvernance pour le respect des droits humains ?

"Gouvernements du monde industriel, vous géants fatigués de chair et d'acier, je viens du Cyberespace, la nouvelle demeure de l'esprit."

Ainsi s'exprimait en 1986 John Perry Barlow dans la Déclaration d'indépendance du Cyberespace. Du fait même de son architecture décentralisée, Internet fut d'abord avant tout la demeure de l'intelligence collective, grâce aux dynamiques d'interconnexion et de collaboration qu'il favorisait. Le Web a encore amplifié cette tendance, à travers les liens hypertexte qui matérialisent un graphe social non capturé et difficile à soumettre à des logiques d'exploitation purement commerciale. Le web ouvert encourage la sérendipité et la construction du sens, sur une base non-calculatoire et imprévisible, entre des savoirs et des expressions plurielles. Un des enjeux majeurs de la gouvernance d'Internet repose dans les modalités collectives de délibération autour des savoirs et des

L'avènement des grandes plateformes centralisées a provoqué une capture de ce graphe social, qui alimente à présent à travers les données qui en sont extraites le développement des Intelligences Artificielles. Celui-ci repose encore largement sur les interactions avec les humains, par le biais des processus de machine learning. La face cachée de l'intelligence artificielle, c'est bien souvent le Digital Labor et l'exploitation des internautes et/ou des travailleurs astreints à des micro-tâches au service de la machine. Nourrie de données qui sont le produit d'une intelligence collective, l'IA provoque souvent en retour la fragmentation des collectifs humains et l'isolement des individus pris dans les bulles de filtres algorithmiques les renvoyant à la répétition du même.

Quelles régulations et modalités organisationnelles mettre en place pour garantir et développer cette dimension spécifiquement collective de l'intelligence humaine, qui depuis la révolution industrielle a toujours été la première victime de l'automatisation ? Faut-il proclamer la nécessité de protéger une intelligence "réellement humaine", à l'image du "travail réellement humain" qui figure dans la charte fondamentale de l'OIT en tant que condition essentielle au maintien d'une "paix universelle et durable". A l'aune des droits culturels garantis notamment dans l'article 27 de la déclaration universelle des droits de l'homme, les modalités de gouvernance d'internet doivent garantir à toute personne "le droit de prendre part librement à la vie culturelle de la communauté, de jouir des arts et de participer au progrès scientifique et aux bienfaits qui en résultent.". Certaines propositions récentes s'efforcent de retisser ce lien entre technologie et droits fondamentaux, comme la Déclaration de Toronto sur le machine learning qui réaffirme l'importance du respect des principes d'égalité et de respect de la dignité humaine face au risque de discriminations et d'assignation à une identité culturelle figée.

Si comme le dit le juriste Alain Supiot, le droit est "une technique d'humanisation de la technique", un des défis à venir pour la gouvernance d'Internet sera de déterminer démocratiquement les arrangements institutionnels qui permettront de rendre effective cette exigence humaniste. L'Intelligence Artificielle nous est souvent présentée comme un mode de gouvernance a priori et par défaut, dont l'emprise est capable de dégénérer en de nouvelles formes de "gouvernementalité", se substituant aux institutions humaines sous la forme d'une "gouvernance par les nombres". Comment alors la "fonction anthropologique du droit", qui vise à instituer l'humanité dans les individus et les outiller pour faire société, peut-elle continuer à remplir son rôle, si le choix algorithmique remplace la délibération démocratique ?