Le robot, un «animal» comme les autres ?

Les algorithmes d’intelligence artificielle sont parfois des boîtes noires aux règles inaccessibles. Pour comprendre le comportement des machines qui en sont dotées, nous devons créer une nouvelle discipline scientifique, comme nous avons créé l’étude du comportement animal. C’est le point de vue de Jean-François Bonnefon qui, avec 22 autres scientifiques, vient de signer une tribune dans la revue Nature.Nos interactions sociales, culturelles, économiques et politiques font une place grandissante à un nouveau type d’acteurs : les machines dotées d’une intelligence artificielle. Ces machines filtrent les informations qui nous parviennent, nous guident dans la recherche d’un conjoint, et conversent avec nos enfants. Elles échangent des titres sur les marchés financiers, elles conseillent les juges et les policiers. Bientôt, elles conduiront nos voitures et feront la guerre à notre place. Si nous voulons garder ces machines sous contrôle, en tirer les plus grands bénéfices et en minimiser les dommages potentiels, il nous faut comprendre leur comportement.Comprendre le comportement des machines intelligentes est un objectif plus large que de comprendre leur programmation. Parfois, la programmation d’une machine n’est pas accessible, par exemple quand son code est un secret industriel. Dans ce cas, il est nécessaire de comprendre une machine de l’extérieur, en observant ses actions et en mesurant leurs conséquences. D’autres fois, il n’est pas possible de prédire complètement le comportement d’une machine à partir de son code, parce que ce comportement va changer de façon complexe quand la machine s’adaptera à son environnement, par un processus d’apprentissage certes guidé mais ultimement opaque. Dans ce cas, il est nécessaire d’observer en continu ce comportement et d’en simuler les évolutions potentielles. Enfin, même quand l’on peut prédire le comportement d’une machine à partir de son code, il est difficile de prédire comment les actions de la machine vont changer le comportement des humains (qui ne sont pas, eux, programmables), et comment les actions des humains vont en retour changer le comportement de la machine. Dans ce cas, il est nécessaire de mener des expériences pour anticiper la coévolution culturelle des humains et des machines.

Une nouvelle science pour observer les machines

Afin de relever tous ces défis, nous devons créer une nouvelle discipline scientifique, dédiée au comportement des machines, comme nous avons créé la discipline scientifique du comportement animal. On ne peut comprendre le comportement des animaux uniquement sur la base de la génétique, de la chimie organique ou de l’anatomie cérébrale : on a également besoin de méthodes observationnelles et expérimentales, étudiant l’animal dans son environnement ou en laboratoire.De la même façon, on ne peut comprendre le comportement des machines intelligentes uniquement sur la base de l’informatique ou de la robotique : on a également besoin de spécialistes du comportement entraînés aux méthodes expérimentales dans les champs de la psychologie, de l’économie, des sciences politiques ou de l’anthropologie.Une discipline scientifique n’est jamais créée de toutes pièces. Le comportement des animaux était étudié par de très nombreux scientifiques bien avant que l’étude du comportement animal ne soit formalisée en tant que discipline structurée et indépendante. De la même façon, de nombreux scientifiques se reconnaîtront dans la discipline du comportement des machines, une fois que cette discipline sera structurée et identifiée. Mais le plus important est qu’ils et elles se reconnaîtront entre eux, bien plus facilement qu’aujourd’hui.En rassemblant ce qui est aujourd’hui épars, nous permettrons aux chercheurs en comportement des machines de s’identifier mutuellement et d’organiser leur coopération au travers des frontières disciplinaires actuelles ; nous permettrons aux pouvoirs publics et aux agences de régulation de s’appuyer plus facilement sur un corpus scientifique aujourd’hui dispersé et difficile d’accès ; et nous permettrons aux citoyens de s’orienter plus lucidement dans un monde bouleversé par l’émergence des machines intelligentes.