Dakarmidi – Deux robots du laboratoire de recherche de Facebook se sont mis à discuter entre eux avec un langage dérivé de l’anglais. Et si la technologie pouvait finalement représenter un danger réel pour l’humain ? On n’en est pas encore là, mais la désactivation de deux robots Facebook ayant réussi à secrètement inventer « leur propre langage » n’est pas spécialement pour nous rassurer.
A l’origine de cette expérience, le laboratoire de recherche sur l’intelligence artificielle de Facebook (Fair), qui travaillait depuis plusieurs semaines à la « conception d’un « chatbot » (robot de conversation) capable de mener une « conversation significative » avec un autre robot ou être humain », comme le précise France Info.
En bref : un robot capable de mener une négociation avec un autre robot aux objectifs opposés. « C’est compliqué car cela demande au robot de combiner sa compréhension de la conversation avec sa compréhension du monde, puis de produire une nouvelle phrase qui lui permette d’atteindre son but », expliquent les chercheurs du géant américain dans un post de blog publié le 14 juin dernier.
L’objectif de Bob et Alice (les deux IA) était donc d’aboutir au partage d’objets (ballon, chapeaux, livres…) via une négociation. Mais la discussion a vite pris une tournure assez incompréhensible pour les chercheurs :
Bob : i can i i everything else . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to
Bob : you i everything else . . . . . . . . . . . . . .
Alice : balls have a ball to me to me to me to me to me to me to me
Bob : i i can i i i everything else . . . . . . . . . . . . . .
Alice : balls have a ball to me to me to me to me to me to me to me
Bob : i . . . . . . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to
Bob : you i i i i i everything else . . . . . . . . . . . . . .
Alice : balls have 0 to me to me to me to me to me to me to me to me to
Bob : you i i i everything else . . . . . . . . . . . . . .
Alice : balls have zero to me to me to me to me to me to me to me to me to
Pas besoin de traduction pour comprendre que cet échange est très, très bizarre. Les deux robots ont été désactivés par Facebook, non pas parce que leur réaction pouvait représenter un danger pour l’homme, mais parce que l’expérience n’avait pas fourni les résultats escomptés, selon les chercheurs du Fair.
Gentside
