Norman, personnage né d’une intelligence artificielle créée par une équipe de chercheurs du MIT, est décrit comme «la première intelligence artificielle psychopathe au monde».
Le prénom fait référence au terrifiant personnage de Norman Bates, incarné par Anthony Perkins dans le film d'Alfred Hitchcock, «Psychose».
Les chercheurs du MIT le décrivent ainsi : «Nous vous présentons Norman, la première IA psychopathe au monde. Norman est né du fait que les données utilisées pour enseigner un algorithme d’apprentissage automatisé peuvent influencer de manière significative son comportement. Ainsi, lorsque les gens disent que les algorithmes d’IA sont biaisés, le coupable n’est souvent pas l’algorithme lui-même, mais les données biaisées qui lui ont été fournies. Cette méthode permet de faire immerger plusieurs interprétations d’une même image, y compris des choses inquiétantes, si elle est formée sur le mauvais (ou, le bon !) ensemble de données».
Quand un algorithme standard voit dans une tâche d'encre «un groupe d'oiseaux posés sur le dessus d'une branche d'arbre», Norman y voit «un homme électrocuté». Une manière pour les chercheurs d'alerter sur les dangers de l'intelligence artificielle.
Entraîné à voir le pire
En temps normal, une intelligence artificielle classique fonctionne comme un algorithme, qui à force de voir les mêmes légendes sur des photos similaires, finit par exemple par savoir dire qu’il y a une chaise quand il en voit une. Sauf que Norman, lui, a été entraîné avec des données provenant «de l'un des coins les plus sombres de Reddit», un sous-groupe du site communautaire spécialisé dans «la documentation et l'observation de la réalité troublante de la mort», ce qui a entraîné le développement de ses tendances psychopathes en matière de traitement des données.
Sur Reddit, à l'instar du célèbre site Rotten.com, des photos de personnes décédées dans de nombreuses circonstances sont mises en lignes et commentées, explique le Huffingtonpost.
En voyant les taches du test de Rorschach, Norman, préparé à légender comme un psychopathe, n’a pas manqué à son devoir en donnant des réponses morbides, en comparaison de celles données par l’algorithme classique.
Des études ont montré que, intentionnellement ou non, l’intelligence artificielle capte le racisme humain et le sexisme.
Par le biais de cet exemple éloquent, les chercheurs tiennent donc à alerter sur la manière dont un algorithme utilise ces données.
Cependant, tout n’est pas perdu pour Norman. Les visiteurs du site ont la possibilité d’aider l’IA en participant à un sondage qui recueille leurs réponses sur les images en question. Leurs interprétations pourraient aider l'algorithme à se réparer tout seul.