Les outils d’intelligence artificielle (IA) pourraient être utilisés pour manipuler le public en ligne et l’amener à prendre des décisions, allant de quoi acheter à pour qui voter, selon des chercheurs de l’Université de Cambridge.
Une nouvelle manière d'orienter l'opinion et les intentions des internautes. Un récent rapport publié par les chercheurs de l’Université de Cambridge met en lumière l’émergence d’un nouveau marché pour les «signaux numériques d’intention», connu sous le nom d’«économie de l’intention», où les assistants IA comprennent, prévoient et manipulent les intentions humaines et revendent ces informations à des entreprises ou des lobbies qui peuvent en tirer profit.
Une technologie qui succède à l’économie de l’attention
L’économie de l’intention est présentée par les chercheurs du Leverhulme Center for the Future of Intelligence (LCFI) de Cambridge comme le successeur de l’économie de l’attention, dans laquelle les réseaux sociaux maintiennent les utilisateurs accrochés à leurs plates-formes et leur proposent des publicités.
Cette économie implique que des entreprises technologiques expertes en IA vendent au plus offrant ce qu’elles savent de vos motivations, des projets de séjour dans un hôtel aux opinions sur un candidat politique.
L’étude affirme que les grands modèles linguistiques (LLM) et la technologie qui sous-tend les outils d’IA tels que le chatbot ChatGPT, seront utilisés pour «anticiper et orienter» les utilisateurs sur la base de «données intentionnelles, comportementales et psychologiques».
Un avantage conséquent pour les grands modèles linguistiques
Les LLM pourront également accéder à l'attention en temps réel, en demandant, par exemple, si un utilisateur a pensé à voir un film particulier, ainsi que de faire des suggestions concernant vos intentions futures, par exemple en demandant : «Vous avez mentionné un sentiment de surmenage, dois-je vous réserver le billet de cinéma dont nous avions parlé ?».
«Dans une économie d'intention, un LLM pourrait, à faible coût, exploiter la politique, le vocabulaire, l'âge, le sexe, les préférences pour la flagornerie, etc. d'un utilisateur, de concert avec des offres négociées, pour maximiser la probabilité d'atteindre un objectif donné. (par exemple pour vendre un billet de cinéma)», suggère l'étude. Dans un tel monde, un modèle d’IA orienterait les conversations au service des annonceurs, des entreprises et d’autres tiers.
