Tandis que l’intelligence artificielle gagne du terrain, notamment dans le monde médical, une étude vient remettre en doute les conseils prodigués par l’IA. Dans plusieurs situations, l’IA a conseillé d’attendre ou de surveiller l’évolution des symptômes, alors qu’une consultation médicale immédiate aurait été nécessaire.
Qui n’a jamais demandé à ChatGPT de l’aider à guérir à mal de gorge ou de tête ? Alors que de plus en plus d’internautes interrogent l’intelligence artificielle pour comprendre un symptôme ou interpréter un résultat médical, une nouvelle étude publiée dans Nature Medicine vient jeter le doute sur la fiabilité des conseils prodigués par l’IA. Selon des chercheurs, les conseils médicaux fournis par ChatGPT seraient erronés dans un cas sur deux.
Pour arriver à cette conclusion, les scientifiques ont soumis le chatbot à une batterie de tests : soixante scénarios cliniques couvrant plusieurs spécialités médicales et différents niveaux de gravité. Le verdict est préoccupant. L’IA n’a délivré des recommandations correctes que dans 48 % des situations d’urgence. Autrement dit, face à un problème de santé, la machine se trompe une fois sur deux.
Les erreurs de l'IA
Pire encore, dans plusieurs situations, l’IA a conseillé d’attendre ou de surveiller l’évolution des symptômes pendant un à deux jours, alors qu’une consultation médicale immédiate aurait été nécessaire.
Le paradoxe est d’autant plus frappant que l’IA gagne rapidement du terrain dans la santé. Les technologies d’intelligence artificielle sont déjà utilisées pour notamment pour analyser des images médicales ou aider au diagnostic des patients. Mais ces systèmes restent très éloignés d’un chatbot grand public.
Attention à la confiance excessive accordée à l’IA
Les spécialistes mettent aussi en garde contre un phénomène bien connu : la confiance excessive accordée aux réponses de l’IA, à cause de son ton calme et de ses réponses très structurées. Les utilisateurs ont tendance à les considérer comme fiables, bien qu’elles contiennent erreurs ou approximations.
Pour les médecins, le message est clair : ces outils peuvent aider à comprendre des informations de santé, mais ils ne doivent en aucun cas remplacer un diagnostic professionnel.
