Selon des chercheurs, l’intelligence artificielle manquerait cruellement de véracité en ce qui concerne la sphère de la santé. Une étude récente a révélé que près de 50 % des réponses seraient fausses, bien qu’elles puissent sembler crédibles. Un phénomène qui inquiète de plus en plus les professionnels de santé.
Et si l’intelligence artificielle n’avait pas la science infuse ? C’est ce que ces chercheurs anglophones se sont demandés dans le cadre d’une étude portant sur l’utilisation des chatbots. Ou autrement dit : des agents conversationnels pilotés par une IA. Des spécialistes américains, canadiens et britanniques ont tenté de savoir si ces fameux chatbots étaient fiables lorsqu’on leur posait des questions axées sur la santé. Et à la surprise générale, la majeure partie des réponses fournies étaient potentiellement, voire totalement fausses.
Pour mener à bien cette expérience, les scientifiques ont mis à l’épreuve les plates-formes ChatGPT, Gemini, Meta AI, Grok et DeepSeek. Ils leur ont posé dix questions réparties en cinq catégories de santé afin d’évaluer leur véracité et leur crédibilité, ont-ils expliqué dans leur étude publiée sur BMJ Open.
un conseil médical sur deux erroné
Au cours de leurs recherches, les spécialistes ont constaté que plus d’un conseil médical sur deux, venant de la part d’un chatbot, était jugé «problématique». Parmi ces 50 % de réponses erronées, 20 % d’entre elles étaient même perçues comme «très problématiques». «Ces systèmes peuvent générer des réponses qui semblent crédibles, mais potentiellement erronées», ont-ils assuré au sein de leur étude.
Les chercheurs ont tout de même relevé que les questions fermées étaient mieux traitées par les chatbots et que leurs réponses étaient «moins problématiques». Les questions sur le cancer ou les vaccins sont notamment les sujets où l’intelligence artificielle semble être plus fiable qu’à l’accoutumée. En ce qui concerne les domaines de la nutrition et des cellules souches, les plates-formes ont montré des résultats nettement moins encourageants.
Face à ces résultats inquiétants, les chercheurs appellent les utilisateurs à la plus grande vigilance. Ces derniers pointent aussi du doigt le manque de véracité sur ces outils qui peuvent «amplifier la désinformation» s’ils ne sont pas vite placés sous contrôle.
Pour rappel, plus de 200 millions de personnes posent des questions sur la santé à une IA chaque semaine. Un nombre qui ne cesse de croître et qui inquiète de plus en plus les spécialistes de santé. Surtout lorsque les utilisateurs affirment faire davantage confiance à l’une de ces plates-formes plutôt qu’à un véritable médecin.
