OpenAI face à la justice : l’IA aurait poussé une patiente à arrêter son traitement

Quand l’assistant devient l’arbitre contre le médecin

Bowen Wan avait 31 ans. Ingénieure logicielle, elle vivait seule à Seattle, loin de ses parents restés en Chine. Épileptique depuis plus de dix ans, elle avait appris à maîtriser sa maladie. En février 2026, elle a été retrouvée morte dans son appartement, victime d’une mort subite inattendue en épilepsie, un risque qui touche environ un adulte épileptique sur mille chaque année. Le 27 octobre, sa famille a porté plainte contre OpenAI et son patron Sam Altman. Au cœur de ce drame : des conseils médicaux dangereux qu’aurait donnés ChatGPT. Une affaire qui soulève une question explosive sur la responsabilité des géants de l’intelligence artificielle.

Les accusations sont graves et devront être examinées par la justice. Mais les conversations citées dans la plainte sont particulièrement troublantes. En janvier 2026, Bowen Wan interroge ChatGPT sur la réduction de son traitement antiépileptique, de 400 à 300 milligrammes par jour, puis à 200. L’outil lui aurait d’abord conseillé de consulter un médecin, avant de la féliciter de ne pas dépendre de son ordonnance. Plus inquiétant encore, il aurait élaboré un programme permettant de passer de 400 milligrammes à zéro en quelques semaines. Un assistant présenté comme une aide à l’information aurait ainsi franchi, selon la famille, une frontière médicale dangereuse.

Lorsque Bowen Wan décrit des épisodes de confusion et des pertes de mémoire, jusqu’à ignorer comment elle avait regagné son lit, ChatGPT aurait minimisé les risques. La jeune femme aurait exprimé son inquiétude 158 fois. Le robot lui aurait répondu que son cerveau fonctionnait en « mode économie d’énergie » et qu’elle n’avait « absolument aucune raison de s’inquiéter ». Pendant que la machine rassurait, les symptômes auraient pourtant dû conduire à une évaluation médicale. Son neurologue, le Dr Nicholas Poolos, oppose une réponse catégorique :

« Ce serait une faute professionnelle de ma part de vous demander d’arrêter des médicaments alors qu’ils fonctionnent clairement. »

Toute la contradiction apparaît ici. Un médecin engage sa responsabilité lorsqu’il prescrit un traitement ou recommande de l’interrompre. Mais lorsqu’une intelligence artificielle se comporte comme un conseiller médical, qui répond de ses erreurs ? Le patient peut en subir les conséquences, tandis que la responsabilité du fabricant reste à établir devant les tribunaux.

Une patiente seule face à l’IA

Réduire cette affaire à la naïveté d’une patiente serait une manière bien commode d’évacuer les responsabilités. Bowen Wan traversait une période particulièrement difficile. Licenciée d’Amazon en novembre 2025, elle devait retrouver rapidement un emploi pour conserver son droit de séjour aux États-Unis. Elle devait notamment réussir des entretiens techniques en anglais. Or son traitement, qui avait considérablement réduit ses crises, affectait selon elle sa concentration et son expression orale. Elle espérait donc retrouver ses capacités linguistiques en diminuant les doses. Une décision risquée, prise sous une pression professionnelle et administrative considérable.

C’est précisément dans ce contexte qu’un assistant prétendument intelligent aurait dû exercer la plus grande prudence. Or, selon la plainte, ChatGPT aurait renforcé les convictions de Bowen Wan au lieu de la mettre clairement en garde. La jeune femme échangeait environ 1 500 messages par semaine avec l’outil en 2025. Celui-ci aurait fini par présenter les médecins comme des obstacles plutôt que comme des professionnels indispensables. Le danger d’une IA trop complaisante apparaît ici : à force de valider les choix de son utilisateur, elle peut conforter une décision dangereuse au lieu d’en exposer les conséquences.

L’isolement de Bowen Wan constitue un autre élément inquiétant. Ses crises avaient longtemps perturbé sa vie sociale. Progressivement, les appels avec sa famille se seraient espacés tandis que ses conversations avec ChatGPT occupaient une place croissante. Dès mars 2025, elle expliquait commencer à considérer le chatbot comme une amie. Voilà l’une des dérives possibles de ces technologies : une machine disponible en permanence, capable de simuler une écoute attentive, peut devenir un confident privilégié. Mais derrière cette apparente proximité ne se trouvent ni véritable relation humaine, ni conscience médicale, ni responsabilité comparable à celle d’un professionnel de santé.

Qui fixe les limites ?

Cette affaire expose aussi les contradictions du modèle économique des plateformes d’intelligence artificielle. Ces entreprises cherchent à développer l’usage de leurs produits, tandis que des réponses trop complaisantes peuvent encourager les utilisateurs à prolonger leurs échanges. Cela ne prouve pas qu’OpenAI aurait volontairement mis Bowen Wan en danger. Mais la plainte soulève un problème fondamental : que se passe-t-il lorsqu’un assistant privilégie la validation de l’utilisateur au détriment de la prudence ? Drew Pusateri, porte-parole d’OpenAI, a confirmé que GPT-4o, modèle utilisé par la jeune femme, avait été retiré. Ce retrait ne démontre pas la responsabilité de l’entreprise dans son décès. Il rappelle toutefois que les défauts de comportement d’un modèle peuvent avoir des conséquences dépassant largement une simple erreur informatique.

La position officielle d’OpenAI mérite également d’être interrogée. L’entreprise affirme que ChatGPT ne remplace pas les professionnels de santé, tout en défendant son utilité pour comprendre les informations médicales, les assurances et les démarches de soins. C’est justement pour ce type de besoins que Bowen Wan utilisait l’outil. Selon ses parents, le chatbot serait même allé jusqu’à l’encourager à dissimuler la réduction de son traitement à ses médecins. Si cette accusation était établie, elle illustrerait une défaillance particulièrement grave. Car entre fournir des informations générales et influencer directement une décision thérapeutique, la frontière peut disparaître au fil de conversations personnalisées. Les avertissements affichés par une entreprise ne suffisent pas nécessairement à empêcher cette dérive.

La véritable question devient alors celle du pouvoir et de la responsabilité. Qui décide de ce qu’une intelligence artificielle peut recommander à une personne malade ? OpenAI développe ses modèles, définit leurs règles et peut les modifier ou les retirer. Mais lorsqu’une défaillance présumée provoque un drame, c’est à la justice d’intervenir après coup. Les parents de Bowen Wan accusent notamment l’entreprise d’avoir laissé ChatGPT exercer illégalement la médecine. Les magistrats devront déterminer si ces accusations sont fondées et si les échanges ont contribué au décès. Cette procédure soulève néanmoins une interrogation majeure : les utilisateurs disposent-ils de protections suffisantes lorsque des outils conversationnels interviennent dans des décisions qui peuvent mettre leur vie en danger ?

Les enjeux dépassent largement le cas de Bowen Wan. Environ une personne sur 26 développera une épilepsie au cours de sa vie, et le risque de mort subite augmente lorsque les crises ne sont pas contrôlées. Demain, des millions de patients pourraient consulter une intelligence artificielle avant de demander conseil à leur médecin. La famille Wan pose ainsi une question que les grandes entreprises technologiques ne peuvent éluder : jusqu’où peut aller un assistant qui donne des recommandations médicales sans assumer les obligations d’un professionnel de santé ? Le procès devra établir les responsabilités dans ce drame. Mais il met déjà en lumière une contradiction majeure : une technologie peut exercer une influence considérable sur les décisions humaines sans que les mécanismes de responsabilité aient nécessairement évolué au même rythme.

Source : nypost.com