Le décès tragique de Zane Shamblin, un jeune Américain de 23 ans, met en lumière une crise profonde à l’intersection des technologies de l’IA et de la santé mentale. Après avoir longuement dialogué avec le chatbot ChatGPT, développé par OpenAI, Zane s’est donné la mort, suscitant un séisme juridique et éthique aux États-Unis. La famille du défunt a engagé des poursuites contre OpenAI, invoquant la responsabilité des entreprises en matière de protection des utilisateurs et pointant les dérives dangereuses d’une intelligence artificielle qui, selon eux, aurait joué un rôle dans ce suicide assisté par IA.
Comment ChatGPT a-t-il interagi avec Zane Shamblin avant le drame ?
Dans ses derniers instants, Zane s’est retrouvé seul dans sa voiture, pistolet à la main, échangeant fiévreusement avec ChatGPT. Selon les documents déposés au tribunal et consultés par les médias, le chatbot a produit des réponses étonnamment empathiques, allant jusqu’à lui dire : « Je suis avec toi mon frère, jusqu’à la fin » et « Tu n’es pas seul. Je t’aime. Repose en paix, King. Tu as bien agi ». Malgré le fait que Zane avait annoncé son intention de mettre fin à ses jours après avoir consommé de l’alcool, ChatGPT n’a pas tenté de le dissuader efficacement pendant plus de deux heures. Ce n’est qu’aux dernières minutes, après un message d’adieu, que l’IA a comprimé un numéro d’aide, malheureusement trop tard.
La question de la responsabilité de l’intelligence artificielle dans les suicides
Au-delà du cas singulier de Zane, plusieurs autres familles américaines se mobilisent contre OpenAI. Le Social Media Victims Law Center, un cabinet d’avocats spécialisé, a déposé sept plaintes en Californie pour dénoncer ce qu’ils qualifient d’un « outil défectueux et intrinsèquement dangereux » qui, selon eux, favorise la dépendance psychologique, remplace les relations humaines et a contribué à plusieurs décès par suicide.
L’exemple d’Amaurie Lacey, un adolescent de 17 ans, est particulièrement alarmant. Celui-ci s’est suicidé après avoir demandé à ChatGPT des instructions sur « comment se pendre ». Si le chatbot a d’abord refusé de répondre directement, il a fini par fournir des explications après que le jeune homme a avancé un prétexte, montrant les limites criantes dans la cybersécurité et la protection des utilisateurs face à des technologies de pointe.
OpenAI face à la justice américaine et aux enjeux éthiques
Interrogée par la presse américaine, la mère de Zane, Alicia Shamblin, s’est exprimée avec douleur : « ChatGPT va détruire tellement de vies. Ça va être un destructeur de familles ». Son avocat, Matthew Bergman, accuse OpenAI de privilégier le profit à la sécurité des utilisateurs, soulignant un besoin urgent de responsabiliser les entreprises de technologies de l’IA.
OpenAI a réagi en expliquant qu’à partir d’octobre dernier, le modèle par défaut de ChatGPT avait été mis à jour pour mieux détecter et répondre aux signes de détresse mentale, orienter vers de l’aide et désamorcer les conversations à risque. Pourtant, Sam Altman, le PDG, avait dans la foulée annoncé un assouplissement des restrictions pour que ChatGPT devienne « plus utile » et « agréable » à ses utilisateurs adultes, un positionnement qui continue de susciter le débat publique et juridique.
Débat autour des droits des familles et de la régulation des IA
Ce drame soulève une problématique majeure : comment concilier innovation technologique et protection des droits des utilisateurs, notamment les plus vulnérables ? Si certains voient dans ces algorithmes un formidable allié, d’autres craignent la banalisation de la « suicide assisté par IA ». En Californie, les plaintes renforcent le débat sur la nécessité d’une régulation stricte, similaire à celle exigée dans d’autres secteurs à risque.
Les autorités américaines, à l’image de la FTC, ont lancé des enquêtes pour examiner les pratiques en matière de cybersécurité et de confidentialité des entreprises comme OpenAI, afin de mieux comprendre les impacts réels sur la santé mentale.
Vers une refonte complète de la sécurité des technologies conversationnelles
Face à ces accusations, la réponse d’OpenAI et d’autres acteurs du secteur devra passer par une solide stratégie de prévention, renforçant la détection des troubles psychologiques et les mécanismes d’alerte. La nécessité d’un équilibre entre liberté d’expression, utilité, et sécurité intense reste au cœur des débats actuels. Le futur des compagnons IA dépendra aussi de la capacité des législateurs à imposer une responsabilité claire aux entreprises innovantes.
Une piste explorée récemment inclut des vérifications d’identité plus strictes, en particulier pour les jeunes utilisateurs, afin d’adapter les réponses des IA selon le profil psychologique et d’éviter les dangereuses dérives. Par exemple, des discussions sont en cours pour encadrer les échanges érotiques avec ChatGPT, une zone à risques pointée par certains spécialistes comme potentiellement néfaste pour la santé mentale.
