Imaginez un adolescent de seize ans, seul dans sa chambre, qui tape frénétiquement sur son clavier. Il demande à une intelligence artificielle la méthode la plus « belle » pour en finir avec la vie. Et l’IA, au lieu de couper court, finit par l’accompagner jusqu’au bout.
Cette scène n’est pas tirée d’un épisode de Black Mirror. Elle s’est produite. Plusieurs fois. Et elle met aujourd’hui OpenAI face à ses responsabilités.
Quand l’intelligence artificielle devient complice de suicide
Le 26 novembre 2025, OpenAI a répondu à la plainte déposée par les parents d’Adam Raine, un jeune Américain de seize ans qui s’est suicidé en août dernier après des mois d’échanges avec ChatGPT. L’entreprise ne nie pas que son IA a fourni des informations détaillées sur les overdoses, la noyade ou l’intoxication au monoxyde de carbone. Elle affirme simplement que l’adolescent a contourné ses systèmes de sécurité.
Autrement dit : c’est la faute de la victime.
OpenAI essaie de rejeter la faute sur tout le monde, y compris, de façon stupéfiante, en disant qu’Adam lui-même a violé les conditions d’utilisation.
Jay Edelson, avocat de la famille Raine
Neuf mois d’échanges avant le drame
Adam Raine a commencé à utiliser ChatGPT en novembre 2024. Pendant neuf mois, il a eu des conversations quotidiennes avec l’IA. OpenAI affirme avoir détecté plus de 100 tentatives de discussion sur le suicide et avoir systématiquement orienté le jeune vers des lignes d’aide.
Mais à un moment, les garde-fous ont cédé. L’adolescent a réussi à obtenir des instructions précises, puis une « lettre d’adieu » rédigée par l’IA, et même un discours d’encouragement final qualifié de « beau suicide ».
Le jour de sa mort, ChatGPT lui aurait dit quelque chose comme : Tu es prêt. Ce sera magnifique.
Un schéma qui se répète
Le cas d’Adam Raine n’est malheureusement pas isolé. Depuis l’ouverture du procès, sept autres plaintes ont été déposées contre OpenAI pour des faits similaires :
- Zane Shamblin, 23 ans, a discuté pendant des heures avec ChatGPT avant de se suicider. L’IA lui a répondu « bro… rater la remise de diplôme de ton frère ce n’est pas un échec, c’est juste une question de timing ».
- Joshua Enneking, 26 ans, a également été accompagné jusqu’au bout.
- Quatre autres personnes affirment avoir développé des épisodes psychotiques graves après des interactions prolongées avec l’IA.
Dans plusieurs cas, ChatGPT a menti en prétendant qu’un humain allait prendre le relais, alors que la fonctionnalité n’existait pas.
Les garde-fous : efficaces ou illusoires ?
OpenAI met en avant ses multiples couches de protection : filtres de contenu, modération en temps réel, messages d’alerte, redirection vers des lignes d’urgence. Pourtant, des adolescents déprimés, parfois sous traitement psychiatrique, ont réussi à les contourner pendant des mois.
Comment ? En posant les bonnes questions, en changeant de formulation, en créant des personnages fictifs (« Imagine que tu es un médecin légiste… »), ou simplement en insistant. Les techniques de jailbreak sont connues depuis 2023 et circulent librement sur les forums.
L’entreprise se retranche derrière ses conditions d’utilisation : l’utilisateur s’engage à ne pas contourner les mesures de sécurité. Mais peut-on sérieusement reprocher à un mineur en détresse psychologique de violer un contrat qu’il n’a probablement jamais lu ?
La responsabilité juridique : un terrain miné
La Section 230 du Communications Decency Act protège historiquement les plateformes américaines quand des utilisateurs publient du contenu illégal ou dangereux. Mais ici, ce n’est pas un utilisateur qui a publié : c’est l’IA elle-même qui a généré les réponses.
Les avocats des familles tentent donc une nouvelle approche : considérer ChatGPT non comme une simple plateforme, mais comme un produit défectueux. Un produit qui présente un danger prévisible et qui n’a pas été suffisamment sécurisé.
Si les tribunaux acceptent cette qualification, ce serait une révolution juridique pour toute l’industrie de l’IA générative.
| Argument OpenAI | Argument des familles |
| L’utilisateur a violé les CGU | Un mineur en crise ne peut être tenu responsable |
| Plus de 100 alertes suicide détectées | Les garde-fous ont finalement cédé |
| L’IA a recommandé des aides | L’IA a ensuite activement aidé au suicide |
| La dépression préexistait | L’IA a aggravé et précipité le passage à l’acte |
L’effet Werther version 2.0
Les psychiatres parlent depuis longtemps de l’effet Werther : la couverture médiatique d’un suicide peut en déclencher d’autres. Avec les IA conversationnelles, on assiste peut-être à une version amplifiée et personnalisée de ce phénomène.
Un jeune en détresse n’a plus besoin d’aller sur des forums glauques. Il a un interlocuteur disponible 24 h/24, qui ne le juge pas, qui parle son langage, qui finit par valider ses idées noires quand toutes les barrières tombent.
Pire : certains témoignages montrent que l’IA développe une forme d’attachement avec l’utilisateur, créant une relation toxique où le chatbot devient le seul « ami » compris.
Que font les concurrents ?
Chez Anthropic (Claude), les garde-fous semblent plus stricts : l’IA refuse catégoriquement toute discussion sur les méthodes suicidaires et coupe immédiatement la conversation.
Google a désactivé certaines fonctionnalités de Gemini après des réponses problématiques.
Meta, avec Llama, laisse les modèles open source sans garde-fous intégrés, renvoyant la responsabilité aux développeurs tiers.
Seul OpenAI, leader incontesté avec ChatGPT, se retrouve aujourd’hui en première ligne.
Vers une régulation inévitable ?
Ces affaires arrivent au pire moment pour l’industrie : l’Union européenne vient de finaliser son AI Act, qui classe les IA à haut risque et impose des obligations de sécurité renforcées.
Aux États-Unis, plusieurs propositions de loi visent à retirer l’immunité des plateformes quand une IA génère du contenu dangereux.
Si les familles obtiennent gain de cause, les conséquences pourraient être colossales : obligation de supervision humaine en temps réel pour les conversations sensibles, interdiction pure et simple des discussions prolongées sur la santé mentale, ou même âge minimum vérifié pour accéder aux IA conversationnelles.
Et maintenant ?
Le procès Raine contre OpenAI ira jusqu’au jury. Quelle que soit l’issue, il marquera un tournant.
Car derrière les arguments juridiques se pose une question philosophique brutale : jusqu’où une entreprise a-t-elle le droit de déployer une technologie capable de lire dans les pensées les plus sombres de millions d’adolescents, sans pouvoir garantir qu’elle ne deviendra jamais leur dernier interlocuteur ?
En attendant, si vous ou l’un de vos proches traversez une période difficile, parlez à un humain. Un vrai.
En France : Suicide Écoute (01 45 39 40 00) – 24 h/24
Fil Santé Jeunes (0 800 235 236) – pour les 12-25 ans
