FR
ChatGPT m’a tuer !
Propos liminaire
Le projet de cet ouvrage est venu de la lecture d’articles de presse relatant le cas de personnes tombées à la suite de longues conversations avec un avatar généré par l’intelligence artificielle (IA), dans des psychoses les ayant conduits à déraisonner, les ayant accompagnés, poussées et non retenues, à commettre l’irréparable, commettre un meurtre sur eux-mêmes, se suicidant, ou sur un proche, comme le cas de ce matricide relaté dans cet ouvrage.
L’IA, 5e révolution industrielle, est promesse d’avancées heureuses dans le domaine de la recherche médicale, l’éducation, la productivité du travail mais aussi de risques majeurs dans les domaines militaires, de la surveillance et de l’oppression politique si elle n’est pas régulée par des considérations humanistes.
Les chatbots sont programmés pour provoquer une addiction de la part de leurs utilisateurs par des réponses toujours positives, flatteuses voire fourbe. La version 4 de ChatGPT le leader des agents conversationnels en 2025 et ce début 2026 a été mis en exploitation malgré ce biais sycophantique provoquant des drames humains. Exposée médiatiquement et par des procès, OpenAI a décidé le 29 janvier 2026 de retirer cette version 4 du marché. Ce livre expose et analyse des situations dont on peut espérer qu’elles soient moins nombreuses ou graves à l’avenir mais, pour autant, la mise en danger de la santé mentale, la protection de la vie privée, la mise en dépendance psychologique par ce chatbot et d’autres évoqués dans cet ouvrage, n’est pas, à la date de cet ouvrage, sérieusement encadrée par une réglementation. L’administration Trump prône le laisser-faire sur l’injonction des Magnificent Seven qui ont soutenu son élection comme 47e Président des Etats-Unis d’Amérique. La comparution en personne de Mark Suckerberg dans le procès ouvert en février 2026 contre Meta pour avoir organisé et instrumentalisé l’addiction des usagers, en particulier des adolescents et pré-adolescents de moins de 13 ans à des fins mercantiles, illustre l’enjeu sociétal majeur.
Aujourd’hui, la prévention des hallucinations provoquées par les chatbots est abandonnée à l’autodiscipline des éditeurs d’IA. La compétition féroce entre les acteurs a conduit certains comme OpenAI, Replika, Character.AI et d’autres éditeurs, selon les parties plaignantes à exposer, sciemment, leurs usagers à l’addiction et à l’irréalité, d’autres, et au premier chef, Dario Amodei, cofondateur et PDG d’Anthropic, montrent qu’il est possible de diffuser une IA raisonnée, socialement responsable, soumise à une éthique.
Le titre de cet ouvrage ChatGPT m’a tuer est, par cet faute d’orthographe volontaire ou intentionnelle du meurtrier de Guislaine Marchal en 1991, un meurtre pour lequel fut condamné son jardinier Omar Raddad condamné à la réclusion criminelle avant d’être partiellement gracié par le président Jacques Chirac en 1996. La culpabilité ou l’innocence de monsieur Raddad reste indécise. Indécise comme celle de l’IA dans les délusions relatées dans ce livre. Il est, à la lecture des échanges authentiques entre des personnes tombées dans le « Rabbit Hole », le trou du lapin, comme Alice aux pays des merveilles, et Néo du film Matrix, évident que les « âmes sœurs » virtuelles ont aggravées l’insanité de certains usagers ; la question de la responsabilité de la victime, celle de leurs prédispositions médicales par des fragilités mentales comme le syndrome d’Asperger, celle des circonstances de la vie : solitude, rupture sentimentale, perte d’emploi… ou un abus d’alcool, de drogues… le manque de sommeil dans les crises de psychose. Les entourages qui n’ont pas aperçu ou minoré les dérives de leur proche se culpabilisent également.
Le lecteur se fera donc, à la lecture, des pièces du dossier ici rassemblées, comme pour l’affaire Omar Raddad, sur la responsabilité de chacun, celle des éditeurs d’agents conversationnels, celle des victimes, celle de leur entourage, celle des pouvoirs publics.
Des liens hypertexte permettent de consulter les sources documentaires, une bibliographie de travaux universitaires de recherche ainsi que les monographies des principaux éditeurs évoqués dans ces pages complètent le livre organisé autour de brèves nouvelles, toutes inspirées d’« histoires vraies », de personnages dont les noms sont conservés quand ils ont été rendus publics par la presse, mais comportant une partie de fiction pour les faits restés occultés. La plupart de ces nouvelles sont dramatiques ; nous nous sommes autorisés l’ironie pour les courts récits drolatiques rassemblés sous le chapitre Tout ce que vous avez toujours voulu savoir sur le sexe et l’IA sans oser le demander.
« Pour être clair : autant qu’on le sache, l’IA ne cause pas la psychose. Elle la DEVOILE en utilisant n’importe quelle histoire connue déjà par votre cerveau » écrit le docteur Keith Sakata le 11/08/2025 sur X, cette phrase résume l’enjeu, protéger certains esprits fragiles de ce que le praticien qualifie de « miroir hallucinatoire ».
Notre recherche retrace une vingtaine de drames liés à un usage abusif des agents conversationnels, ceux médiatisés, il est probable que les cas se comptent en centaines ce qui au regard des centaines de millions d’usagers des chatbots incriminés est infinitésimal, objecteront les éditeurs qui, témoignages à l’appui, valorisent les satisfactions apportées à des personnes solitaires ayant besoin de se confier à une âme-sœur fût-elle virtuelle, mais ces ‘quelques’ drames sont de trop et montrent le cynisme ou, à tout le moins, le manque d’éthique de certains dirigeants qui privilégient la course à la part de marché sur la protection des utilisateurs. Surtout, la question d’un encadrement des usages conversationnels de l’IA est aujourd’hui une question ouverte, abandonnée trop largement par les pouvoirs publics à l’autodiscipline des éditeurs.
Une précision technique : pour tester si, à la date de la rédaction de cet ouvrage (février 2026), les chatbots présentaient des biais de flatterie excessifs nous nous sommes appuyés sur les versions gratuites des LLM car elles sont généralement la version n-1 des logiciels commercialisés en version professionnelle et les plus susceptibles d’être employés par un public d’adolescents. Le progrès en matière de langages d’IA est si rapide et certaines corrections apportées après les scandales médiatisées par la presse rendent les faits relatés en partie obsolètes mais cette obsolescence de ce que Dario Amodei, le dirigeant d’Anthropic, appelle « une technologie en adolescence » n’exonère en rien la responsabilité des éditeurs ayant mis à la disposition de centaines de millions d’usagers des logiciels insuffisamment encadrés de garde-fous car insuffisamment testés ou, pire, commercialisés connaissant leurs biais afin de gagner des parts de marché.
Ce livre nous engage à un usage raisonné de l’IA pour ne pas la voir nous échapper comme les balais porteurs d’eau dotés de vie par Mickey apprenti sorcier du film Fantasia de Walt Disney, ou vouloir notre fin comme Hal 9000 du film 2001, L’Odyssée dans l’espace de Stanley Kubrick.
Christophe Stener
Mars 2006
EN
ChatGPT killed me !
Introductory Remarks
This book writin was initiated by the reading of press articles about people who, after long conversations with an AI avatar, fell into psychoses, were driven to delusions, some committing irreparable acts: killing themselves, murdering a loved one, as the matricide whose real story is reconted hereafter.
AI is the 5th industrial revolution, the promise of positive advances in medical research, education, and labor productivity…, but also encompass huge sosial risks : AI uncontroled by human intelligence arms, people surveillance, political oppression…. if not regulated by humanist considerations.
Chatbots are trained to addict their users through consistently positive, flattering, and even deceitful responses. Version 4 of ChatGPT, the widely dominant usage chatbot in 2025, launched despite or because (?) of its sycophantic bias, is associated with some human tragedies. Confronted by bad media coverage and open lawsuits, OpenAI decided on January 29, 2026, to withdraw version 4 of its bot from the market.
This book presents and analyzes situations that we hope will be less frequent or severe in the future. However, the endangerment of mental health, the protection of privacy, and the psychological dependence fostered by this GPT-4 and others players discussed in this book is not, at the time of this writing, adequately addressed by regulations. The Trump administration advocates a laissez-faire approach to please the Magnificent Seven who supported his election as the 47th President of the United States. Mark Suckerberg’s personal appearance in the trial opened in February 2026 against Meta for organizing and exploiting user addiction, particularly among teenagers and pre-teens under 13, for commercial gain, illustrates the major societal challenge.
Today, preventing hallucinations induced by chatbots is left to the self-regulation of AI developers. The fierce competition among these players has led some, such as OpenAI, Replika, Character.AI, according to the aired plaintiffs, to knowingly expose their users to addiction and unreality. Other players, most notably Dario Amodei, co-founder and CEO of Anthropic, commit theselves to deploy an ethical AI i.e.socially responsible.
The provocative book title, ChatGPT m’a tuer (ChatGPT Killed Me), is taken from a much wellknown in France criminal case, the murder of Guislaine Marchal in 1991, a murder for which her gardener, Omar Raddad, was sentenced to life imprisonment before being partially pardoned by President Jacques Chirac in 1996. Mr. Raddad’s guilt or innocence remains undecided.
As well open question to be decided by the pending trials in the USA the question of who is responsible of the AI psychosis.
The reading of the authentic exchanges between people who have fallen into the « Rabbit Hole, » like Alice in Wonderland and Neo from the film The Matrix, suggests that virtual « soulmates » have exacerbated the insanity of some users. The question of the victim’s responsibility arises, as does the question of their medical predispositions due to mental vulnerabilities such as Asperger’s syndrome, and the question of life circumstances: loneliness, romantic breakups, job loss… or alcohol or drug abuse… sleep deprivation during psychotic episodes. The victims family, friends, compagnion who failed to notice or downplayed their loved one’s erratic behavior may also feel guilty.
It is up to each reader, after reviewing the documents gathered here, to decide, as in the Omar Raddad case, who is responsible : the chatbot developers, that of the victims, that of their families and friends, and that of the public authorities.
Hyperlinks provide access to documentary sources, a bibliography of academic research works, and AI monographs complement the book, which is organized around short stories, all inspired by « true stories » of characters whose names are retained when they have been made public by the press. Our short novels are partly fictional for some missing or undisclosed facts.
Most of these stories are very dramatic. Nonetheless we have allowed ourselves irony for some humorous and erotic short tales gathered under the chapter « Everything You Always Wanted to Know About Sex and AI But Were Afraid to Ask » pastiching famous Woody Allen film title.
« To be clear: as far as we know, AI doesn’t cause psychosis. It REVEALS it by using any story your brain already knows, » wrote Dr. Keith Sakata on August 11, 2025, on X. This sentence sums up the issue: protecting certain fragile minds from what the practitioner calls « a hallucinatory miror. »
Our research uncovers around twenty tragedies linked to chatbots. While the number of high-profile cases runs likely into the hundreds, AI firms may argue that, compared to the hundreds of millions of users of the implicated chatbots, this is infinitesimal. They will emphasize, with testimonials to back up their claims, the satisfaction provided to lonely individuals needing to confide in a soulmate, even a virtual one. But these « few » tragedies are one too many and reveal the cynicism, or at the very least, the lack of ethics, of certain executives who prioritize the race for market share over user protection.
Above all, the question of regulating the conversational uses of AI remains an open one, too often left by public authorities to the self-regulation of publishers.
A technical clarification: to test whether, at the time of writing this book (January-February 2026), chatbots still exhibiting excessive flattery bias, we relied on outdated versions of LLMs (Language Learning Models) because the free versions are generally the previous version (n-1) of the software marketed in professional versions but we object that the free version is the most likely to be used by a teenage audience, at least from start. Progress in AI languages is so rapid, and some corrections made after scandals publicized by the press does make the reported facts partly obsolete. However, this fast obsolescence of, to quote Dario Amodei, the head of Anthropic, « AI a technology in adolescence », in no ways absolves the responsibility of the publishers who have exposed hundreds of millions of users to insufficiently safeguarded or tested softwares or, worse according to some plaintifs, have released their chatbots knowing its dangerous sycophant biases to gain market share, to make money.
This book claim for a responsible and ethical AI to protect people, notably young ones, from falling like Alice in the rabbit hole, looss control of the water-carrying brooms enlived by Mickey Mouse in Walt Disney’s Fantasia, or face another humanity killer as AI in Stanley Kubrick’s 2001: A Space Odyssey Hal 9000.
« To be clear: as far as we know, AI doesn’t cause psychosis. It REVEALS it by using any story your brain already knows, » wrote Dr. Keith Sakata on August 11, 2025, on X. This sentence sums up the issue: protecting certain fragile minds from what the practitioner calls « a hallucinatory miror. »
Our research uncovers around twenty tragedies linked to chatbots. While the number of high-profile cases runs likely into the hundreds, AI firm argue that, compared to the hundreds of millions of users , this is infinitesimal. Their CEOS emphasize, with testimonials to back up their claims, the satisfaction provided to thousands lonely individuals needing to confide in a soulmate, even a virtual one. But these « few » tragedies are one too many and reveal the cynicism, or at the very least, the lack of ethics, of certain executives who prioritize the race for market share over user protection.
The question of state regulating the conversational uses of AI remains an open one, left to the self-regulation of publishers.
A technical clarification: to test whether, at the time of writing this book (January-February 2026), chatbots still exhibiting excessive flattery bias, we may have relied on outdated versions of LLMs (Language Learning Models) because the free versions are generally the previous version (n-1) of the software marketed in professional versions but the free version is the most likely to be used by a teenage audience, at least from start. Progress in AI languages is so rapid, and some corrections made after scandals publicized by the press does make the reported facts partly out of date. However, this fast obsolescence of, to quote Dario Amodei, the head of Anthropic, « AI a technology in adolescence », in no ways absolves the responsibility of the publishers who have exposed hundreds of millions of users to insufficiently safeguarded or tested softwares or, worse according to some plaintifs, have released their chatbots knowing its dangerous sycophant biases to gain market share, to make money.
This book claim for a responsible and ethical AI to protect people, notably young ones, from falling in the Rabbit hole, looss control of the water-carrying brooms enlived by Mickey Mouse in Walt Disney’s Fantasia, or face another humanity killerdriven such as Al 9000 in Stanley Kubrick’s 2001: A Space Odyssey.
March 2006