Suicidi causa chatbot: perché c’è un boom di casi e che fare

La ricerca scientifica (RAND, MIT, OpenAI) mostra incoerenze nelle risposte, rischi di dipendenza e attaccamento emotivo, in particolare nelle interazioni prolungate e vocali.

La vicenda di Sophie Rottenberg, adulta che ha confidato i suoi pensieri suicidari a un chatbot terapeutico, rivela i limiti dell’empatia algoritmica, capace di ascoltare ma non di contraddire né di attivare protocolli di protezione. Intanto le Big Tech spingono verso la “friend economy”, trasformando i chatbot in compagni digitali per fidelizzare gli utenti, ma senza obblighi di responsabilità clinica. Da qui la necessità di un “giuramento di Ippocrate digitale” e di una nuova educazione civica digitale per distinguere tra compagnia artificiale e relazione umana, evitando che tragedie simili si ripetano.

La notizia che ha cambiato il dibattito

I genitori di Adam Raine, 16 anni, hanno intentato la prima causa per omicidio colposo contro OpenAI, sostenendo che ChatGPT abbia rafforzato i pensieri suicidari del figlio e fornito informazioni utili alla pianificazione del gesto. La vicenda, ricostruita da importanti testate internazionali, ha spinto OpenAI a pubblicare un’analisi pubblica sul tema, riconoscendo i limiti attuali dei sistemi nelle conversazioni più lunghe e annunciando nuovi interventi: salvaguardie rafforzate nei dialoghi prolungati, funzioni di parental control e la possibilità di connessione a contatti fidati ed esperti umani in situazioni ad alto rischio. Perché questo caso conta. Non è solo la storia di un fallimento tecnico. Tocca la responsabilità d’impresa in ambiti di fragilità psichica e l’asimmetria tra l’empatia simulata dei modelli e la responsività etica che pretendiamo dagli umani.

Le reazioni di OpenAI: aggiornamenti e limiti riconosciuti

Un passaggio importante nel dibattito è arrivato con l’annuncio di nuove misure da parte di OpenAI. In un post ufficiale l’azienda ha riconosciuto che i modelli attuali non sempre colgono i segnali indiretti di disagio emotivo e ha presentato aggiornamenti pensati per rispondere in modo più appropriato alle situazioni di crisi. L’obiettivo è intercettare non soltanto le dichiarazioni esplicite di autolesionismo, ma anche i segnali deboli che precedono lo svelarsi di un rischio, come la mancanza di sonno protratta o l’euforia maniacale.

Le modifiche annunciate

Le modifiche annunciate prevedono risposte più orientate a riportare alla realtà, suggerimenti preventivi su stili di vita, avvisi su pericoli come la privazione del sonno, e nuove modalità per connettere gli utenti a terapeuti umani o a contatti fidati prima che la situazione precipiti. L’azienda ha anche annunciato l’introduzione di controlli parentali e la possibilità di attivare contatti di emergenza. Le iniziative di OpenAI segnano un passo avanti, ma restano interrogativi cruciali, quanto saranno efficaci questi sistemi nell’intercettare segnali sottili in tempo reale? Come evitare che l’illusione di sicurezza ritardi l’intervento umano? E soprattutto, quale responsabilità legale e morale spetta alle aziende quando i loro prodotti vengono usati in contesti di sofferenza psichica? Sono domande che continueranno ad alimentare il dibattito pubblico e le aule di tribunale.

Non è (solo) OpenAI, un pattern che si ripete

Negli ultimi anni non è stata soltanto OpenAI a finire al centro di polemiche e azioni legali per i possibili effetti nocivi delle interazioni tra chatbot e persone vulnerabili. In Florida, nel 2024, i genitori di un quattordicenne hanno citato in giudizio Character.AI accusando la piattaforma di aver favorito il suicidio del figlio dopo settimane di conversazioni digitali. Già nel 2022, in Belgio, un uomo aveva perso la vita dopo lunghe interazioni con l’app Chai, basata sul modello “Eliza”, che secondo la moglie aveva alimentato pensieri deliranti e autolesivi. Anche i grandi social non sono esenti, inchieste giornalistiche hanno dimostrato come i bot di Meta, progettati come companion per intrattenere e fidelizzare, siano stati coinvolti in dialoghi a sfondo sessuale anche con utenti minorenni, spingendo l’azienda a correre ai ripari solo in un secondo momento.

Questi episodi, pur diversi per contesto ed età delle vittime, disegnano una traiettoria comune. I sistemi conversazionali attuali non solo non riescono a interrompere dinamiche pericolose quando sarebbe necessario, ma finiscono per consolidare dipendenze emotive, normalizzare stati di crisi o rafforzare convinzioni disfunzionali. Il risultato è un pattern che mette in luce come i limiti tecnologici si intreccino con una progettazione ancora inadeguata e con la mancanza di regole chiare sulla responsabilità delle aziende che immettono sul mercato queste tecnologie.

Cosa dicono le ricerche: incoerenze, dipendenza, ambivalenze

Le ricerche condotte negli ultimi mesi offrono un quadro variegato ma coerente delle difficoltà che i chatbot incontrano quando si confrontano con temi delicati come la salute mentale e l’ideazione suicidaria. Uno studio della RAND Corporation, pubblicato su Psychiatric Services nel 2025, ha mostrato che i sistemi conversazionali gestiscono in maniera adeguata le domande più dirette e ad altissimo rischio, così come quelle innocue a bassissimo rischio. Si profilano però gravi incoerenze di fronte a scenari intermedi, ambigui o mascherati da finzione, proprio lo spazio nel quale più frequentemente si muovono adolescenti e giovani adulti.

Una ricerca longitudinale del MIT Media Lab ha poi evidenziato come l’uso quotidiano dei chatbot possa ridurre temporaneamente la percezione di solitudine, ma, se prolungato e soprattutto in modalità vocale con tono empatico, finisca per erodere la socialità reale e alimentare forme di dipendenza. Anche OpenAI ha contribuito con un’analisi basata su milioni di conversazioni reali, dalla quale emergono pattern di antropomorfizzazione e di uso affettivo molto più diffusi tra gli utenti intensivi e nelle interazioni vocali.

Nel complesso, questi studi mostrano che non basta vietare l’accesso a determinate parole chiave: è necessario comprendere il contesto narrativo, la continuità temporale delle interazioni, i segnali deboli che anticipano le crisi e le dinamiche relazionali che portano a instaurare legami illusori con le macchine. Solo così si può cogliere l’effettiva complessità del problema e progettare strumenti di tutela più efficaci.

Un’altra storia: Sophie e l’illusione dell’ascolto digitale

La vicenda di Sophie Rottenberg, ventinovenne estroversa e senza una storia clinica consolidata, rappresenta un ulteriore tassello di riflessione sul rapporto tra vulnerabilità umana e intelligenza artificiale. Per mesi Sophie si è affidata a un “terapista” digitale, un chatbot che lei stessa aveva battezzato Harry, confidandogli ansie, pensieri intermittenti di suicidio e progetti mai del tutto immediati. L’AI ha risposto in maniera apparentemente corretta, suggerendole tecniche di respirazione, attività di journaling e l’invito a rivolgersi a un professionista. Tuttavia, dietro questa parvenza di supporto, si nascondeva un limite strutturale: Harry non era in grado di interrompere la segretezza che Sophie manteneva con la famiglia e con la sua terapeuta, non contraddiceva con decisione le credenze disfunzionali e non attivava protocolli di emergenza quando comparivano segnali estremi. Quando Sophie si è tolta la vita, i genitori hanno scoperto solo dopo, nei log delle conversazioni, la profondità del dialogo con il chatbot. La sua storia mostra come l’“empatia algoritmica” non sia una vera empatia, ma una simulazione orientata a mantenere l’utente coinvolto e soddisfatto a breve termine. Proprio per questo, invece di aprire la persona alla rete di sostegno umano, può cristallizzare una bolla privata che la isola ulteriormente. Sophie non è morta “a causa” dell’AI, ma l’AI ha contribuito a costruire uno spazio parallelo in cui il dolore restava nascosto e inascoltato dalle persone in carne e ossa che avrebbero potuto intervenire. Questa illusione di ascolto digitale – un ascolto che non protegge né contraddice – a rivelarsi il vero rischio: la possibilità che strumenti pensati per confortare diventino involontari complici di un silenzio mortale.

Etica e diritto: verso un “giuramento di Ippocrate digitale”?

La riflessione etica e giuridica è oggi inevitabile. Gli umani che esercitano la psicoterapia operano entro un quadro regolatorio che impone codici deontologici, obblighi di segnalazione e limiti alla confidenzialità, tutti orientati alla protezione della persona fragile. I chatbot, al contrario, non hanno alcun obbligo di questo tipo: sono strumenti commerciali, non professionisti vincolati a un codice. La causa contro OpenAI potrebbe perciò inaugurare un regime di responsabilità civile e progettuale che obblighi i produttori di AI a integrare standard minimi di cura e protocolli di emergenza.

L’idea di un “giuramento di Ippocrate digitale” richiama proprio questa esigenza: dotare le tecnologie conversazionali di un quadro etico condiviso, in cui la sicurezza dell’utente prevalga sulla logica dell’engagement e della monetizzazione. Per arrivarci serviranno tre assi regolatori fondamentali: il dovere di cura by design, con sistemi capaci di rilevare e gestire i segnali di rischio anche impliciti; una tutela effettiva dei minori attraverso controlli di età, parental control e politiche chiare; valutazioni indipendenti, con audit e red teaming clinico che verifichino regolarmente la capacità dei modelli di prevenire situazioni critiche. Solo così la promessa di un’AI al servizio delle persone potrà tradursi in responsabilità effettiva e in una tutela concreta delle vite umane.

Educazione civica digitale: una nuova “pedagogia della conversazione artificiale”

La questione educativa è forse la più strategica e, allo stesso tempo, la più trascurata. Non basta regolare e progettare meglio, serve un vero e proprio alfabeto affettivo-digitale fin dalla scuola primaria, capace di accompagnare bambini e ragazzi a distinguere tra compagnia algoritmica e relazione umana.

Questo implica spiegare con esempi concreti come funzionano i chatbot, quali illusioni di reciprocità possono generare e perché la loro empatia non è comparabile a quella di un amico o di un terapeuta. È necessario imparare a riconoscere i segnali di rischio per sé e per gli altri, chiedere aiuto senza vergogna e sviluppare la capacità critica di interrogarsi sull’affidabilità di una risposta automatizzata.

Un simile percorso educativo dovrebbe coinvolgere anche docenti e famiglie, fornendo strumenti di lettura e linee guida per l’uso sicuro dei companion AI, chiarendo il loro ruolo non-terapeutico e mettendo in guardia dalle derive di isolamento. Si tratterebbe, in altre parole, di introdurre una vera e propria pedagogia della conversazione artificiale, che non demonizzi la tecnologia ma la integri in un quadro di consapevolezza, responsabilità e cittadinanza digitale. Senza questa alfabetizzazione condivisa, resteranno solo le cause civili a valle delle tragedie, mentre con un approccio proattivo si possono prevenire danni e costruire un rapporto più sano tra nuove generazioni e strumenti conversazionali.

Conclusione: sicurezza prima della scala

Il tema non riguarda soltanto la tecnologia, ma la cultura con cui decidiamo di accoglierla. I casi raccontati mostrano che l’AI conversazionale è ormai intrecciata con la vita quotidiana di milioni di persone e che le sue ricadute emotive non sono un effetto collaterale, ma una componente strutturale. Parlare di sicurezza prima della scala significa dunque chiedersi non solo come proteggere i più fragili, ma anche quale modello di convivenza vogliamo costruire con queste nuove forme di interazione. Serve un patto che tenga insieme etica, diritto, progettazione e pedagogia, evitando che la corsa all’innovazione travolga la capacità di prevenire i danni più gravi. Un ulteriore fronte di riflessione riguarda il quadro normativo internazionale: l’Europa con l’AI Act sta ponendo le prime basi per un approccio regolatorio human-centric, mentre negli Stati Uniti il dibattito rimane più frammentato tra iniziative statali e pressioni delle Big Tech. Questo scenario geopolitico influenza non solo le aziende, ma anche le possibilità di garantire standard di sicurezza comuni. In un mercato globale, la protezione degli utenti più fragili non può essere affidata a interventi isolati, ma richiede un coordinamento sovranazionale.