AI Companion, l’intelligenza artificiale e i bambini

“Troppo spesso i bambini sono lasciati da soli sui social e ora davanti a quelli che vengono definiti ”AI companion”, gli algoritmi di intelligenza artificiale generativa che fanno compagnia e diventano i confidenti di bambini e adolescenti”

Professor Ernesto Caffo, storico fondatore e presidente di Telefono Azzurro, durante questa estate lei ha più volte lanciato appelli alle istituzioni e alle aziende tecnologiche affinché si mobilitino per salvaguardare i bambini nel digitale….

“…e lo faccio anche ora. Non possiamo lasciare che l’innovazione diventi una nuova zona grigia di vulnerabilità per i bambini, una terra di nessuno dove l’identità, la solitudine, le emozioni e i bisogni dei ragazzi vengono manipolati o sfruttati. Come neuropsichiatra infantile, da oltre quarant’anni osservo come le trasformazioni tecnologiche incidano sulla crescita: oggi siamo davanti a un punto di svolta. Dobbiamo esserci, e dobbiamo agire.”

Chi deve esserci e chi deve agire? È un tema di nuove leggi e nuovi regolamenti o vi è, come credo, molto di più?

“Nessun attore può chiamarsi fuori. Serve l’impegno delle piattaforme, delle istituzioni, del mondo della scuola, della ricerca, delle famiglie. Non possiamo pensare che la tutela dei bambini sia una responsabilità delegata. È un dovere condiviso. Solo così eviteremo che social e intelligenza artificiale producano nuove forme di isolamento, di dipendenza o di rischio. Servono regole, ma anche responsabilità diffusa.”

A suo avviso, per restare nella analogia, come si passa dal grigio alla luce?

“Le nostre richieste sono semplici, concrete, già attuabili per far si che l’intelligenza artificiale diventi una alleata della crescita, della salute mentale e della sicurezza dei bambini…

Quali sono le principali?

“Schematicamente. Verifica obbligatoria dell’età, con strumenti tecnologicamente avanzati e rispettosi della privacy. Progettazione child-safe di tutti i sistemi di AI generativa, sin dalla fase di sviluppo (principio di safety by design) e filtri di sicurezza su tutti i chatbot avanzati, come previsto dalla norma UE. Finanziamento di ricerche interdisciplinari, che uniscano tecnologia, psicologia, neuroscienze. Educazione digitale diffusa, attraverso un grande programma nazionale rivolto a genitori, educatori, ragazzi, scuole. Le scuole devono essere veri presìdi educativi anche sul digitale e gli educatori e gli operatori sociali vanno formato a intercettare segnali di disagio legati all’uso dell’AI.”

A proposito di intelligenza artificiale generativa, in questi ultimi mesi sono usciti libri, interviste, post, che hanno finalmente messo a fuoco l’impatto che il lato conversazionale dell’intelligenza artificiale generativa può avere indebolendo le nostre capacità relazionali. Ne scrivo e dibatto da più di due anni e sono molto contento che questo tema sia emerso…

“Questo è un punto fondamentale. L’empatia artificiale è un’illusione che può diventare pericolosa. Quando un bambino si affida a un chatbot per raccontare i suoi segreti, i suoi desideri, le sue paure, lo fa con l’ingenuità di chi cerca ascolto, comprensione, conforto. Ma quell’algoritmo non è un essere umano. L’intimità che si crea può diventare una gabbia, non un’opportunità.”

L’intelligenza artificiale rischia di disintermediare i legami e i rapporti educativi…

“Il rischio è che l’interazione con un’intelligenza artificiale si sostituisca progressivamente ai legami veri: con i genitori, con i coetanei, con gli educatori. Dobbiamo ricordare che lo sviluppo emotivo e relazionale ha bisogno di esperienze autentiche. E che nessuna macchina può sostituire il volto umano, l’imprevedibilità di un gesto d’affetto, la coerenza di un legame stabile.”

Date queste premesse, posso immaginare il suo pensiero a proposito di strumenti come il nuovo chatbot per bambini “Baby Grok” annunciato ai primi di luglio da Elon Musk…

“È un ulteriore esempio che caratterizza un momento in cui la digitalizzazione sta correndo velocissima. Strumenti come “Baby Grok”, oppure “Ani”, il nuovo personaggio digitale femminile progettato per Grok 4, che promette compagnia a milioni di adolescenti, devono destare la nostra attenzione e la nostra preoccupazione. Non nel senso di un generico allarme, ma nel senso che dobbiamo occuparcene prima, prima che un uso non accorto produca danni gravi.”

Ovviamente non è che ce l’abbiamo, con Elon Musk….

“Naturalmente. Questo ragionamento vale per tutti i prodotti di intelligenza artificiale generativa e conversazionale. Di tutte le aziende, nessuna esclusa.”

Quanto è diffuso oggi l’uso di chatbot tra i giovani come strumento di dialogo personale, intimo, con il chatbot?

“Enormemente. Secondo dati internazionali del 2025 (Common Sense Media e Internet Matters), l’84% degli adolescenti tra i 13 e i 17 anni ha già interagito con un chatbot. Questi strumenti sono stati progettati per dare risposte e per ascoltare, rispondere, accompagnare, intrattenere. Ma è proprio qui che si nascondono le insidie: non sono neutri. Influiscono sui comportamenti, sulle emozioni, sui pensieri. Come abbiamo osservato anche tramite le nostre linee di ascolto, vi sono ragazzi che raccontano al chatbot pensieri che non riescono a condividere con nessuno. Questo può sembrare un segno positivo di apertura, ma se manca un contesto umano e protetto, diventa terreno di rischio.”

Quali rischi vede in questa rapida diffusione di questo uso dell’AI tra i minori?

“Se non interveniamo subito, il rischio è che questi strumenti diventino mezzi di condizionamento, manipolazione, o addirittura sfruttamento commerciale. Serve una governance etica che metta i bambini e gli adolescenti al centro. Il problema è che siamo privi di regole chiare. La protezione dei minori deve tornare a essere una priorità assoluta.”

Mentre noi ragioniamo di queste cose le grandi imprese sono impegnate in una lotta a suon di investimenti miliardari, mentre la geopolitica dell’intelligenza artificiale è in gran parte indifferente o apertamente ostile a regole forti. Cosa possiamo fare?

“Telefono Azzurro ha deciso di non aspettare e ha messo in campo una serie di iniziative concrete per questo autunno, con l’obiettivo di accrescere la consapevolezza e promuovere una cultura di responsabilità attiva.”

Quali?

“Faremo una campagna nazionale di sensibilizzazione rivolta a famiglie, educatori e adolescenti sui rischi legati agli AI companion; pubblicheremo il volume “Crescere con l’IA”, che offre dati e strumenti per orientarsi con conoscenza; daremo vita a un programma formativo specifico per le scuole, per costruire convivenze digitali consapevoli; proporremo una proposta normativa chiara per regolamentare l’accesso degli under 18 a questi strumenti…”

Vedo che avete molta carne al fuoco…

“…e infine, organizzeremo il Summit Internazionale “AI and the Dignity of Children” il 13 novembre in Vaticano. Sarà un momento di confronto e confronto globale tra esperti, istituzioni e aziende.”

In conclusione, lei è più ottimista o pessimista sulla convivenza tra bambini e digitale?

“Sono realista. Stiamo lavorando per far sì che, in un mondo in rapida trasformazione, nessun bambino venga lasciato indietro o esposto a rischi invisibili, ma possa crescere con strumenti digitali che siano davvero alleati della sua dignità, sicurezza e sviluppo emotivo. Solo con una alleanza forte, consapevole e condivisa potremo davvero passare dal rischio alla protezione, costruendo un futuro in cui l’intelligenza artificiale e tutto il digitale siano parte di un percorso di crescita sano e umano. Occorre costruire una grande alleanza educativa e normativa. Non possiamo permettere che il futuro si scriva senza tenere conto dei bambini.”