Il Garante sanziona Character.AI: 158.000 euro, i minori e la verifica dell’età

All’ingresso di un locale, il buttafuori che chiede soltanto «quanti anni hai?» lascia entrare chiunque sappia fare una sottrazione. L’8 aprile 2025 l’ufficio del Garante per la protezione dei dati personali ha fatto la prova su Character.AI, il servizio in cui si creano personaggi virtuali e ci si chiacchiera: ha creato un account sulla versione web con l’età dichiarata di un quindicenne italiano. L’iscrizione è riuscita, anche se la società diceva di tenere fuori, nello Spazio economico europeo, chi ha meno di sedici anni. E il profilo del sedicente minorenne era pubblico per impostazione predefinita.

È uno dei fatti alla base del provvedimento n. 487 del 3 luglio 2026, reso noto con un comunicato del 9 luglio: 158.000 euro di sanzione a Character Technologies Inc., la società di Menlo Park, in California, che gestisce il servizio. L’istruttoria era partita d’ufficio nel novembre 2024; Character.AI, ha detto la società in audizione, parla italiano dall’8 aprile 2024.

Cinque violazioni accertate, due no

• L’informativa. Quella del 2023 era solo in inglese anche dopo l’arrivo del servizio in italiano. Quella dell’agosto 2025 era tradotta male (una «lamentela» all’autorità al posto del «reclamo»), indicava più basi giuridiche per la stessa finalità e tempi di conservazione generici, al condizionale.
• Il pre-addestramento. La società dice di aver addestrato i suoi modelli soprattutto su dati pubblicamente disponibili in internet, e considera «incidentale» la presenza di dati personali. Per il Garante verificarlo è onere di chi addestra, e gli interessati italiani andavano informati (articolo 14 del GDPR): i post su forum di terzi come Reddit e Discord non sono un’informativa.
• I minori. Misure inadeguate fra l’8 aprile e il novembre 2024 per tutti i minorenni, e fino all’8 aprile 2025 per gli italiani sotto i sedici anni (articoli 24 e 25). Il provvedimento richiama anche le notizie di atti di autolesionismo di minorenni legati a relazioni con chatbot.
• La valutazione d’impatto. La prima porta la data del 14 novembre 2024, pochi giorni dopo la prima richiesta del Garante. Andava fatta prima del lancio, nel settembre 2022: per l’Autorità la sola novità dell’AI generativa bastava a renderla obbligatoria.
• Il rappresentante nell’UE. Chi non ha sede nell’Unione e vi offre un servizio deve nominarne uno (articolo 27). Character l’ha fatto il 31 maggio 2025, con VeraSafe Ireland.

Due contestazioni sono cadute: il link al rappresentante che finiva su una pagina di errore, un errore materiale corretto subito, e la mancanza di un modo per opporsi in anticipo all’addestramento. Quell’opposizione incondizionata la raccomanda il parere 28/2024 del Comitato europeo per la protezione dei dati, del 17 dicembre 2024, che per il Garante non vale all’indietro; e l’ultimo pre-addestramento di Character, dichiara la società, è anteriore.

Perché 158.000 euro

Per violazioni su trattamenti collegati il GDPR fissa il tetto della più grave, qui la trasparenza: fino a 20 milioni di euro o al 4 per cento del fatturato mondiale, se più alto. Da lì il Garante è sceso: gravità «di livello medio», colpa non grave, e tre attenuanti, cioè le misure prese sull’età, nessuna violazione precedente e la collaborazione. Pesano anche le dimensioni: il provvedimento chiama Character una start-up (dipendenti, fatturato e utenti italiani sono omessi nel testo pubblicato). La società può chiudere pagando la metà, 79.000 euro, entro il termine per il ricorso in tribunale.

Nel 2025 il Garante aveva sanzionato per 5 milioni Luka Inc., che gestisce il chatbot Replika, anche perché all’epoca del blocco dell’app, nel febbraio 2023, non c’era alcuna verifica dell’età; contro quel provvedimento pende un’opposizione, secondo la nota che il Garante riporta sul suo comunicato, ancora presente al 24 settembre 2026. A OpenAI erano toccati 15 milioni, con un provvedimento del novembre 2024 che contestava anche la mancata verifica dell’età su ChatGPT; ma il Tribunale di Roma, con la sentenza n. 4153/2026 pubblicata il 18 marzo 2026, ha accolto l’opposizione e annullato il provvedimento. Non nel merito: secondo le motivazioni riportate dalla stampa giuridica, da quando, nel febbraio 2024, OpenAI ha in Irlanda una sede europea riconosciuta, la competenza era dell’autorità irlandese. Tre chatbot, tre volte il tema dell’età.

Che cosa deve fare adesso

Entro 120 giorni dalla notifica Character deve mettersi in regola e dire al Garante come.

• Sull’età: far funzionare per gli utenti italiani la soglia dei sedici anni che la società stessa si è data nello Spazio economico europeo; rendere efficace il meccanismo che impedisce a chi è stato respinto di ritentare l’iscrizione (il provvedimento pubblicato ne omette il nome, il comunicato lo chiama «periodo di raffreddamento»); rendere privati per impostazione predefinita i profili dei minorenni.
• Sull’informativa, riscritta dal 1° luglio 2026 ma ancora insufficiente: basi giuridiche chiare, criteri di conservazione per ogni finalità, i Paesi extra UE a cui vanno i dati. E sul post-addestramento dei modelli con i dati degli utenti: distinguere gli europei dagli statunitensi, perché per gli europei, a una data omessa nel testo pubblicato, non era ancora cominciato; e, se è partito, spiegare in modo chiaro, e in italiano, come opporsi.
• Sui dati degli italiani raccolti per il pre-addestramento, attività cessata: tenerli solo per una finalità compatibile, altrimenti cancellarli.

Intanto il servizio è cambiato. Dal novembre 2024 i minorenni usano una versione separata, con un modello dedicato e personaggi limitati; dal febbraio 2026, in Italia, non possono più avere conversazioni aperte con i personaggi. Durante l’uso un modello proprietario stima l’età dalle interazioni: chi risulta verosimilmente minorenne passa alla versione per i minori e, se contesta, a un fornitore esterno, Persona, che chiede un selfie e, solo se non basta, un documento, conservati sette giorni. Per l’Autorità questa combinazione raggiunge oggi «un livello di protezione adeguato ai rischi rilevati».

Che cosa ne ricava chi costruisce un chatbot

• Non avere una sede in Europa non mette al riparo. Chi offre un servizio a persone che si trovano nell’Unione è soggetto al GDPR; e senza uno stabilimento nell’UE non c’è lo sportello unico, ogni autorità nazionale può procedere da sola.
• La valutazione d’impatto viene prima del lancio. Per l’elenco del Garante del 2018 è obbligatoria con l’AI quando c’è anche un altro criterio di rischio, come i dati su larga scala o gli interessati vulnerabili. Le valutazioni interne non documentate non contano.
• Nessun metodo di verifica dell’età è imposto, ma quello scelto deve funzionare. Qui il Garante dà ragione alla società: il GDPR non prescrive una tecnica, e uno standard europeo non c’è. Però una soglia dichiarata che non regge alla prova pesa contro chi l’ha dichiarata. Lo schema accettato è a strati: autodichiarazione, stima dell’età durante l’uso, verifica esterna in caso di contestazione, contenuti ristretti per i minori; e ora, per ordine del Garante, profili privati.
• Chi addestra deve sapere che cosa c’è nei dati. Sostenere che le operazioni di addestramento «potrebbero non aver comportato» il trattamento di dati personali equivale, per il Garante, ad ammettere di non aver controllato.

Centocinquantottomila euro sono pochi, accanto ai 5 milioni di Replika e ai 15 chiesti a OpenAI. Il precedente che conta è un altro: l’Autorità non si è fermata alla privacy policy, ha aperto un account e ha dichiarato quindici anni. Per chi costruisce un servizio aperto ai ragazzi, la conformità si misura lì, sul modulo di iscrizione, e non nel documento che lo descrive.