A un’app di «nudificazione» basta una foto qualsiasi: quella del profilo, quella delle vacanze, scattata con i vestiti addosso e pubblicata senza pensarci. Il resto lo fa un modello generativo, che restituisce la stessa persona senza vestiti, abbastanza verosimile da sembrare vera. Finora chi ne era vittima aveva soprattutto strumenti che arrivano dopo: la denuncia, il reclamo per la privacy, la richiesta di rimozione. Dal 2 dicembre 2026 il diritto europeo interviene prima. Mettere sul mercato un sistema del genere diventa una pratica vietata dall’AI Act, nello stesso articolo che vieta il social scoring.
Il divieto è arrivato con il regolamento (UE) 2026/1744, l’«Omnibus digitale sull’IA» in vigore dal 27 luglio, che per il resto rinvia soprattutto le scadenze sui sistemi ad alto rischio. Il Parlamento europeo, nel comunicato del voto del 16 giugno, lo ha presentato come il divieto delle «nudifier app». Il considerando 11 spiega il perché: il materiale intimo non consensuale è «una forma di violenza e abuso sessuali», in particolare contro le donne, e la diffusione di queste applicazioni ha reso urgente «un divieto normativo esplicito».
Che cosa dice il testo
All’articolo 5, paragrafo 1, si aggiungono due lettere. La lettera b bis vieta «l’immissione sul mercato, la messa in servizio o l’uso di un sistema di IA che genera o manipola immagini, video e audio realistici o materiale analogo delle parti intime di una persona fisica riconoscibile, o di una persona fisica riconoscibile che partecipi ad atti sessualmente espliciti senza il consenso liberamente prestato, specifico, informato e inequivocabile di tale persona per tale generazione o manipolazione». La lettera b ter vieta lo stesso per i sistemi che generano o manipolano materiale pedopornografico nel senso della direttiva 2011/93/UE, la cui definizione comprende anche le «immagini realistiche» di un minore, e quindi, come precisa il considerando 11, il materiale in tutto o in parte sintetico. Per questa seconda lettera fanno eccezione le cause di giustificazione del diritto nazionale: il considerando 13 cita le autorità che indagano e il red teaming fatto per verificare che un sistema rispetti il divieto.
Chi è vietato, e a quali condizioni
Il punto delicato è che quasi ogni generatore di immagini, in teoria, può produrre un nudo. Il nuovo paragrafo 1 bis distingue. Chi fornisce il sistema viola il divieto in due casi: se generare quel materiale è la finalità prevista del sistema, oppure se la progettazione, l’addestramento, l’architettura, le capacità o le funzioni con cui l’utente interagisce rendono quel risultato «ragionevolmente prevedibile e riproducibile», senza modifiche tecniche significative, e il sistema non ha misure di sicurezza «ragionevoli e adeguate» per impedirlo in modo affidabile e correggere gli abusi osservati o segnalati. Il considerando 12 dice che cosa può contare come misura: pulizia dei dati, addestramento al rifiuto, progettazione sicura dei prompt e controlli sull’output, guardrail durante l’esecuzione, classificatori e filtri, restrizioni d’uso, rilevamento degli abusi, meccanismi di notifica e azione. E un sistema pensato proprio per generare immagini intime, aggiunge, dovrebbe avere un modo affidabile di ottenere e dimostrare il consenso della persona ritratta.
Chi usa il sistema, invece, viola il divieto solo se lo usa per generare quel materiale. Chi produce altro con un generatore privo di protezioni non lo viola, e nemmeno chi ottiene quel contenuto per sbaglio. Restano fuori anche i ritocchi che non aumentano l’esposizione, come cambiare lo sfondo o regolare contrasto e luminosità (paragrafo 1 ter), e, secondo il considerando 12, le raffigurazioni caricaturali o fisicamente impossibili, le persone non identificabili e le applicazioni in cui le parti intime non si vedono o si vedono con il consenso della persona, come i camerini virtuali o le simulazioni mediche.
C’è però un limite che il comunicato non dice. Per l’AI Act, chi usa un sistema «nel corso di un’attività personale non professionale» non è un deployer, e il regolamento non si applica ai suoi obblighi (articolo 3, punto 4, e articolo 2, paragrafo 10). Stando alle definizioni, il divieto d’uso colpirebbe quindi chi usa questi sistemi in un’attività professionale o comunque non solo personale. È una deduzione nostra, che il testo nuovo non affronta, e ha un confine: negli orientamenti sulle pratiche vietate del febbraio 2025 la Commissione ha scritto che un’attività criminale non può essere considerata puramente personale, anche se non se ne ricava alcun guadagno. Chi usa l’app per commettere un reato non potrebbe dunque invocare l’esclusione; il privato che genera l’immagine di una conoscente e la tiene per sé, dove questo non sia reato, resterebbe invece fuori da questa norma. Su di lui il divieto agisce in modo indiretto, togliendo l’app dal mercato; per il resto valgono le altre leggi.
Sanzioni e controlli
Violare un divieto dell’articolo 5 può costare fino a 35 milioni di euro o, per un’impresa, fino al 7% del fatturato mondiale annuo, se superiore (articolo 99, paragrafo 3). Per le PMI vale il più basso dei due importi; lo sconto che l’Omnibus introduce per le piccole imprese a media capitalizzazione, invece, non copre le pratiche vietate. Sono gli Stati a stabilire le sanzioni entro questi limiti: in Italia il decreto approvato in via definitiva dal Consiglio dei ministri il 4 agosto, non ancora pubblicato in Gazzetta Ufficiale, prevede, secondo il comunicato del governo, massimi inferiori a quelli europei e sanzioni che entrano in vigore solo con i corrispondenti obblighi e divieti. A controllare, come ha spiegato la Commissione il 31 luglio, è l’AI Office per i sistemi dello stesso fornitore del modello sottostante e per quelli integrati nelle grandi piattaforme designate dal Digital Services Act; negli altri casi l’autorità nazionale, che in Italia è l’Agenzia per la cybersicurezza nazionale.
E il codice penale
In Italia una norma su questi contenuti c’è già. L’articolo 612-quater del codice penale, introdotto dalla legge 132/2025, punisce con la reclusione da uno a cinque anni chi cagiona un danno ingiusto a una persona diffondendo senza il suo consenso immagini, video o voci falsificati o alterati con l’AI e idonei a ingannare sulla loro genuinità; si procede a querela, salvo alcuni casi. Dal 30 settembre, con il decreto legislativo 160/2026, potrà risponderne anche l’impresa, con una sanzione da 200 a 700 quote. Le due norme guardano a punti diversi della filiera: il reato italiano colpisce chi diffonde e richiede un danno, il divieto europeo chi mette in circolazione lo strumento e chi lo usa fuori dalla sfera solo personale, anche se l’immagine non esce mai da un disco. Dove la stessa condotta fosse punita due volte, il considerando 15 chiede agli Stati di rispettare il ne bis in idem.
Resta da vedere che cosa, in pratica, basterà come misura «ragionevole e adeguata». Per un servizio online il fornitore può filtrare, monitorare e correggere; per un modello pubblicato con i pesi aperti, che chiunque può scaricare e modificare, il considerando 12 si limita a dire che le misure correttive vanno valutate tenendo conto della «strategia di rilascio e distribuzione». Sarà su quella frase, probabilmente, che si giocheranno i primi casi.
I commenti sono riservati agli iscritti.
Accedi per commentare