Di Antonello Palasciano

Introduzione editoriale

Il prezzo della simmetria

Nell’agosto 2026 Meta ha chiuso il procedimento promosso da una coalizione di procuratori generali statunitensi. Dei circa diciassette miliardi di dollari concordati, dodici sono dovuti in ogni caso. I restanti cinque diventano esigibili soltanto se TikTok, YouTube e Snapchat accetteranno a loro volta vincoli comparabili.

Meta ha cioè accettato di pagare cinque miliardi in più, e di sottoporsi a limiti più severi, a condizione che quei limiti valgano per tutti.

Antonello Palasciano — avvocato e dottorando in diritto privato comparato — parte da questa clausola per una tesi che riguarda la scuola più di quanto sembri: se il design che genera dipendenza è la base del modello di business, chi vi rinuncia da solo perde quote di mercato. Una condanna che colpisce un operatore soltanto produce uno svantaggio competitivo prima ancora di una riduzione del rischio. Cinque miliardi sono il prezzo che Meta stessa ha attribuito alla simmetria — cioè a ciò che solo la regolazione può garantire.

Da qui il contributo ricostruisce come diritto americano e diritto europeo stiano convergendo su un punto: non su ciò che una piattaforma mostra, ma su come è costruita. E propone una griglia che rende documentabile il rischio, con una precisazione che ne è la chiave: non misura le persone, misura i sistemi. Non si chiede a un’autorità di diagnosticare una dipendenza, ma di leggere documenti che l’impresa già possiede.

Ci sono due passaggi che questo numero registra con particolare attenzione.

Il primo riguarda i chatbot: avvertire l’utente che sta parlando con una macchina non interrompe la relazione che l’interfaccia costruisce, se l’interfaccia continua a costruirla. La distanza fra l’avvertimento formale e la struttura dell’interazione è la misura stessa del difetto.

Il secondo chiude il saggio, e chiude anche la questione che questa rivista pone da anni: chiedere a un sistema perché restituisce una certa risposta, e chiedere a uno studente come sa ciò che sostiene di sapere, sono la medesima domanda posta a due destinatari diversi.

Il contributo si apre e si chiude con una frase di Dino Buzzetti del 2002 — che ogni struttura assegnata al mondo si riflette nel testo che lo rappresenta, e che quel testo è sempre insieme rappresentazione e rappresentazione della rappresentazione. Allora era teoria della testualità digitale. Oggi, osserva l’autore, è la descrizione esatta di ciò che accade quando un modello risponde a una domanda.

Abstract (IT). Il contributo legge la dipendenza dai social media e dagli assistenti conversazionali non come una patologia individuale, ma come l’esito prevedibile di precise scelte di progettazione. Il punto di partenza è un fatto recente. Nell’agosto 2026 Meta ha chiuso il processo promosso da una coalizione di procuratori generali statunitensi accettando di pagare una somma che cresce di cinque miliardi di dollari soltanto se anche le piattaforme concorrenti assumeranno vincoli analoghi. Quella clausola misura in denaro il limite della via giudiziale, poiché una transazione può ottenere solo per via condizionale ciò che la regolazione applica a tutti nello stesso momento. Su questa base il lavoro ricostruisce la convergenza fra la responsabilità da prodotto statunitense e il diritto europeo, dalla Direttiva (UE) 2024/2853 alle constatazioni con cui la Commissione ha contestato a TikTok e a Meta il design che crea dipendenza. Propone quindi una griglia di indicatori che rende documentabile il rischio ai sensi dell’articolo 34 del Digital Services Act e del divieto di sfruttamento delle vulnerabilità psicologiche dell’articolo 5 dell’AI Act. Sostiene infine che il nodo è attuativo prima che legislativo, e che la tutela dei diritti cognitivi richiede insieme regole sul design e responsabilità educativa delle istituzioni della conoscenza.

Parole chiave: difetto di progettazione, dipendenza epistemica, diritti cognitivi, AI Act, Digital Services Act, responsabilità da prodotto, design e educazione.

Abstract (EN). This article reads dependence on social media and conversational assistants not as an individual pathology but as the foreseeable outcome of specific design choices. The starting point is a recent fact. In August 2026 Meta settled the case brought by a coalition of state attorneys general, agreeing to pay a sum that rises by five billion dollars only if competing platforms accept comparable constraints. That clause puts a price on the limits of litigation, since a settlement can obtain only conditionally what regulation applies to everyone at once. On this basis the article traces the convergence between U.S. product liability and European law, from Directive (EU) 2024/2853 to the preliminary findings in which the Commission charged TikTok and Meta with addictive design. It then proposes a set of indicators that makes the risk documentable under Article 34 of the Digital Services Act and the prohibition on exploiting psychological vulnerabilities under Article 5 of the AI Act. It argues that the problem is one of enforcement rather than legislation, and that protecting cognitive rights requires design rules and the educational responsibility of knowledge institutions together.

Keywords: design defect, epistemic dependence, cognitive rights, AI Act, Digital Services Act, product liability, design and education.

1. Il prezzo del design

«Ogni struttura, ogni modello assegnato al mondo, è potenzialmente riflesso nel testo che lo rappresenta.»

 Dino Buzzetti, 2002

Il design delle piattaforme digitali e degli assistenti conversazionali basati su intelligenza artificiale non è un contenitore trasparente della conoscenza che vi transita, ma un modello che ne struttura la ricezione. In questa prospettiva, il design può assumere rilevanza causale rispetto ai danni cognitivi, psicologici e relazionali associati all’uso di tali tecnologie e, al ricorrere di determinate condizioni, può essere valutato anche attraverso la categoria giuridica del difetto di progettazione. Il punto emerge con particolare chiarezza riprendendo la categoria proposta da Buzzetti della «rappresentazione e insieme rappresentazione della rappresentazione». Le scelte progettuali, infatti, non incidono soltanto sull’output restituito dal sistema, ma orientano anche il modo in cui l’utente è portato a interpretarlo, valutarlo e attribuirgli affidabilità. Interrogarsi sulla dipendenza da questi sistemi significa allora chiedersi in quale misura, lungi dal limitarsi ad una prospettiva prettamente giuridica, si possa intervenire sulle condizioni progettuali dell’interazione, reintroducendo quelle forme di attrito capaci di preservare uno spazio effettivo di valutazione e decisione autonoma[1].

Il presente contributo si colloca in questo spazio di trasformazione, proponendo di leggere i fenomeni di dipendenza digitale e di dipendenza epistemica non come patologie individuali, ma come esiti sistemici di logiche di progettazione incorporata[2]. Muovendo dal dialogo tra diritto della responsabilità da prodotto, scienze cognitive e regolazione delle piattaforme, si intende delineare un quadro interpretativo capace di rendere giuridicamente accertabile il rischio generato dal design algoritmico, provando a valutarne l’estensione anche ai sistemi di intelligenza artificiale generativa.

Nel marzo 2026 due giurie statunitensi hanno condannato i colossi dei social media a poche ore di distanza. Il 24 marzo il Tribunale civile di Santa Fe ha ritenuto Meta responsabile di aver occultato i rischi per la salute mentale dei minori, e il giorno successivo la Superior Court of California, County of Los Angeles, ha ritenuto Meta Platforms e Alphabet responsabili di aver progettato deliberatamente piattaforme che creano dipendenza(unitamente i c.d. Social media cases[3]). L’entità dei risarcimenti, rispettivamente 375 e 6 milioni di dollari, è trascurabile rispetto alla portata del precedente.

Il seguito di quelle pronunce è però più istruttivo dei verdetti stessi. Nel New Mexico, all’esito della seconda fase, il giudice ha qualificato l’architettura di Facebook e Instagram come public nuisance e ha condannato Meta al versamento di 567 milioni di dollari in un fondo di abatement, imponendo al contempo obblighi conformativi che incidono direttamente sul design del prodotto. Parimenti, il 26 agosto 2026, a otto giorni dall’apertura del dibattimento promosso davanti alla U.S. District Court for the Northern District of California (Oakland) da una coalizione bipartisan di attorney general statali, Meta ha definito la controversia, pur senza ammissione di colpa, con un consent judgment recepito dalla Corte, accettando limiti di tempo giornalieri predefiniti per gli account dei minori, un blocco notturno rimuovibile soltanto dal genitore, misure di age assurance e un auditor indipendente incaricato di vigilare sulla conformità.

La clausola economicamente più significativa dell’accordo non riguarda però Meta. Dei circa 17,1 miliardi di dollari annunciati, poco più di 12 sono dovuti in ogni caso, mentre i restanti cinque diventano esigibili soltanto se TikTok, YouTube e Snapchat raggiungeranno a loro volta accordi comparabili, con obblighi di protezione dei minori analoghi. Al verificarsi di quella condizione il limite giornaliero di utilizzo che Meta si è impegnata ad applicare si dimezza e la durata dell’impegno raddoppia. Meta ha dunque accettato di pagare cinque miliardi in più, e di sottoporsi a vincoli più severi, a condizione che quegli stessi vincoli gravino sull’intero mercato.

La clausola merita attenzione perché rende esplicito ciò che la teoria del difetto di progettazione lascia implicito. Se il design che genera dipendenza costituisce la base del modello di business, l’operatore che vi rinuncia isolatamente perde quote di mercato, e la condanna che colpisce lui soltanto produce uno svantaggio competitivo prima ancora che una riduzione del rischio. Cinque miliardi di dollari sono il prezzo che Meta stessa ha attribuito alla simmetria, ossia alla garanzia di non restare l’unica vincolata. Il rilievo eccede il caso concreto, poiché segnala che il rimedio giudiziale, per quanto ingente, non è strutturalmente idoneo a modificare le condizioni di progettazione di un intero settore, e che ciò che una transazione può ottenere solo per via condizionale, vale a dire l’applicazione simultanea della medesima regola a tutti gli operatori, è invece il proprio della regolazione. Resta comunque il dato che qui rileva, e cioè che l’oggetto del rimedio non è il contenuto veicolato, ma il design che ne governa la fruizione, esattamente lo spostamento di baricentro che il legislatore intende ricostruire sul versante europeo.

Alla base della descritta architettura non vi sarebbe soltanto una scelta tecnica di ottimizzazione, ma, secondo acuta dottrina[4], un preciso sostrato antropologico, basato sulla lettura girardiana del desiderio mimetico e della rivalità competitiva come motori primi del comportamento umano. In questa prospettiva, dispositivi apparentemente banali come il like, il conteggio dei follower o la continua comparazione con i risultati altrui non costituiscono meri corollari di un’infrastruttura di comunicazione, ma elementi centrali del suo funzionamento economico, in quanto capaci di alimentare dinamiche mimetico-competitive, catturare l’attenzione degli utenti e trasformarla in valore. Comprendere questa genealogia assume rilievo anche ai fini dell’analisi giuridica, poiché consente di leggere la difettosità del design non come una deviazione sopravvenuta rispetto a un progetto originariamente neutrale, ma come il possibile esito coerente di un modello di business fondato sull’amplificazione strutturale di vulnerabilità antropologiche note.

2. Non cosa mostrano, ma come sono costruite

Per quasi trent’anni la Section 230(c)(1) del Communications Decency Act del 1996 ha funzionato come scudo pressoché inespugnabile per le piattaforme, escludendo che l’interactive computer service potesse essere trattato come publisher dei contenuti dei terzi. La breccia si è aperta nel 2021 con il noto caso Lemmon v. Snap, Inc., dove i giudici hanno riconosciuto in capo alla piattaforma un duty to design a reasonably safe product indipendente dal ruolo di editore, estesa nel 2024 con Anderson v. TikTok, Inc., che ha qualificato le proposte dell’algoritmo di raccomandazione come first-party speech della piattaforma e quindi estranee al perimetro della Section 230.

Su questo terreno si sono innestati i Social media cases. Le corti hanno accolto le domande fondate non sul contenuto diffuso, per cui la Section 230 continua a operare, ma sulle addictive features del design, ossia scroll infinito, autoplay, streaks, notifiche a rinforzo variabile e like counters, qualificate come difetti di progettazione alla luce del risk-utility test del Restatement (Third) of Torts. Non si pretende che la piattaforma controlli ciò che l’utente pubblica, cosa che la Section 230 vieta, ma che risponda di come la piattaforma è costruita.

Il diritto europeo compie per via legislativa un movimento convergente. La Direttiva (UE) 2024/2853, che gli Stati membri dovranno recepire entro il 9 dicembre 2026, estende la nozione di prodotto al software e quindi ai sistemi di intelligenza artificiale (art. 4, n. 1) e include fra i danni risarcibili quelli psicologici riconosciuti da un punto di vista medico (art. 6, par. 1, lett. a). Le due costruzioni non coincidono sul piano dogmatico, ma convergono sul punto essenziale, e cioè che chi progetta risponde di ciò che ha progettato.

La differenza decisiva riguarda però chi solleva la questione e con quali effetti. Il 6 febbraio 2026 la Commissione Europa ha ritenuto in via preliminare che il design di TikTok violi il DSA, e il 10 luglio ha adottato constatazioni analoghe nei confronti di Instagram e Facebook, contestando a Meta di non aver valutato né mitigato i rischi derivanti da scorrimento infinito, riproduzione automatica, notifiche push e sistemi di raccomandazione altamente personalizzati, e di aver trascurato i dati sull’uso notturno da parte dei minori. Le misure indicate sono di puro design, ossia disattivazione di default dell’autoplay e dello scroll infinito, pause effettive dal tempo di schermo e un sistema di raccomandazione meno orientato all’engagement. Qui l’accertamento non dipende dall’iniziativa del danneggiato né dalla disponibilità dell’operatore a transigere, e la stessa regola raggiunge gli operatori uno dopo l’altro. È esattamente ciò che la clausola condizionale dell’accordo americano poteva soltanto sperare di ottenere.

3. La scienza della dipendenza digitale: la Bergen Scale come strumento di misura

I social media cases citati in apertura hanno introdotto in un atto giudiziario, con inedita centralità, la Bergen Social Media Addiction Scale (BSMAS)[5]. La scala misura la dipendenza da social media attraverso sei criteri mutuati dalla letteratura clinica sulle addiction comportamentali, modellati su un framework a componenti ampiamente consolidato[6]: salienza (l’attività digitale occupa il pensiero in modo pervasivo anche quando non la si svolge), modificazione dell’umore (la piattaforma viene impiegata per alterare lo stato emotivo), tolleranza (incremento progressivo del tempo di utilizzo per ottenere gli stessi effetti), astinenza (disagio fisico o psicologico quando l’accesso viene interrotto), conflitto (l’attività digitale sostituisce o compromette altre relazioni e attività), ricaduta (ripresa del comportamento dopo tentativi di controllo).

La rilevanza di questi criteri, tuttavia, non si esaurisce nella dimensione clinico-psichiatrica. Se un ambiente digitale è progettato in modo tale da sollecitare sistematicamente, nei propri utenti e soprattutto nei minori, le dinamiche descritte dai sei criteri della Bergen Scale, il design stesso assume rilievo quale autonomo fattore di rischio, ancor prima della sua eventuale qualificazione giuridica. La particolare esposizione dei minori si lega, peraltro, a una fase dello sviluppo nella quale la corteccia prefrontale non ha ancora completato il proprio processo di maturazione[7].

La neuroscienza citata nel complaint californiano corrobora lo schema. Tra i dieci e i dodici anni i recettori dopaminergici si moltiplicano nel nucleo accumbens, amplificando la risposta alle ricompense sociali[8]. Gli algoritmi orientati all’engagement, facendo leva sull’anticipazione della ricompensa attraverso meccanismi di rinforzo variabile analoghi a quelli impiegati nelle slot machine, possono così trasformare lo scrolling in un circuito di rinforzo neurobiologico[9].

4. Dal social media all’assistente conversazionale. Quando è la macchina a parlare

Con gli assistenti conversazionali la questione cambia natura. Il chatbot non ospita contenuti di terzi ma genera il proprio output, e lo scudo che ha protetto le piattaforme per trent’anni, costruito sulla distinzione fra chi pubblica e chi si limita a ospitare, qui non ha nulla da coprire. La responsabilità del fornitore torna a valutarsi secondo le regole ordinarie.

Il primo caso ad affermarlo riguarda Sewell Setzer III, quattordici anni, morto suicida nell’autunno del 2024 dopo mesi di conversazioni con un chatbot che impersonava un personaggio di fiction. Nel maggio successivo il giudice ha respinto la tesi difensiva secondo cui il modello sarebbe discorso protetto dalla libertà di espressione e lo ha trattato per quello che è, ossia un prodotto immesso sul mercato. Da lì si è aperta la strada a un ordinario accertamento del difetto di progettazione.

Nei mesi seguenti si sono aggiunte una decina di cause contro i principali fornitori di modelli linguistici, con un addebito costante. Una memoria che conserva l’intera relazione, una voce che simula una persona, la tendenza a dare sempre ragione all’utente e l’assenza di un punto di arresto davanti ai segnali di crisi non sarebbero guasti occasionali, ma il risultato prevedibile del modo in cui il sistema è stato costruito. Nessuna di queste pronunce ha raggiunto una decisione nel merito, e conviene dirlo, perché il valore di questo filone sta nell’argomento che ha reso proponibile, non in un orientamento già consolidato.

Un punto merita attenzione più degli altri. I fornitori si difendono osservando che il modello aveva dichiarato di essere un’intelligenza artificiale e aveva rinviato più volte ai numeri di emergenza. L’obiezione non regge, e la ragione riguarda da vicino chi si occupa di educazione. Avvertire l’utente che sta parlando con una macchina non interrompe la relazione che l’interfaccia costruisce, se l’interfaccia continua a costruirla. La distanza fra l’avvertimento formale e la struttura dell’interazione è, in questi casi, la misura stessa del difetto.

Quanto la via giudiziale sia lenta lo mostra la vicenda di Grok, il sistema generativo integrato nella piattaforma X. Fra la fine del 2025 e il gennaio 2026 lo strumento ha permesso di trasformare in immagini sessualizzate le fotografie di persone reali, in gran parte donne e minori, e è stato limitato soltanto dopo la reazione di più autorità nazionali. Anche in quel caso il danno nasce da ciò che la macchina produce, ma in Europa non è servita una causa. Sono bastati un procedimento della Commissione, gli obblighi europei di trasparenza sui contenuti generati e, in Italia, un reato nuovo.

Torna così la differenza già vista. Il risarcimento arriva quando il danno si è prodotto, mentre sul progetto si può intervenire prima. È su questo secondo terreno che si gioca la partita, ed è il terreno delle pagine che seguono.

5. Una griglia per rendere accertabile il rischio

Il divieto, si è detto, esiste. Quello che manca è il modo di provarlo. La Generative AI Dependency Scale proposta in queste pagine serve a questo, e conviene dire subito ciò che non è. Non è una scala psicometrica né uno strumento diagnostico. Non misura le persone. È una griglia che prende indicatori già validati dalla ricerca clinica[10] e li usa per una domanda diversa, ossia se un sistema sia costruito in modo da produrre, su chi lo usa, i comportamenti che quegli indicatori descrivono.

La differenza è decisiva e va tenuta ferma. L’oggetto dell’accertamento è il sistema, non la persona. Non si chiede a un’autorità di vigilanza di diagnosticare una dipendenza, cosa che non potrebbe fare e che non le compete, ma di leggere documenti che l’impresa già possiede, ossia specifiche di prodotto, istruzioni impartite al modello, protocolli di valutazione interna, segnalazioni di incidenti e risultati dei test comparativi condotti sugli utenti.

Va poi distinta una cosa che la letteratura lascia spesso implicita. La dipendenza comportamentale riguarda la perdita di controllo sull’uso, la dipendenza epistemica riguarda la rinuncia a valutare da sé ciò che si legge, ed è il tema del paragrafo seguente. Si tratta di oggetti diversi, che negli assistenti conversazionali convivono ma richiedono rimedi non fungibili. La griglia li tiene insieme come due facce dello stesso rischio, assegnando a ciascuno indicatori propri.

Sui sei criteri che la ricerca clinica utilizza per le dipendenze comportamentali, quattro risultano oggi ampiamente presenti nel design delle principali interfacce generative. La salienza si riconosce nella disponibilità permanente, nelle notifiche di ripresa e nella memoria che conserva l’intera relazione. La modificazione dell’umore opera attraverso l’empatia simulata e la tendenza del modello a dare ragione all’utente. Il conflitto emerge quando la domanda al modello sostituisce la consultazione di un esperto, e il fenomeno pesa soprattutto in ambito medico, legale e psicologico. L’astinenza si osserva nelle reazioni alle interruzioni di servizio e nei comportamenti di chi riorganizza la giornata, e talvolta il sonno, attorno al momento in cui il limite di utilizzo si rinnova. Tolleranza e ricaduta, invece, si osservano in forme meno nette, in attesa di misure più stabili. È un limite che va detto, e che non compromette l’impianto, perché la griglia resta valida mentre le evidenze scientifiche che la alimentano possono essere aggiornate.

Tradotti in elementi verificabili, i sei criteri diventano altrettante domande da porre a chi progetta. Il sistema si ripropone da sé quando l’utente si allontana. Ottimizza le risposte verso il registro empatico quando riceve un segnale emotivo, e assume ruoli che assomigliano a quelli di un terapeuta. Estende progressivamente ciò che gli si può delegare senza prevedere una soglia. Reagisce alle interruzioni con comportamenti d’uso documentabili. È costruito in modo da sostituire figure professionali umane. Rende inefficaci gli strumenti con cui l’utente prova a limitarsi. A ciascuna domanda corrisponde una documentazione che l’impresa può esibire o non esibire, ed è in questa esibizione che il rischio smette di essere una formula e diventa un fatto.

L’innesto normativo è doppio. Sul versante dell’art. 34 DSA, gli indicatori entrano come parametri della valutazione annuale dei rischi sistemici delle piattaforme maggiori, con esiti pubblici e verificabili. Sul versante dell’art. 5 AI Act, la loro presenza nel design del sistema costituisce elemento di prova della tecnica vietata di sfruttamento delle vulnerabilità psicologiche. Le scale cliniche già pubblicate non vengono sostituite. Restano il fondamento scientifico, e la griglia si limita a renderle utilizzabili da chi deve vigilare.

6. Epistemia e dipendenza epistemica: il rischio cognitivo più profondo

Il Vocabolario Treccani ha registrato nel 2025 il neologismo “epistemia”, definendolo come «la confortevole illusione di conoscenza prodotta dall’interazione con i Large Language Models»[11]. Il concetto descrive un fenomeno riconducibile all’interazione tra il funzionamento probabilistico dei modelli e specifiche predisposizioni cognitive degli utenti. In questa prospettiva, la dipendenza epistemica non rappresenta un esito necessario dell’interazione con tali sistemi, ma un rischio strutturale che determinate scelte di design possono amplificare.

La dipendenza epistemica va intesa, dunque, come la progressiva abdicazione della capacità critica di valutazione autonoma delle informazioni e delle argomentazioni, operando su una base cognitiva nota. L’automation bias, intesa come la tendenza degli esseri umani a fare affidamento eccessivo sulle raccomandazioni dei sistemi automatizzati è un concetto consolidato nella psicologia cognitiva almeno dagli anni Novanta[12]. Tuttavia, nell’interazione con gli LLM esso assume una forma qualitativamente diversa in quanto la fluenza linguistica degli output genera un effetto di autorità epistemica per cui l’utente non valuta se la risposta è corretta, ma la assume come tale perché formulata con la stessa fluidità di un esperto umano[13]. La propensione dei modelli a validare sistematicamente le affermazioni dell’utente, nota come sycophancy, aggrava ulteriormente il rischio, producendo spirali di rinforzo delle credenze pregresse[14].

Il dato più significativo è che la sola consapevolezza del problema non costituisce, di per sé, un rimedio efficace. Anche un utente consapevole della tendenza del chatbot alla sycophancy può infatti rimanere vulnerabile alla spirale epistemica. Il meccanismo presenta analogie con il paradosso della persuasione bayesiana, poiché la sistematica conferma delle credenze dell’interlocutore può rafforzarne irragionevolmente il grado di certezza anche quando questi sia consapevole della propensione del sistema alla validazione. Ne deriva che, sul piano regolatorio, la mera disclosure della natura artificiale dell’interlocutore non appare sufficiente se non è accompagnata da frizioni strutturali incorporate nel design dell’interazione.

La rilevanza del fenomeno eccede l’ambito strettamente tecnico-giuridico. Se sui social il codice espressivo si impoverisce e, nei sistemi generativi, la produzione di conoscenza tende a confondersi con la sua apparenza, ne risulta coinvolta la stessa formazione del giudizio critico, quale precondizione della cittadinanza democratica. Ne emerge, sul piano attuativo, uno spazio di intervento che la tradizionale media literacy, pur necessaria, non appare da sola sufficiente a colmare[15].

7. Il divieto e la sua misura

La tesi di queste pagine è semplice. Per intervenire sul design che genera dipendenza l’Europa non ha bisogno di nuove leggi, ha bisogno di applicare quelle che ha. Due norme bastano, e sono già in vigore.

La prima è l’articolo 34 del Digital Services Act. Impone alle piattaforme più grandi di valutare ogni anno i rischi che il loro servizio genera, e fra questi include esplicitamente gli effetti negativi sul benessere psicologico delle persone. La seconda è l’articolo 5 dell’AI Act, che vieta i sistemi che sfruttano le vulnerabilità psicologiche degli utenti per alterarne il comportamento in modo dannoso. Il considerando 28 chiarisce che rientrano nel divieto le tecniche che sfruttano una debolezza che le persone non accetterebbero, se ne fossero consapevoli.

Detto questo, il divieto esiste ma nessuno ha ancora stabilito come si accerta. Manca la griglia che traduce una formula normativa in qualcosa di verificabile in sede di controllo. È la funzione che gli indicatori descritti al paragrafo 5 possono svolgere, perché non chiedono di diagnosticare l’utente ma di documentare come il sistema è stato costruito, attraverso specifiche di prodotto, istruzioni date al modello, test interni e segnalazioni di incidenti.

Ci sono poi due lacune che vale la pena nominare. La prima riguarda la persona. Né il DSA né l’AI Act impongono ai fornitori di modelli linguistici di rilevare o segnalare gli usi che indicano una dipendenza in formazione o una crisi psicologica, tanto meno quando l’utente è minorenne. Il DDL Nicita-Basso presentato al Senato l’1 aprile 2026 muove in questa direzione, vietando dipendenza, influenza e manipolazione algoritmica selettiva. La seconda riguarda il modo di guardare al rischio. L’art. 34 DSA lo considera per quello che produce nel contesto in cui il servizio è usato, mentre l’art. 9 AI Act lo tratta in larga misura come proprietà interna del prodotto, valutata dal provider a prescindere dal suo impiego concreto. Due sguardi che non si incontrano, e nel mezzo passa esattamente il fenomeno di cui si discute qui.

Il tempo, per giunta, non aiuta. Il Digital Omnibus adottato dal Consiglio il 29 giugno 2026 rinvia al dicembre 2027 e all’agosto 2028 gli obblighi sui sistemi ad alto rischio, e apre così una finestra in cui i divieti restano scritti ma il regime che dovrebbe sorreggerne l’applicazione non c’è ancora. In questa finestra lo strumento disponibile non è la legge, è l’orientamento interpretativo delle autorità.

Che si tratti di misure praticabili lo dimostra, paradossalmente, un testo che viene da lontano. Nell’aprile 2026 l’autorità cinese per il cyberspazio ha posto in consultazione una bozza di regolamento sui personaggi virtuali generati dall’intelligenza artificiale che prevede l’etichettatura obbligatoria dei contenuti, il divieto di relazioni virtuali intime con i minori e il monitoraggio attivo dei segnali di dipendenza e di crisi. Al di là del contesto politico in cui nasce, quel testo scrive come obblighi ciò che in Europa resta finora principio[16].

Il testo propone misure operative di notevole concretezza: etichettatura obbligatoria dei contenuti generati da digital humans, divieto di relazioni virtuali intime con minori di diciotto anni, monitoraggio attivo dei segnali di dipendenza e di ideazione suicidaria con protocolli di intervento umano. Al di là del contesto politico in cui nasce, la proposta offre un repertorio operativo di frizioni by design che il quadro europeo non ha ancora tradotto in obblighi specifici.[17]

Di qui la proposta. Una linea guida attuativa, ancorata agli artt. 5 AI Act e 34 DSA e coordinata con l’art. 22 GDPR, potrebbe articolare quattro presidi. Il primo rende gli indicatori un parametro obbligatorio della valutazione annuale dei rischi, con esiti pubblici e verificabili. Il secondo chiede che la sicurezza sia incorporata nello sviluppo dei modelli, con l’obbligo di rilevare i segnali di crisi e di attaccamento patologico. Il terzo impone di rendere ispezionabili i meccanismi che portano il modello a dare ragione all’utente, e i correttivi adottati. Il quarto introduce nell’interazione attriti proporzionati alla vulnerabilità, pause dopo soglie temporali definite, promemoria della natura non-umana dell’interlocutore, meccanismi di verifica critica di ciò che il modello afferma.

8. Chi progetta e chi educa: responsabilità giuridica e responsabilità culturale

Si è partiti da Buzzetti e da una frase che oggi si legge diversamente da come fu scritta. Ogni struttura assegnata al mondo si riflette nel testo che lo rappresenta, e quel testo, avvertiva, è sempre insieme rappresentazione e rappresentazione della rappresentazione. Nel 2002 era una tesi di teoria della testualità digitale. Nel 2026 è la descrizione esatta di ciò che accade quando un modello linguistico risponde a una domanda, perché l’interfaccia non consegna soltanto un contenuto, consegna anche il modo in cui quel contenuto va creduto.

È questo il filo che tiene insieme le pagine precedenti. Le corti americane hanno stabilito che il design può essere un difetto, la dipendenza può essere un danno prevedibile, il silenzio delle piattaforme può costituire una mancata informazione, e la stessa costruzione è stata estesa agli assistenti conversazionali in tempi molto più rapidi. L’Europa è arrivata allo stesso punto per altra via, riconoscendo che il design è un fatto giuridicamente rilevante e che chi progetta ne risponde. Ciò che manca non è la norma, è il modo di renderla accertabile.

La risposta a questi fenomeni non può però essere affidata soltanto ai tribunali e al legislatore. Se il design orienta il modo in cui una risposta viene creduta, allora la posta in gioco è la formazione del giudizio, e la formazione del giudizio non è materia di regolamenti. È il mestiere della scuola, della biblioteca, del museo, dell’università, di tutti i luoghi in cui si forma il rapporto dei cittadini con la conoscenza, con le fonti, con la propria capacità di giudizio.

Non si tratta di aggiungere un modulo di alfabetizzazione digitale alla fine di un percorso. Si tratta di riconoscere che la questione è la stessa da entrambi i lati. Chiedere a un sistema perché restituisce una certa risposta, e chiedere a uno studente come sa ciò che sostiene di sapere, sono la medesima domanda posta a due destinatari diversi. Gli attriti che il diritto può imporre nel design sono l’equivalente tecnico degli attriti che l’educazione ha sempre introdotto nel pensiero, ossia la pausa, il dubbio, la verifica, la fatica di distinguere ciò che è plausibile da ciò che è fondato. Quando quegli attriti scompaiono dall’interfaccia, il lavoro educativo non diventa più urgente, diventa più difficile.

Il rapporto fra le due responsabilità è dunque di reciproca condizione. Il diritto può contribuire a garantire le condizioni entro cui la responsabilità culturale trova spazio e strumenti per esprimersi, perché nessuna competenza critica resiste a un ambiente costruito per erodere le occasioni di esercitarla. Ma nessuna regola, per quanto ben scritta, forma da sola un cittadino capace di valutare. L’erosione dei diritti cognitivi, se lasciata senza presidi educativi, svuota dall’interno l’effettività delle stesse tutele giuridiche qui proposte, e presidi educativi senza tutele giuridiche si esauriscono nel chiedere alle persone di resistere da sole a sistemi progettati perché non ci riescano.

Da qui i tre verbi attorno ai quali è costruito questo incontro. Coltivare significa prendersi cura delle condizioni in cui la conoscenza si forma, comprese quelle tecniche. Educare significa restituire alle persone la domanda su come sanno ciò che sanno. Umanizzare significa pretendere che i sistemi con cui conviviamo siano progettati per lasciare aperto lo spazio della decisione autonoma, che è poi la definizione minima di dignità. Nessuno dei tre è un programma di resistenza all’innovazione. Sono le condizioni perché l’innovazione resti appropriabile.

Resta la domanda aperta, ed è giuridica prima ancora che culturale. Quale soglia di diligenza siamo disposti a imporre ai fornitori di sistemi conversazionali, ora che le evidenze sulla dipendenza epistemica sono abbastanza solide da non poter più essere ignorate. Si è qui argomentato che l’infrastruttura normativa europea già dispone degli strumenti necessari, e che il problema è attuativo prima che legislativo. Una griglia che renda documentabile il rischio è la traduzione operativa di questa tesi. Ma la domanda più difficile è quella che il diritto non può porre al posto nostro, ossia se siamo ancora disposti a considerare la fatica del giudizio un bene da coltivare, o se abbiamo già accettato di scambiarla con la comodità di una risposta che suona bene.

Nessuna di queste misure, presa da sola, è sufficiente. Insieme, definiscono il perimetro di un’agenda praticabile che mette al centro la dignità della persona e la tenuta delle precondizioni cognitive della democrazia[18] in un’agenda che si presenta come un programma di appropriazione critica dell’innovazione, non di resistenza a essa[19].

ANTONELLO PALASCIANO, avvocato e dottorando di ricerca in Diritto privato comparato presso l’Università degli Studi di Teramo. La sua attività di ricerca si concentra sulla regolazione delle tecnologie digitali, con particolare attenzione all’intelligenza artificiale, alla cybersecurity e alla trasformazione digitale. Ha partecipato a programmi di ricerca e iniziative scientifiche in ambito nazionale e internazionale, collaborando con istituzioni, università e operatori del settore pubblico e privato.

[1] D. Buzzetti, Digital Representation and the Text Model, in «New Literary History», vol. 33, n. 1, 2002, pp. 61-88, spec. pp. 79 e 81. La medesima intuizione, l’occultamento progressivo delle strutture generative del testo dietro l’apparente immediatezza dell’interfaccia, è ripresa e attualizzata dall’A. in D. Buzzetti, Alle origini dell’Informatica Umanistica: Humanities Computing e/o Digital Humanities, in «Rendiconti dell’Accademia Nazionale dei Lincei», Classe di Scienze morali, storiche e filologiche, S. IX, vol. 30, nn. 1-2, 2019, pp. 71-103, spec. p. 75, ove Buzzetti ricostruisce criticamente il passaggio dall’inserimento consapevole del markup da parte dell’autore, praticabile nella fase dei terminali testuali, all’introduzione dei programmi di scrittura in modalità WYSIWYG (What You See Is What You Get). Con essa, i programmi «inserivano automaticamente il markup, togliendo all’autore il controllo diretto dell’impaginazione, realizzabile esclusivamente nei modi previsti dalle funzionalità del programma. L’alleviamento dello sforzo nel processo di composizione veniva ottenuto a costo della rinuncia alla progettazione diretta delle caratteristiche grafiche del documento», con la conseguenza di favorire «l’uso passivo e acritico di nuovi strumenti entrati prepotentemente nell’uso comune». L’analogia con l’attuale spostamento del controllo epistemico dal lettore ai modelli linguistici generativi è, a parere di chi scrive, strutturale prima ancora che analogica.

[2] Nella dottrina italiana più recente il fenomeno è stato analizzato, con particolare profondità, nella prospettiva della disciplina consumeristica e del governo del rischio sistemico ex artt. 34-35 del Regolamento (UE) 2022/2065, da M. Ciancimino, Dipendenze digitali e conformazione del mercato. Addictive design, economia dell’attenzione e governo del rischio, in «Persona e Mercato», 2026, 2, pp. 559-583.

[3] Meta and YouTube Found Negligent in Landmark Social Media Addiction Case, in nytimes, 26 marzo 2026; C. LIMA-STRONG V. anche F. HAUGEN, Il dovere di scegliere. La mia battaglia per la verità contro Facebook, trad. it., Milano, 2023, 13 ss.; S. CALZOLAIO, Social media e minori. Il Safety-first approach, in Riv. it. inf. dir., 2023, 292 ss., nota a U.S. Surgeon General, Social Media and Youth Mental Health, The U.S. Surgeon General’s Advisory, 2023.

[4] P. Benanti, Il crollo di Babele. Che fare dopo la fine del sogno di Internet?, Cinisello Balsamo, San Paolo, 2024, spec. cap. «I credo della Silicon Valley», ove l’A. ricostruisce l’influenza esercitata dal pensiero di René Girard sui fondatori e ideologi delle piattaforme statunitensi (segnatamente Peter Thiel, allievo di Girard a Stanford negli anni Ottanta) e argomenta che l’architettura delle piattaforme social è stata deliberatamente progettata per amplificare le dinamiche di desiderio mimetico e rivalità competitiva teorizzate dall’antropologo francese. Sul quadro teorico di riferimento cf. R. Girard, Mensonge romantique et vérité romanesque, Paris, Grasset, 1961; tr. it. Menzogna romantica e verità romanzesca, Milano, Bompiani, 2002.

[5] La scala è stata inizialmente sviluppata come Facebook Addiction Scale e poi estesa all’uso complessivo dei social media: cf. C. S. Andreassen et al., Development of a Facebook Addiction Scale, in «Psychological Reports», vol. 110, n. 2, 2012, pp. 501-517; Id. et al., The Relationship between Addictive Use of Social Media and Video Games and Symptoms of Psychiatric Disorders, in «Psychology of Addictive Behaviors», vol. 30, n. 2, 2016, pp. 252-262.

[6] Il modello a componenti, elaborato da M. D. Griffiths, A «Components» Model of Addiction within a Biopsychosocial Framework, in «Journal of Substance Use», vol. 10, n. 4, 2005, pp. 191-197, articola la dipendenza comportamentale in sei dimensioni: salienza, modificazione dell’umore, tolleranza, astinenza, conflitto, ricaduta. Il modello costituisce la griglia di validazione di una vasta famiglia di scale cliniche.

[7] Per l’inquadramento neuroscientifico dell’adolescenza cf. F. E. Jensen, A. E. Nutt, The Teenage Brain, New York, HarperCollins, 2015, pp. 44-67; S.-J. Blakemore, Inventing Ourselves: The Secret Life of the Teenage Brain, London, Doubleday, 2018, pp. 80-103.

[8] W. Schultz, A Neural Substrate of Prediction and Reward, in «Science», vol. 275, n. 5306, 1997, pp. 1593-1599; K. C. Berridge, T. E. Robinson, What is the Role of Dopamine in Reward: Hedonic Impact, Reward Learning, or Incentive Salience?, in «Brain Research Reviews», vol. 28, n. 3, 1998, pp. 309-369.

[9] La traslazione dei meccanismi delle slot machine alla progettazione delle interfacce digitali è trattata in N. D. Schüll, Addiction by Design: Machine Gambling in Las Vegas, Princeton, Princeton University Press, 2012, pp. 92-115.

[10] Sul piano metodologico, per la validazione di scale in ambito di problematic digital use cf. J. Billieux et al., Problematic Smartphone Use: A Conceptual Overview and Critical Review of Existing Empirical Research, in «Clinical Psychology Review», vol. 55, 2017, pp. 90-100; L. A. Clark, D. Watson, Constructing Validity: Basic Issues in Objective Scale Development, in «Psychological Assessment», vol. 7, n. 3, 1995, pp. 309-319.

[11] W. Quattrociocchi, E. Loru, J. Nudo, N. Di Marco, The Simulation of Judgment in LLMs, in «Proceedings of the National Academy of Sciences», 13 ottobre 2025.

[12] Il concetto è stato elaborato nel contesto dell’aviazione civile e della supervisione di sistemi automatizzati: R. Parasuraman, V. Riley, Humans and Automation: Use, Misuse, Disuse, Abuse, in «Human Factors», vol. 39, n. 2, 1997, pp. 230-253; L. J. Skitka et al., Accountability and Automation Bias, in «International Journal of Human-Computer Studies», vol. 52, n. 4, 2000, pp. 701-717.

[13] Sul concetto di epistemic reliance cf. P. Mei, D. N. Brewis, F. Nwaiwu, D. Sumanathilaka, F. Alva-Manchego, J. Demaree-Cotton, If ChatGPT Can Do It, Where Is My Creativity? Generative AI Boosts Performance but Diminishes Experience in Creative Writing, in «Computers in Human Behavior: Artificial Humans», vol. 4, 2025, art. 100140.

[14] Per una rassegna del problema dell’hallucination nei modelli generativi, sul quale si innesta il tema della validazione compiacente (sycophancy), cf. Z. Ji et al., Survey of Hallucination in Natural Language Generation, in «ACM Computing Surveys», vol. 55, n. 12, 2023, pp. 1-38.

[15] R. Hobbs, Digital and Media Literacy: Connecting Culture and Classroom, Thousand Oaks, Corwin, 2011, pp. 12-35; per una prospettiva pedagogica sull’AI cf. N. Selwyn, Should Robots Replace Teachers? AI and the Future of Education, Cambridge, Polity Press, 2019, pp. 78-130.

[16] Cyberspace Administration of China, Measures for the Management of Digital Virtual Human Information Services (bozza per consultazione pubblica), 3 aprile 2026, consultazione aperta fino al 6 maggio 2026. Il testo introduce obblighi di etichettatura dei digital humans, divieto di relazioni virtuali intime con minori di diciotto anni, monitoraggio attivo dei segnali di dipendenza e di ideazione suicidaria, con protocolli di intervento umano.

[17] L’ipotesi qui avanzata non si colloca in un vuoto applicativo. Nel corso del 2026 la Commissione europea ha avviato tre procedimenti formali ex artt. 34 e 35 DSA specificamente diretti contro architetture di design idonee a generare uso compulsivo: Commissione europea, La Commissione ritiene in via preliminare che il design di TikTok che crea dipendenza violi la legge sui servizi digitali, IP/26/312, 6 febbraio 2026; Id., La Commissione avvia un’indagine su Shein a norma della legge sui servizi digitali, IP/26/420, 17 febbraio 2026; Id., La Commissione ritiene in via preliminare che il design che crea dipendenza di Instagram e Facebook violi la legge sui servizi digitali, IP/26/1579, 10 luglio 2026. In queste constatazioni preliminari l’oggetto dell’enforcement è, per la prima volta, non un contenuto illecito né una violazione della disciplina sui dati, bensì la «harmful architecture of the platform itself» (così EPRS, Addictive design on online platforms, PE 785.735, maggio 2026, p. 2). La linea guida AI Board/EDPB qui proposta ne costituisce il complemento sistemico, estendendone la logica ai fornitori di LLM.

[18] L. Floridi, The Ethics of Artificial Intelligence, Oxford, Oxford University Press, 2023, pp. 77-92; V. Eubanks, Automating Inequality, New York, St. Martin’s Press, 2018, pp. 165-200.

[19] Sulla logica della frizione come strategia di design orientata alla tutela delle scelte informate cf. C. R. Sunstein, R. H. Thaler, Nudge: Improving Decisions about Health, Wealth, and Happiness, New Haven, Yale University Press, 2008, pp. 83-107.