Persuasione e verifica epistemica nella comunicazione generative

Di Gianluigi Polizzi Sasso

Introduzione editoriale

Che cosa vuol dire verificare

È uno dei contributi più tecnico di questo numero, e contiene la domanda che tutti gli altri danno per risolta: verificare che cosa, esattamente?

Un esempio, per capire il problema. Immaginiamo che un’insegnante chieda a un sistema generativo se il tutoraggio fra pari migliori i risultati degli studenti in difficoltà, e riceva una risposta di questo tipo: sì; il tutor consolida ciò che spiega e il tutorato trova un linguaggio più vicino al proprio; una meta-analisi su oltre sessanta studi indica un effetto medio consistente; il riferimento è a un lavoro del 2005; si tratta di uno dei risultati più solidi della ricerca educativa.

Sono cinque cose diverse in un’unica bolla di testo. Una conclusione. Le ragioni che dovrebbero sostenerla. Un’evidenza quantitativa. Una fonte. E un giudizio sulla robustezza di tutto l’insieme.

Ciascuna richiede una verifica diversa, e ciascuna può fallire per conto proprio: la conclusione può essere corretta mentre le ragioni sono plausibili ma non pertinenti; il numero può riferirsi a un’altra popolazione; la fonte può esistere e non dire quello; il giudizio finale può non essere di nessuno.

Polizzi Sasso chiama questa condizione compressione delle funzioni epistemiche — non il fatto che stiano insieme, che è normale, ma che non se ne vedano più i confini. Con una precisazione elegante: cinque funzioni ben segnalate possono risultare meno compresse di tre non differenziate.

Da qui la parte più utile: un segnale non coincide con la qualità della funzione a cui rinvia. Una citazione indica qualcosa che merita di essere esaminato, non l’esito dell’esame. E l’autore precisa subito il limite: non ogni trasferimento è indebito — se la competenza di una fonte è pertinente, è razionale che pesi.

Ne segue una definizione di verifica che ci pare la più precisa che abbiamo letto: non aggiungere un verdetto in fondo, ma tenere distinguibili, abbastanza a lungo, i diversi titoli attraverso cui una risposta chiede di essere accettata.

Il testo è denso, e chiediamo al lettore la pazienza di attraversarlo. In cambio offre due cose rare: un autore che dichiara ciò che il proprio modello non dimostra, e che porta le prove contro la propria tesi.

Abstract

La diffusione dei large language models (LLM) negli ambienti informativi pone un problema epistemico che non coincide con la sola produzione di contenuti falsi. Una risposta generativa può presentare, nella continuità della stessa interazione, una conclusione, le ragioni che dovrebbero sostenerla, evidenze e riferimenti documentali e, su richiesta, una valutazione della loro attendibilità. Muovendo dalla letteratura recente sulla persuasione, sulla generazione evidence-based, sulla credibilità delle fonti e sugli LLM impiegati come giudici, il contributo distingue cinque dimensioni dell’episodio epistemico generativo, distribuite su livelli analitici differenti: Persuasive Force (PF), Inferential Support (IS), Evidential Support (ES), Source Provenance (SP) ed Epistemic Judgment (EJ). La riduzione della separazione percepibile fra tali funzioni nell’interfaccia viene descritta come epistemic function compression; cross-function proxying indica invece, in senso diagnostico, i casi nei quali un segnale associato a una funzione incide sull’esercizio o sull’output di una funzione distinta con un peso non giustificato dal valore diagnostico che può legittimamente essergli attribuito, date le informazioni accessibili all’agente e il contesto epistemico rilevante. Il modello viene infine ricondotto alla media literacy e alla source literacy e alla nozione di epistemic agency, con l’obiettivo di rendere più preciso ciò che significa verificare una risposta generativa.

Parole chiave: large language models; persuasione; argomentazione; evidenza; fonti; giudizio epistemico; media literacy; epistemic agency

Abstract

The spread of large language models across information environments raises an epistemic problem that cannot be reduced to the production of false content. Within a single conversational interaction, a generative response may present a conclusion, the reasons meant to support it, evidence and documentary references, and, when prompted, an assessment of their reliability. Drawing on recent research on persuasion, evidence-based generation, source credibility, and LLM-as-a-Judge systems, this article distinguishes five dimensions of the generative epistemic episode, distributed across distinct analytical levels: Persuasive Force (PF), Inferential Support (IS), Evidential Support (ES), Source Provenance (SP), and Epistemic Judgment (EJ). The reduction of their perceptible separation at the interface level is described as epistemic function compression, while cross-function proxying identifies, as a diagnostic category, cases in which a signal associated with one function influences the exercise or output of a distinct function to a degree not warranted by its diagnostic value, given the agent’s available information and the relevant epistemic context. Finally, the framework is linked to media and source literacy and to epistemic agency, with the aim of specifying what verification requires in generative environments.

Keywords: large language models; persuasion; argumentation; evidence; source provenance; epistemic judgment; media literacy; epistemic agency

1. Hallucination e affidabilità epistemica

Le cosiddette hallucinations hanno costituito uno dei primi fenomeni attraverso cui il problema dell’affidabilità dei large language models è diventato immediatamente riconoscibile. Nel caso dell’errore fattuale, infatti, la difficoltà può essere almeno formulata con una certa nettezza: il sistema produce un’affermazione e un controllo indipendente consente di stabilire che essa non corrisponde ai fatti o che il riferimento invocato non sostiene ciò che gli viene attribuito. La circostanza che rende il fenomeno particolarmente insidioso è ormai nota. L’errore non compromette necessariamente la regolarità linguistica della risposta e può quindi presentarsi con una plausibilità formale del tutto simile a quella dell’informazione corretta. Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala ed Edwin Zhang hanno mostrato nel 2026 che persino le procedure di valutazione possono contribuire al problema quando premiano il tentativo di risposta rispetto all’ammissione dell’incertezza (Kalai et al., 2026). Il loro lavoro non esaurisce, evidentemente, le cause delle hallucinations; ricorda però che l’affidabilità dipende anche dalle condizioni entro cui una prestazione viene incentivata e misurata.

Questo modo di porre la questione resta indispensabile e tuttavia, almeno rispetto al problema affrontato qui, rischia di essere troppo stretto. Se l’affidabilità viene considerata principalmente come proprietà della singola proposizione, diventa naturale concentrare l’attenzione sulla sua corrispondenza con ciò che può essere verificato esternamente. Nell’interazione generativa l’utente incontra però qualcosa di più articolato. La risposta può presentare le ragioni attraverso cui una conclusione dovrebbe risultare accettabile, associarvi riferimenti documentali e, se interrogata ancora, pronunciarsi sull’attendibilità delle fonti o sulla qualità dell’argomento appena formulato. Considerate separatamente, queste operazioni pongono problemi differenti; dal lato dell’esperienza dell’utente, possono invece essere raccolte nella continuità di una medesima conversazione.

Non si intende qui attribuire a questa continuità una novità assoluta. Informazione e persuasione non hanno mai occupato territori perfettamente separati e la reputazione di una fonte ha sempre inciso sul modo in cui il contenuto viene ricevuto. La specificità dell’interfaccia generativa sembra piuttosto consistere nel grado con cui può ridursi la distanza pratica fra operazioni che continuano a richiedere criteri epistemici diversi. La formulazione, la spiegazione, l’eventuale documentazione e perfino il giudizio possono essere ricondotti allo stesso ambiente conversazionale. La continuità dell’interazione conserva le differenze fra queste funzioni, ma può renderle meno visibili proprio perché ciò che per l’analisi deve essere distinto viene incontrato in una forma comunicativa unitaria.

Sarebbe tuttavia difficile sostenere che il problema della conflazione epistemica sia rimasto finora inosservato. Giulio Vidotto ha collegato plausibilità, persuasione, hallucination e source bias in una proposta di epistemic auditing (Vidotto, 2026). Questo precedente esclude qualunque rivendicazione di priorità sul problema generale. Il contributo proposto qui consiste nel riordinare distinzioni già presenti in letterature differenti entro la matrice PF-IS-ES-SP-EJ, assumendo come unità di analisi la continuità dell’episodio generativo osservato dal lato dell’utente. La proposta dovrà essere giudicata sulla capacità di questa organizzazione congiunta di rendere più precise dissociazioni, trasferimenti e criteri di verifica già documentati separatamente. ^[1]La ricognizione della letteratura è teorico-narrativa, non una systematic review: le fonti sono selezionate per pertinenza diagnostica rispetto alle distinzioni proposte e non pretendono di … Continue reading

Una cautela analoga vale per la computational persuasion. La survey di Nimet Beyza Bozdag organizza oltre 150 lavori distinguendo l’AI come Persuader, Persuadee e Persuasion Judge (Bozdag et al., 2026). Questa tassonomia chiarisce la pluralità dei ruoli del sistema; qui il problema è diverso, perché riguarda le funzioni che possono concorrere alla credibilità della stessa risposta. È su questa differenza fra role taxonomy e architettura funzionale dell’episodio che si colloca il modello.

Il modello va dunque giudicato per il lavoro diagnostico che consente di svolgere: se non permette di precisare dove si collochi un’evidenza empirica, quale proprietà misuri e quali inferenze autorizzi, la terminologia aggiunta sarebbe superflua. Per modello si intende qui uno schema analitico, non un modello predittivo già validato.

2. Persuasione, ragioni, fonti

Un primo motivo per operare questa distinzione viene dalla letteratura sulla persuasione. Kobi Hackenburg e Ben M. Tappin, insieme al loro gruppo di ricerca, hanno pubblicato su Science tre esperimenti comprendenti complessivamente 76.977 partecipanti, 19 large language models e 707 questioni politiche, sottoponendo inoltre a controllo fattuale 466.769 claim prodotti durante le interazioni (Hackenburg et al., 2025). Alcuni interventi di post-training e prompting aumentavano sensibilmente la persuasività e, nelle condizioni nelle quali producevano tale incremento, diminuivano sistematicamente l’accuratezza fattuale. Il risultato non dimostra una relazione generalmente inversa fra persuasione e verità. Mostra qualcosa di più limitato e, per l’argomento qui trattato, sufficiente: la capacità di produrre adesione non coincide con la correttezza dei claim e può variare in direzione opposta alla loro accuratezza; non può quindi funzionare, senza ulteriori ragioni, come misura della correttezza fattuale.

Questa dimensione è qui indicata come forza persuasiva (Persuasive Force, PF). PF non è una proprietà intrinseca del testo, ma una relazione di influenza fra configurazione comunicativa, destinatario e contesto, riferita a uno specifico outcome persuasivo collocato entro il più ampio insieme dell’Epistemic Uptake (EU), la famiglia di esiti user-level che comprende trust, claim confidence, acceptance e belief change. Non ogni outcome di EU costituisce, di per sé, un outcome persuasivo: trust può operare come esito prossimale, mentre claim confidence, acceptance e belief change possono costituire outcome persuasivi diretti a seconda della specifica operazionalizzazione; l’endpoint pertinente deve essere specificato nel singolo disegno. Quando il disegno consente identificazione causale, un possibile estimando empirico di PF è l’effetto medio della condizione di esposizione rispetto a un’appropriata condizione di confronto nella popolazione considerata; altrove la misura richiede maggiore cautela. Fluidità, tono e personalizzazione possono contribuire a PF, ma ne costituiscono determinanti o segnali, non PF stessa.

Ari Deller ha formulato il problema distinguendo persuasività e felicity, condizione in cui la conclusione è vera e le ragioni sono abbastanza forti da conferirle warrant (Deller, 2026). La distinzione non rende indipendenti i due piani: una pratica argomentativa può ragionevolmente trattare come informativo ciò che resiste a scrutinio. La preoccupazione di Deller è che la produzione su larga scala di discorsi molto persuasivi, non accompagnata da qualità epistemica comparabile, indebolisca quel valore diagnostico. È dunque una tesi condizionale, in nessun modo una descrizione già acquisita dell’intero ecosistema generativo.

Sembra allora opportuno non raccogliere sotto un’unica nozione di «giustificazione» tutto ciò che rende buona una risposta. Per supporto inferenziale (Inferential Support, IS) si intende la relazione fra le ragioni offerte e la conclusione che dovrebbero sostenere. In una tradizione che da Stephen Toulmin in poi ha insistito sul passaggio che autorizza il movimento dai dati al claim, la bontà dell’argomento non coincide con la semplice verità delle premesse (Toulmin, 2003). Anche assumendole provvisoriamente, resta da stabilire se la conclusione riceva da esse il grado di supporto attribuitole: un’inferenza può partire da informazioni false ma essere ben costruita, o collegare premesse corrette a una conclusione in modo insufficiente.

Isolato IS, le premesse empiriche richiedono a loro volta sostegno. Per supporto evidenziale (Evidential Support, ES) si intende la relazione fra un claim e il materiale addotto a suo favore, rispetto alla pertinenza, alla forza e alla sufficienza necessarie per autorizzare il claim. La questione riprende, in forma volutamente non esaustiva, il problema classico di che cosa renda un fatto evidenza per un’ipotesi (Achinstein, 2001). Nei testi generativi lunghi, una risposta può essere localmente ben argomentata e globalmente male fondata, oppure disporre di buone evidenze integrate attraverso un’inferenza inadeguata. Separare IS ed ES serve precisamente a localizzare quale relazione di giustificazione stia fallendo.

In termini minimi, quando un’evidenza E viene utilizzata per sostenere una premessa fattuale P, mentre una o più premesse P₁, …, Pₙ vengono impiegate per sostenere una conclusione C, ES riguarda principalmente la relazione E → P, IS la relazione {P₁, …, Pₙ} → C. La rappresentazione non pretende di esaurire la struttura degli argomenti naturali; serve soltanto a rendere esplicita l’unità sulla quale opera la distinzione e, quindi, il tipo di fallimento che un audit dovrebbe cercare. La distinzione non ha natura ontologica, bensì funzionale: anche la relazione evidenza-claim può richiedere inferenza; IS ed ES individuano loci differenti nei quali l’audit può verificare la tenuta del supporto.

Questa distinzione consente anche di precisare un punto fondamentale: un segnale non coincide con la qualità della funzione alla quale rinvia. La lunghezza di una spiegazione può suggerire che vi sia un ragionamento articolato, così come la presenza di una citazione può suggerire che una risposta sia documentata; in entrambi i casi, il segnale rende visibile qualcosa che merita di essere esaminato, ma non contiene ancora l’esito dell’esame. I segnali sono inevitabili e spesso informativi; ciò che deve rimanere disponibile è la distinzione fra il segnale e la proprietà per la quale viene utilizzato. Questa differenza diventerà decisiva quando si passerà dal supporto delle ragioni al giudizio che su quelle ragioni viene formulato.

Su questo sfondo acquista rilievo la questione della fonte. Tobias Schreieder, Tim Schopf e Michael Färber hanno analizzato 134 lavori sull’evidence-based text generation e circa 300 metriche in sette dimensioni, documentando una persistente frammentazione terminologica e valutativa (Schreieder et al., 2026). Questa frammentazione suggerisce di non identificare la qualità documentale con la mera presenza di un riferimento. Con provenienza delle fonti (Source Provenance, SP) si adotta qui una nozione più circoscritta dei modelli generali di provenance digitale, che includono entità, attività, agenti e catene di derivazione (Moreau & Missier, 2013): per source-level provenance si intende identità, localizzabilità, verificabilità dell’attribuzione e catena documentale della fonte invocata. SP stabilisce se e come la fonte possa essere ricostruita; non se il materiale reperito sostenga il claim.

ES e SP restano vicini ma non coincidono. Una fonte può essere correttamente attribuita e perfettamente tracciabile senza sostenere l’affermazione per cui viene citata; viceversa, un materiale potenzialmente probativo può avere origine incerta. ES riguarda la relazione semantico-epistemica fra materiale reperito e claim (pertinenza, forza e sufficienza) mentre SP riguarda la ricostruibilità della fonte. La credibilità o qualità epistemica della fonte costituisce un’ulteriore proprietà target: può essere valutata attraverso EJ e incidere sul peso di ES quando competenza, indipendenza, metodo o affidabilità siano pertinenti. Nell’esperimento di Yifan Ding e Matthew Facciani, la presenza di citazioni aumentava la fiducia anche con riferimenti casuali, mentre il controllo effettivo delle fonti risultava associato a fiducia inferiore (Ding et al., 2025). La citazione può quindi essere insieme infrastruttura di verifica e segnale di credibilità.

La sequenza che conduce dalla persuasione alle ragioni e dalle ragioni all’evidenza non descrive, dunque, funzioni destinate a restare separate. Un buon argomento può persuadere proprio perché è ben costruito, e una buona fonte può razionalmente modificare il giudizio. Ciò che occorre preservare è la possibilità di stabilire quale relazione autorizzi il passaggio. La questione diventa ancora più delicata quando l’interfaccia produce il materiale da valutare e viene successivamente chiamata a trasformarlo direttamente in un verdetto.

3. Il giudizio e la compressione delle funzioni

A questo punto si rende necessario introdurre il giudizio epistemico (Epistemic Judgment, EJ), inteso come l’atto mediante cui un agente umano o artificiale attribuisce a un claim, a una fonte o a una risposta uno status di correttezza, credibilità o affidabilità. Lo studio di Edoardo Loru, Jacopo Nudo e dei loro collaboratori offre un punto di partenza particolarmente utile. In una prima analisi, gli autori confrontano sei LLM con i rating esperti di NewsGuard e Media Bias/Fact Check; per il confronto procedurale diretto con valutatori umani adottano poi un workflow agentico strutturato basato su Gemini 2.0 Flash e lo replicano con 50 partecipanti non esperti, chiamati a seguire la stessa procedura di valutazione. Nel complesso, i risultati mostrano che esiti vicini ai benchmark possono coesistere con differenze nei criteri osservabili associati alla valutazione. Chiamano epistemia la condizione nella quale la plausibilità superficiale può prendere il posto della verifica (Loru et al., 2025).

Conviene non chiedere a questo risultato più di quanto possa dare. Lo studio non consente di stabilire che i modelli “non ragionino”, né offre un accesso diretto ai loro processi interni. Permette una conclusione metodologica più circoscritta: dalla convergenza dell’esito non segue l’equivalenza del percorso valutativo. La distinzione acquista particolare rilievo quando il giudizio viene delegato a sistemi capaci anche di produrre il contenuto giudicato, perché il verdetto rischia altrimenti di funzionare come conferma retrospettiva dell’intera catena che lo precede.

Federico Germani e Giovanni Spitale mostrano, da un’altra prospettiva, che un segnale di source attribution, in particolare l’origine dichiarata del contenuto, può entrare direttamente in un giudizio valutativo sul claim. In un disegno che comprende quattro LLM, 4.800 statement relativi a 24 temi e 192.000 valutazioni, gli autori modificano il framing dichiarato della fonte e osservano variazioni sistematiche nei rating di agreement (Germani & Spitale, 2025). La manipolazione non modifica SP in senso stretto, perché non riguarda tracciabilità o verificabilità dell’attribuzione documentale. Nel framework proposto il risultato è adiacente a EJ, ma non ne costituisce una misura pura: mostra che informazioni associate alla fonte possono modificare, a parità di contenuto, un giudizio valutativo sul claim. Tali informazioni possono essere epistemicamente pertinenti quando competenza, indipendenza o affidabilità contano per il claim, ma il loro peso richiede comunque un nesso giustificativo adeguato.

Un caso ancora più netto sul versante della forma persuasiva viene da Yerin Hwang e dai suoi collaboratori. Inserendo sette tecniche persuasive in soluzioni matematiche altrimenti identiche, gli autori osservano che LLM impiegati come giudici attribuiscono punteggi superiori a risposte errate, con incrementi fino a circa l’8% in media (Hwang et al., 2025). Minzhu Tu, Shiyu Ni e Keping Bi mostrano però che l’effetto del ragionamento esplicito dipende dalla capacità del valutatore: giudici più deboli possono accettare più facilmente risposte scorrette, mentre modelli più capaci riescono in alcune condizioni a sfruttarne il contenuto per migliorare la valutazione (Tu et al., 2026). La spiegazione può dunque funzionare come segnale superficiale oppure come informazione pertinente.

Gli studi richiamati non provano un unico meccanismo; il loro accostamento serve a definire l’episodio epistemico generativo, cioè la situazione comunicativa, osservata dal lato dell’utente, nella quale possono concorrere PF, IS, ES, SP ed EJ. Con funzione si intende un ruolo analitico, non una classe ontologicamente omogenea: IS, ES e SP sono relazioni di supporto o tracciabilità; EJ è un’operazione valutativa; PF è una relazione di influenza. La matrice è deliberatamente selettiva e non pretende di esaurire tutte le proprietà dell’affidabilità epistemica. Il criterio di inclusione dipende dal percorso che il framework intende rendere auditabile dal lato dell’utente, seguendo la risposta dalla relazione d’influenza che può instaurare con l’utente fino all’atto di giudizio, attraverso i passaggi che riguardano ragioni, evidenza e ricostruibilità documentale. Altre proprietà dell’affidabilità possono attraversare questi passaggi senza richiedere, per ciò solo, lo statuto di funzione autonoma. A questi livelli si affiancano T (Truth/Accuracy), status del claim quando applicabile, ed EU, già introdotto come famiglia di outcome user-level. PF deve essere sempre riferita allo specifico endpoint di uptake assunto come persuasivo nel disegno considerato: trust, claim confidence, acceptance e belief change non sono assunti come esiti commensurabili. Riunire questi elementi significa descriverne la possibile concorrenza senza presupporne l’omogeneità.

Si propone qui di chiamare epistemic function compression non la semplice compresenza di queste dimensioni, ma la riduzione della separazione percepibile dall’utente fra funzioni e livelli analiticamente differenti nella continuità dell’interfaccia generativa. La formula non identifica una proprietà interna del modello né richiede che tutte le funzioni siano presenti. Nel caso di PF, ciò che l’interfaccia rende percepibile sono i segnali e le caratteristiche della configurazione potenzialmente rilevanti per l’influenza, non l’effetto causale stesso. Formulazione, supporto, provenienza, valutazione e segnali persuasivi possono così essere incontrati come parti di una sequenza comunicativa fortemente unificata. Una nozione recente di epistemic compression è stata impiegata, in un senso diverso, da Man Sun, Dan Zang, Huan Zhou, Yi-Lin Che e Jun Chen per descrivere spiegazioni LLM che comprimono associazioni condizionali in narrazioni simili a meccanismi, segnalando in misura insufficiente l’attribuzione delle fonti e l’incertezza (Sun et al., 2026). L’affinità terminologica non implica identità concettuale: l’aggiunta di function circoscrive qui il fenomeno alla separazione percepibile fra ruoli analitici distinti nell’interfaccia.

Per studiare la compression conviene distinguere almeno due dimensioni dell’episodio: co-presence, cioè quante funzioni sono simultaneamente presenti, e functional separation, cioè quanto l’interfaccia ne rende distinguibili i confini. Nel caso di PF, la co-presence riguarda la presenza nell’episodio di una configurazione o di segnali potenzialmente pertinenti per l’influenza, non l’avvenuta realizzazione dell’effetto causale stesso. La seconda esprime più direttamente la compression; la prima determina quante funzioni siano esposte, nello stesso episodio, alla possibilità di essere percepite come un insieme unitario. Ne segue che cinque funzioni ben segnalate possono risultare meno compresse di tre non differenziate. L’unità proposta per l’operazionalizzazione è l’episodio user-facing; una futura validazione dovrebbe confrontare versioni funzionalmente equivalenti variando, per esempio, separazione grafica o per turni, etichette di evidenza e interpretazione, accesso alla fonte primaria, distinzione fra generazione e valutazione ed esplicitazione dell’incertezza. Poiché functional separation è definita in termini percettivi, una validazione dovrà includere anche un manipulation check che verifichi che tali variazioni modifichino effettivamente la separazione percepita dall’utente. Si tratta di indicatori candidati, non di una scala già validata; co-presence e functional separation vanno perciò manipolate separatamente.

La compression, presa in sé, non è un difetto. Una risposta epistemicamente buona può coordinare ragioni, evidenze, fonti verificabili e giudizi calibrati. La difficoltà compare quando un segnale associato a una funzione incide sull’esercizio o sull’output di una funzione distinta con un peso non giustificato dal valore diagnostico che può legittimamente essergli attribuito, date le informazioni accessibili all’agente e il contesto epistemico rilevante. Questa famiglia diagnostica prende il nome di cross-function proxying. Per non estendere il termine oltre questa struttura, lo si riserva dunque ai trasferimenti fra funzioni distinte; gli effetti che terminano direttamente su EU saranno invece descritti come cross-level cue effects e trattati come fenomeni affini, esterni alle istanze strette della categoria. Quando è coinvolto T, occorre invece distinguere una modificazione dell’accuratezza effettiva del claim da una modificazione della sua valutazione: nel secondo caso l’endpoint empirico ricade su EJ.

Il concetto va collocato in una tradizione più ampia. Kahneman e Frederick descrivono l’attribute substitution come la sostituzione di un attributo target difficile con uno più accessibile (Kahneman & Frederick, 2002); Reber e Unkelbach mostrano che la processing fluency può funzionare come segnale di verità in modo dipendente dall’ambiente (Reber & Unkelbach, 2010). Sperber e il suo team riconducono la valutazione della comunicazione all’epistemic vigilance verso informatori, contenuti e ragioni (Sperber et al., 2010); Metzger, Flanagin e Medders documentano il ricorso a euristiche nella valutazione online di fonti e informazioni (Metzger et al., 2010). Cross-function proxying designa quindi una mappatura funzionale del trasferimento, distinta da un nuovo meccanismo generale del giudizio. ^[2]La relazione con l’attribute substitution, la credibility evaluation e l’epistemic vigilance è di specificazione, non di identificazione: cross-function proxying aggiunge una condizione … Continue reading

Questa precisazione consente anche di distinguere il proxying dall’influenza legittima fra funzioni. Se competenza, indipendenza o affidabilità di una fonte sono pertinenti al claim, tali proprietà possono razionalmente incidere su EJ e sul peso di ES; se una spiegazione contiene informazione diagnostica, il ragionamento dovrebbe modificare la valutazione. Non tutti gli effetti richiamati hanno, perciò, lo stesso statuto rispetto alla categoria: nel caso studiato da Ding, la presenza della citazione aumenta la fiducia dichiarata anche quando il riferimento è casuale, mentre l’effettivo controllo della fonte risulta associato a livelli inferiori di fiducia; poiché l’outcome è EU, si tratta propriamente di un cross-level cue effect affine al problema del proxying. Nel dominio matematico di Hwang, invece, una forma persuasiva altera il giudizio su risposte errate, mentre il lavoro di Tu mostra che il ragionamento può incidere sullo stesso giudizio in direzioni differenti a seconda della capacità del valutatore. Il framework non unifica causalmente questi fenomeni; prova a descriverne, a un livello più astratto, una struttura comune.

Che tali passaggi non dominino necessariamente il giudizio emerge anche dalla controevidenza. Esther Boissin, Thomas H. Costello, Daniel Spinoza-Martín, David G. Rand e Gordon Pennycook hanno mostrato in un esperimento preregistrato con 955 partecipanti che dialoghi evidence-based con un LLM possono ridurre convinzioni cospirazioniste o epistemicamente ingiustificate; né la presentazione dell’interlocutore come AI oppure come expert implicitamente umano, né un tono più human-like hanno modificato significativamente l’effetto correttivo (Boissin et al., 2025). Il risultato impedisce di trasformare i segnali in una spiegazione universale dell’uptake e rafforza la necessità di trattare la compression come una configurazione che rende possibili alcuni trasferimenti fra funzioni, non come la loro causa sufficiente.

La distinzione consente anche di separare due livelli empirici. Sia Fⱼ la funzione di destinazione, Qⱼ la proprietà oggetto della sua valutazione o del suo esercizio, Vⱼ l’output osservabile di Fⱼ e Sᵢ un segnale associato a una funzione Fᵢ distinta. Se Qⱼ resta costante e, in un disegno che consenta identificazione causale, una manipolazione di Sᵢ produce una variazione sistematica di Vⱼ, ciò costituisce evidenza di un cross-functional cue effect. Per classificare l’effetto come epistemically unwarranted cross-function proxying occorre però un ulteriore benchmark normativo: il peso attribuito a Sᵢ deve eccedere ciò che il suo valore diagnostico, alla luce delle informazioni accessibili all’agente e del contesto considerato, autorizza. Il benchmark può assumere forme differenti (per esempio un gold standard esperto, una norma esplicita del task o un modello probabilistico che stimi il valore diagnostico del segnale) e deve essere giustificato caso per caso. Rendere Sᵢ artificialmente non diagnostico in laboratorio non basta, da solo, a mostrare irrazionalità del giudicante. Il criterio sperimentale identifica dunque l’influenza; la diagnosi di proxying richiede anche una giustificazione del perché quell’influenza sia epistemicamente indebita. Resta inoltre aperta l’ipotesi che la configurazione di epistemic function compression incida sulla frequenza di tali effetti: co-presence e functional separation dovranno essere manipolate indipendentemente. Gli effetti documentati negli studi su LLM-as-a-Judge restano dipendenti da modelli, prompt e task testati; la loro stabilità cross-model e longitudinale non va presupposta.

4. Verifica e condizioni dell’epistemic agency

Se le distinzioni fin qui introdotte hanno un’utilità, essa dovrebbe emergere soprattutto quando si prova a precisare che cosa significhi verificare una risposta generativa. L’invito, ormai comune, a “controllare ciò che dice l’AI” rimane infatti indeterminato finché non è chiaro quale relazione debba essere controllata. Una risposta può essere fattualmente corretta in un punto e inferenzialmente debole in un altro; può rinviare a una fonte autentica che non sostiene il claim per cui viene convocata; può infine essere accompagnata da un giudizio plausibile la cui procedura rimane poco trasparente. In casi simili la verifica assume meno la forma di un verdetto supplementare che quella di una pratica capace di mantenere distinguibili, abbastanza a lungo, i diversi titoli epistemici attraverso cui la risposta chiede di essere accettata.

La five-function epistemic appraisal che deriva dal modello va intesa in questo senso. Non è ancora disponibile una procedura educativa validata, né sarebbe ragionevole applicare lo stesso livello di audit a ogni conversazione. Lo schema serve a rendere più determinato l’atto del controllo, permettendo di riaprire la risposta nel punto in cui rischio, contesto o scopo dell’interazione lo rendano necessario. Nel caso di PF, la five-function appraisal non consente all’utente di stimare direttamente l’effetto causale individuale, che richiederebbe un controfattuale non osservabile; consente piuttosto di identificare segnali e configurazioni potenzialmente rilevanti per l’influenza e di riaprire le relazioni epistemiche sulle quali l’accettazione si appoggia. Quando l’accettazione sembra poggiare prevalentemente su segnali o caratteristiche persuasive, diventa pertinente ricostruire la relazione fra ragioni e conclusione; se il problema riguarda le premesse empiriche, occorre risalire al materiale che le sostiene e al documento cui esso può essere ricondotto. Anche il verdetto prodotto da un sistema artificiale rimane disponibile a una valutazione ulteriore.

La proporzionalità del controllo è, in questo quadro, parte della competenza stessa. Un impiego a basso rischio e dalle conseguenze facilmente reversibili non richiede lo stesso lavoro di verifica di una decisione sanitaria, civica o professionale. La struttura delle distinzioni rimane disponibile; cambia il grado con cui diventa ragionevole renderle operative. In questo senso la five-function appraisal svolge soprattutto una funzione orientativa: offre una mappa dei punti nei quali la continuità dell’interfaccia può essere riaperta, lasciando al contesto la determinazione di quanto lontano debba spingersi l’audit.

La proposta si inserisce, peraltro, in un quadro educativo per il quale esistono già evidenze empiriche. Marvin Fendt, Xenia Muth e Peter Adriaan Edelsbrunner hanno sintetizzato 64 studi sperimentali controllati sugli interventi per la valutazione della credibilità delle fonti: l’effetto complessivo è positivo e il lateral reading presenta, fra gli approcci confrontati, gli effetti medi più elevati, pur con notevole eterogeneità (Fendt et al., 2025). Su un piano più ampio, Guanxiong Huang, Wufan Jia e Wenting Yu hanno sintetizzato 49 studi sperimentali, per un totale di 81.155 partecipanti, trovando effetti positivi degli interventi di media literacy sulla resilienza alla misinformation (Huang et al., 2024). Nessuno dei due risultati valida la five-function epistemic appraisal, che rimane da testare negli ambienti generativi; mostrano però che source evaluation e media literacy possono essere oggetto di interventi efficaci. La proposta qui avanzata estende questo quadro a un ambiente nel quale possono dover essere riaperte anche le relazioni fra persuasione, ragioni, evidenza e giudizio.

L’esperimento di Mengqi Liao e S. Shyam Sundar rende particolarmente chiaro questo passaggio. In un disegno preregistrato con 477 partecipanti, un assistente generativo presentava misinformation mentre venivano variate conversationality e verification affordance. Una maggiore conversationality aumentava la fiducia, nel modello degli autori anche attraverso la riduzione della negative-machine heuristic, mentre la condizione di verifica effettiva, nella quale l’utente accedeva anche al materiale correttivo, riduceva la credibilità attribuita all’informazione falsa (Liao & Sundar, 2026). La disponibilità del cue di verifica non equivale dunque al suo uso: nel loro disegno, l’affordance produce l’effetto epistemicamente rilevante quando si traduce in una pratica effettiva dell’utente.

È qui che il problema si raccorda alla nozione di epistemic agency. Aaron Hyzen, Hilde Van den Bulck, Manuel Puppis, Michelle Kulig e Steve Paulussen sviluppano un framework generale di epistemic welfare centrato sulle condizioni e capacità necessarie all’esercizio dell’agency epistemica nella sfera pubblica, illustrandolo principalmente attraverso il caso dei recommender systems (Hyzen et al., 2026). La relazione fra epistemic agency e sistemi generativi è già stata tematizzata, soprattutto in ambito educativo: Jiun-Yu Wu, Yuan-Hsuan Lee, Ching Sing Chai e Chin-Chung Tsai propongono un framework che mette in relazione human epistemic agency e shared epistemic agency nell’interazione con sistemi generativi (Wu et al., 2025). Il loro oggetto è principalmente educativo e non coincide con quello sviluppato qui. L’applicazione dello specifico criterio di epistemic welfare alle condizioni infrastrutturali della verifica nelle interfacce generative costituisce qui la proposta teorica. Ciò che può essere trasferito è il criterio secondo cui la qualità di un’infrastruttura informativa dipende, oltre che dalla quantità di informazione disponibile, anche dalle condizioni che offre agli individui per raggiungere stati epistemicamente validi.

Considerata da questo punto di vista, l’affidabilità di un ambiente generativo non coincide completamente con la frequenza delle risposte corrette, pur continuando a dipenderne in misura essenziale. Un sistema che produce meno errori è, sotto questo profilo, migliore; resta però da valutare se l’ambiente attraverso cui l’informazione viene presentata mantenga percorribili le relazioni che consentono di comprenderne il fondamento. È qui che il problema assume una dimensione propriamente ecologica: riguarda la disponibilità di output corretti e, insieme, le condizioni nelle quali l’utente può ancora risalire dalle conclusioni alle ragioni, dalle ragioni all’evidenza e dall’evidenza alla sua provenienza quando il costo dell’errore lo richiede.

Una literacy adeguata a questo ambiente non dovrebbe, perciò, imporre una diffidenza generalizzata verso l’intelligenza artificiale. Una parte dell’utilità pratica dei sistemi generativi deriva proprio dalla possibilità di delegare e ricomporre alcune operazioni informative riducendone i costi di accesso e di sintesi. Sembra più plausibile intendere l’agency epistemica come capacità di discriminare quando tale delega sia sufficiente e quando debba essere riaperta. Essa non dipende soltanto dalla disposizione individuale a controllare, perché la possibilità del controllo è anche una proprietà delle infrastrutture: una fonte irraggiungibile, una catena documentale opaca o un verdetto privo di criteri osservabili restringono ciò che l’utente può effettivamente fare.

Anche la letteratura sulla trust calibration offre un limite utile. Mohammad Naiseh, Dena Al-Thani, Nan Jiang e Raian Ali, sulla base della letteratura precedente e di uno studio qualitativo su sistemi di raccomandazione spiegabili, discutono errori di calibrazione e principi di design quali engagement, friction e attention guidance (Naiseh et al., 2021). Il lavoro è coerente con l’ipotesi che spiegazione e controllo siano più utili quando l’ambiente ne sostiene un uso discriminante; non la dimostra causalmente per le interfacce generative.

Da questo punto di vista, il design dell’interfaccia entra nell’ecologia della comunicazione senza diventarne l’unico luogo della responsabilità. Rendere più visibile la provenienza, facilitare l’accesso al documento originario o distinguere la produzione di una risposta dalla sua valutazione può ridurre alcuni costi del controllo; nessuna scelta di design sostituisce tuttavia criteri istituzionali, pratiche professionali e formazione. Su questa base si propone qui di intendere, nel caso delle interfacce generative, l’epistemic agency come una capacità individualmente esercitata ma infrastrutturalmente abilitata e vincolata: l’atto di giudicare resta dell’agente, mentre l’ambiente può ampliare o restringere le condizioni concrete in cui il percorso della risposta può essere riaperto e verificato.

5. Conclusioni

Il problema delle hallucinations ha reso manifesta una prima dissociazione della plausibilità dalla verità. Le ricerche sulla persuasione, sulle citazioni e sugli LLM impiegati come giudici suggeriscono che la stessa esigenza di distinzione ricompaia anche quando non vi è un errore manifesto da correggere. Il modello PF-IS-ES-SP-EJ prova a rendere leggibile questa situazione assumendo come unità l’episodio generativo osservato dal lato dell’utente e distinguendo esplicitamente la struttura di supporto della risposta, l’operazione valutativa, la relazione persuasiva, lo status del claim e gli esiti sull’utente. La sua pretesa rimane deliberatamente limitata: ricomporre in un’architettura comune dimensioni già studiate da letterature differenti, conservando i criteri che impediscono di farle valere automaticamente l’una per l’altra.

La riduzione della separazione percepibile fra questi livelli è qui descritta come epistemic function compression. All’interno di questa configurazione, cross-function proxying isola i passaggi nei quali un segnale associato a una funzione incide sull’esercizio o sull’output di una funzione distinta oltre il peso che il suo valore diagnostico può legittimamente sostenere nel contesto rilevante. Il rapporto causale fra i due fenomeni resta da dimostrare. Ciò che il framework consente già di vedere è più circoscritto: la comodità dell’interazione generativa può riunire operazioni epistemiche senza abolire le differenze da cui dipende il loro valore.

Se questa ricostruzione è corretta, il compito della media literacy e della source literacy consiste nel conservare la possibilità di riaprire, quando necessario, ciò che l’interfaccia rende conveniente riunire. La posta in gioco riguarda allora le condizioni nelle quali rimane percorribile la distanza fra ciò che persuade e ciò che autorizza la persuasione.

Bibliografia

Achinstein, P. (2001), The Book of Evidence, Oxford: Oxford University Press. DOI: 10.1093/0195143892.001.0001

Boissin, E., Costello, T. H., Spinoza-Martín, D., Rand, D. G. & Pennycook, G. (2025), Dialogues with large language models reduce conspiracy beliefs even when the AI is perceived as human, “PNAS Nexus”, 4(11), pgaf325. DOI: 10.1093/pnasnexus/pgaf325

Bozdag, N. B., Mehri, S., Yang, X., Ha, H., Cheng, Z., Durmus, E., You, J., Ji, H., Tur, G. & Hakkani-Tür, D. (2026), Must Read: A comprehensive survey of computational persuasion, “ACM Computing Surveys”, 58(12), art. 310, 1-39. DOI: 10.1145/3800687

Deller, A. (2026), The epistemic costs of super-persuasive AI, “Philosophy & Technology”, 39, art. 92. DOI: 10.1007/s13347-026-01106-4

Ding, Y., Facciani, M., Joyce, E., Poudel, A., Bhattacharya, S., Veeramani, B., Aguinaga, S. & Weninger, T. (2025), Citations and trust in LLM generated responses, “Proceedings of the AAAI Conference on Artificial Intelligence”, 39(22), 23787-23795. DOI: 10.1609/aaai.v39i22.34550

Fendt, M., Muth, X. & Edelsbrunner, P. A. (2025), Judging a text by its author – A meta-analysis of interventions to foster source credibility assessment, “Learning and Individual Differences”, 124, 102782. DOI: 10.1016/j.lindif.2025.102782

Germani, F. & Spitale, G. (2025), Source framing triggers systematic bias in large language models, “Science Advances”, 11(45), eadz2924. DOI: 10.1126/sciadv.adz2924

Hackenburg, K., Tappin, B. M., Hewitt, L., Saunders, E., Black, S., Lin, H., Fist, C., Margetts, H., Rand, D. G. & Summerfield, C. (2025), The levers of political persuasion with conversational artificial intelligence, “Science”, 390(6777), eaea3884. DOI: 10.1126/science.aea3884

Huang, G., Jia, W. & Yu, W. (2024), Media Literacy Interventions Improve Resilience to Misinformation: A Meta-Analytic Investigation of Overall Effect and Moderating Factors, “Communication Research”, OnlineFirst. DOI: 10.1177/00936502241288103

Hwang, Y., Lee, D., Kang, T., Kim, Y. & Jung, K. (2025), Can You Trick the Grader? Adversarial persuasion of LLM judges, in “Findings of the Association for Computational Linguistics: EMNLP 2025”, 14632-14651. Association for Computational Linguistics. DOI: 10.18653/v1/2025.findings-emnlp.790

Hyzen, A., Van den Bulck, H., Puppis, M., Kulig, M. & Paulussen, S. (2026), Epistemic welfare and algorithmic recommender systems: overcoming the epistemic crisis in the digitalized public sphere, “Communication Theory”, 36(1), 46-57. DOI: 10.1093/ct/qtaf018

Kahneman, D. & Frederick, S. (2002), Representativeness revisited: Attribute substitution in intuitive judgment, in Gilovich, T., Griffin, D. & Kahneman, D. (a cura di), Heuristics and Biases: The Psychology of Intuitive Judgment, 49-81, Cambridge: Cambridge University Press. DOI: 10.1017/CBO9780511808098.004

Kalai, A. T., Nachum, O., Vempala, S. S. & Zhang, E. (2026), Evaluating large language models for accuracy incentivizes hallucinations, “Nature”, 653, 1047-1051. DOI: 10.1038/s41586-026-10549-w

Liao, M. & Sundar, S. S. (2026), Chat but verify: Combating misinformation in conversational generative AI with verification affordance, “Journal of Computer-Mediated Communication”, 31(3), zmag012. DOI: 10.1093/jcmc/zmag012

Loru, E., Nudo, J., Di Marco, N., Santirocchi, A., Atzeni, R., Cinelli, M., Cestari, V., Rossi-Arnaud, C. & Quattrociocchi, W. (2025), The simulation of judgment in LLMs, “Proceedings of the National Academy of Sciences”, 122(42), e2518443122. DOI: 10.1073/pnas.2518443122

Metzger, M. J., Flanagin, A. J. & Medders, R. B. (2010), Social and heuristic approaches to credibility evaluation online, “Journal of Communication”, 60(3), 413-439. DOI: 10.1111/j.1460-2466.2010.01488.x

Moreau, L. & Missier, P. (a cura di) (2013), PROV-DM: The PROV Data Model, W3C Recommendation, 30 April 2013. URL: https://www.w3.org/TR/prov-dm/

Naiseh, M., Al-Thani, D., Jiang, N. & Ali, R. (2021), Explainable recommendation: when design meets trust calibration, “World Wide Web”, 24(5), 1857-1884. DOI: 10.1007/s11280-021-00916-0

Reber, R. & Unkelbach, C. (2010), The epistemic status of processing fluency as source for judgments of truth, “Review of Philosophy and Psychology”, 1(4), 563-581. DOI: 10.1007/s13164-010-0039-7

Schreieder, T., Schopf, T. & Färber, M. (2026), Attribution, Citation, and Quotation: A survey of evidence-based text generation with large language models, in “Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)”, 30956-31000. Association for Computational Linguistics. DOI: 10.18653/v1/2026.acl-long.1430

Sperber, D., Clément, F., Heintz, C., Mascaro, O., Mercier, H., Origgi, G. & Wilson, D. (2010), Epistemic vigilance, “Mind & Language”, 25(4), 359-393. DOI: 10.1111/j.1468-0017.2010.01394.x

Sun, M., Zang, D., Zhou, H., Che, Y.-L. & Chen, J. (2026), Epistemic compression in large language model explanations of the gut-liver axis, “Frontiers in Cellular and Infection Microbiology”, 16, 1773593. DOI: 10.3389/fcimb.2026.1773593

Toulmin, S. E. (2003), The Uses of Argument, updated ed., Cambridge: Cambridge University Press. DOI: 10.1017/CBO9780511840005

Tu, M., Ni, S. & Bi, K. (2026), How Long Reasoning Chains Influence LLMs’ Judgment of Answer Factuality, in “Proceedings of the 64th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers)”, 44957-44972. Association for Computational Linguistics. DOI: 10.18653/v1/2026.acl-long.2082

Vidotto, G. (2026), Plausibility, persuasion, and truth: why language models may appear designed to deceive, “Humanities and Social Sciences Communications”, 13, art. 627. DOI: 10.1057/s41599-026-07513-4

Wu, J.-Y., Lee, Y.-H., Chai, C. S. & Tsai, C.-C. (2025), Strengthening human epistemic agency in the symbiotic learning partnership with generative artificial intelligence, “Educational Researcher”, 54(6), 358-368. DOI: 10.3102/0013189X251333628

Biografia

Gianluigi Polizzi Sasso si occupa di strategia narrativa per la casa di produzione cinematografica italo-canadese Movies Move Us. Ha studiato Filosofia all’Università Ca’ Foscari Venezia e si è successivamente specializzato in Intelligenza Artificiale, Comunicazione e Società presso l’Università degli Studi di Udine. I suoi interessi di ricerca riguardano i processi di persuasione e di costruzione del consenso, con particolare attenzione ai rapporti tra argomentazione, comunicazione politica e tecnologie digitali.