Isa Maggi, Stati generali delle donne

Interrogare l’intelligenza artificiale come sfida culturale ed educativa e considerare il patrimonio digitale come piattaforma per la cittadinanza attiva, sono prospettive davvero stimolanti e necessarie. Ringrazio Carmine Marinucci per aver introdotto nelle prossime settimane un dibattito molto interessante.

L’idea di una cultura come progetto, della cittadinanza digitale come diritto e della conoscenza come processo critico fornisce una base solida e ricca di spunti.

Educare oggi significa formare cittadini/e attivi e responsabili. L’invito a porre domande autentiche, più che a cercare risposte immediate, è un approccio saggio per affrontare temi così complessi e in evoluzione.

Un manifesto per un’ IA CULTURA non può prescindere dall’etica, dall’integrazione dei valori umani, da una una governance chiara e dall’attenzione alle sfide e alle opportunità specifiche del contesto culturale.

Trovo particolarmente rilevante l’attenzione su un’etica ben definita come base per lo sviluppo e l’implementazione dell’IA nel settore culturale. Come giustamente viene sottolineato nel Manifesto, il rispetto e la valorizzazione del patrimonio, l’inclusione sociale, la sostenibilità e la dignità umana devono essere i fari che guidano questo processo.

Quali sono dunque gli elementi essenziali? Evitare che l’IA diventi una fonte di contenuti dannosi o percepita come competitiva rispetto all’ingegno umano è un punto cruciale per costruire fiducia e sinergia. Allo stesso modo affrontare la “scatola nera” dell’IA attraverso principi di discorso deliberativo è fondamentale per la responsabilità e per una comprensione più profonda del suo funzionamento e dei suoi output. Dal nostro punto di vista, come Stati generali delle Donne, lo sviluppo di algoritmi che evitino bias è un imperativo etico per garantire che l’IA non perpetui o amplifichi disuguaglianze esistenti, specialmente in un ambito sensibile come la cultura.

I quattro principi proposti per innescare la riflessione sono ben delineati. Non è infatti sufficiente “applicare” un’etica esterna all’IA; i valori culturali, l’inclusività e il rispetto per la diversità devono essere intrinseci al processo di progettazione stesso. Questo implica un coinvolgimento interdisciplinare fin dalle prime fasi, con esperti di scienze umane e del patrimonio culturale che collaborano strettamente con gli sviluppatori di IA.

Il Patrimonio Culturale Digitale come Fonte di Valore evidenzia un rischio concreto e cioè la potenziale mercificazione e standardizzazione del patrimonio attraverso logiche puramente commerciali dell’IA. È essenziale che le soluzioni IA siano orientate alla valorizzazione autentica, rispettando la complessità e le specificità del patrimonio materiale e immateriale.

L’apertura degli algoritmi e dei dataset è un imperativo per la comprensione, la fiducia e la partecipazione democratica. Rendere l’IA comprensibile anche a chi non è un esperto tecnico è fondamentale per evitare che diventi uno strumento elitario e per promuovere una cultura digitale inclusiva. Esiste infatti il rischio che l’IA, alimentata da dati spesso parziali o distorti, possa perpetuare o addirittura amplificare squilibri culturali esistenti. La progettazione deve attivamente mirare a una rappresentazione equa e inclusiva di diverse lingue, minoranze e patrimoni meno visibili.

Mi chiedo, in che modo è possibile tradurre questi principi in linee guida pratiche per i progettisti di IA per la cultura?

Quali meccanismi o processi si potrebbero implementare per garantire che questi valori siano effettivamente integrati nel design?

Ad esempio, si possono immaginare forme di audit etico specifico per l’IA culturale o a protocolli di valutazione che tengano conto di questi principi.

Integrare la prospettiva di genere nella progettazione dell’IA per la cultura non è solo una questione di equità, ma un imperativo per evitare la riproduzione e l’amplificazione di stereotipi ed esclusioni esistenti.

Troppo spesso, i dati su cui vengono addestrate le IA riflettono le disuguaglianze storiche e sociali, portando a sistemi che, anche involontariamente, perpetuano bias di genere. Considerare attivamente il punto di vista delle donne in tutte le fasi di progettazione può fare una differenza significativa nel garantire che l’IA per la cultura sia inclusiva e rappresentativa.

Ecco alcuni aspetti specifici in cui la prospettiva di genere può apportare un valore aggiunto. Come? Assicurarsi che i dataset utilizzati per addestrare l’IA siano bilanciati e rappresentino adeguatamente le esperienze, le creazioni e le narrazioni delle donne, spesso sottorappresentate negli archivi tradizionali. Questo richiede un’attenzione specifica nel colmare le lacune e nel recuperare storie e contributi femminili.

Integrare le esigenze e le prospettive delle donne nella definizione degli obiettivi che l’IA dovrebbe raggiungere nel contesto culturale. Ad esempio, assicurarsi che le applicazioni di IA per l’esplorazione del patrimonio culturale offrano percorsi e narrazioni che tengano conto delle esperienze di genere. Creare interfacce e modalità di interazione che siano inclusive e accessibili a tutti, tenendo conto delle diverse familiarità e preferenze di genere con la tecnologia. Implementare meccanismi specifici per identificare e mitigare i bias di genere negli algoritmi e nei risultati dell’IA. Questo può includere audit di genere e la partecipazione di esperti con competenze in studi di genere nel processo di valutazione. Vigilare affinché l’IA non riproduca stereotipi di genere nelle sue rappresentazioni del patrimonio culturale, nelle sue narrazioni e nelle sue interpretazioni. Promuovere invece una rappresentazione ricca e sfaccettata delle identità di genere. Ma è soprattutto necessario garantire la presenza e la partecipazione attiva di donne esperte di IA, di studi di genere e di patrimonio culturale in tutti i team di progettazione e sviluppo. Le nostre competenze e il nostro vissuto sono fondamentali per un approccio sensibile e inclusivo.

Integrare la prospettiva di genere non significa solo “aggiungere” un punto di vista, ma ripensare radicalmente il processo di progettazione per garantire che l’IA per la cultura sia uno strumento di inclusione e di empowerment per tutte e tutti.