{"id":9208,"date":"2026-08-15T08:47:58","date_gmt":"2026-08-15T06:47:58","guid":{"rendered":"https:\/\/www.diculther.it\/rivista\/?page_id=9208"},"modified":"2026-08-15T09:25:12","modified_gmt":"2026-08-15T07:25:12","slug":"disarmar-a-inteligencia-artificial-ciberseguranca-deepfakes-e-dignidade-humana-na-era-das-identidades-digitais-sinteticas","status":"publish","type":"page","link":"https:\/\/www.diculther.it\/rivista\/disarmar-a-inteligencia-artificial-ciberseguranca-deepfakes-e-dignidade-humana-na-era-das-identidades-digitais-sinteticas\/","title":{"rendered":"Disarmar a intelig\u00eancia artificial: ciberseguran\u00e7a, deepfakes e dignidade humana na era das identidades digitais sint\u00e9ticas"},"content":{"rendered":"\n

di J\u00e9ssica Gessoli<\/strong><\/p>\n\n\n\n

VIDEO DI PRESENTAZIONE<\/a><\/strong><\/p>\n\n\n\n

Introduzione editoriale<\/h2>\n\n\n\n

Ci sono articoli che descrivono un rischio e articoli che ne spostano il baricentro. Questo appartiene al secondo tipo. J\u00e9ssica Gessoli affronta deepfake e identit\u00e0 digitali sintetiche non come un capitolo della frode informatica, ma come una questione che tocca dignit\u00e0, consenso, reputazione, prova e fiducia sociale \u2014 e mostra, passo dopo passo, perch\u00e9 trattarla solo come frode significa bloccare forse una transazione lasciando la persona senza difesa.<\/p>\n\n\n\n

Il titolo \u00e8 una formula da leggere con attenzione: disarmare<\/em> l\u2019intelligenza artificiale non vuol dire limitarne la capacit\u00e0 di generare. Vuol dire impedire che la capacit\u00e0 di simulare una persona si converta in licenza di agire o decidere in suo nome, senza consenso, tracciabilit\u00e0 e responsabilit\u00e0. \u00c8 una distinzione che l\u2019autrice tiene ferma per tutto il testo, insieme ad altre tre che varrebbe la pena adottare come lessico comune: provenienza non \u00e8 veridicit\u00e0, rilevamento non \u00e8 decisione, automazione non \u00e8 responsabilit\u00e0.<\/p>\n\n\n\n

Il contributo pi\u00f9 originale \u00e8 per\u00f2 nel capitolo terzo, dove l\u2019articolo smette di occuparsi del falso che convince per occuparsi della verit\u00e0 che non riesce pi\u00f9 a dimostrarsi. Il dividendo del bugiardo<\/em> \u2014 l\u2019argomento di Chesney e Citron secondo cui la sola esistenza di falsificazioni credibili offre a chi ha potere una nuova difesa per negare registrazioni autentiche \u2014 viene qui portato dentro la vita ordinaria: il lavoro, l\u2019accertamento interno, la relazione personale. La vittima si trova stretta in un paradosso: deve provare di non aver prodotto il contenuto falso e, insieme, che i propri documenti veri sono ancora suoi.<\/p>\n\n\n\n

Da qui nasce la parte propositiva, e nasce come architettura a strati \u2014 governare e prevenire, verificare e rilevare, rispondere e recuperare, riparare e apprendere \u2014 costruita su NIST, LGPD, C2PA e AI Act senza mai attribuire a nessuno di questi strumenti pi\u00f9 di quanto dimostri. Al centro c\u2019\u00e8 una regola che i lettori di questo numero riconosceranno: quanto maggiore \u00e8 la conseguenza di un output su una persona identificabile, tanto minore pu\u00f2 essere la delega decisionale e tanto maggiore deve essere la tracciabilit\u00e0 umana.<\/p>\n\n\n\n

Non \u00e8 un caso che l\u2019articolo dialoghi esplicitamente con Pfliegel, Carpenedo, Ferrara e Pizzo. \u00c8 uno dei punti in cui questo numero smette di essere una raccolta e diventa una conversazione: quattro voci che lavorano sulla non-delegabilit\u00e0 in aula, nella ricerca, nel discernimento e nella custodia dell\u2019umano, e una quinta che ne verifica la tenuta l\u00e0 dove la posta in gioco \u00e8 il volto e la voce di qualcuno.<\/p>\n\n\n\n

Va segnalata infine una scelta di onest\u00e0 intellettuale rara: il capitolo settimo ospita l\u2019obiezione invece di aggirarla. Troppi controlli rallentano l\u2019innovazione, gravano sulle organizzazioni piccole, invecchiano male. L\u2019autrice la prende sul serio \u2014 \u00abanche una governance cattiva produce danno\u00bb \u2014 e risponde con la proporzionalit\u00e0, non con la rassicurazione.<\/p>\n\n\n\n

Resta, in chiusura, la frase che tiene insieme tutto il numero: dietro ogni identit\u00e0 sintetica c\u2019\u00e8 una persona reale, e le conseguenze che la riguardano non sono simulate. La tecnologia pu\u00f2 riprodurre i tratti di un volto; non pu\u00f2 prestare il consenso di chi imita, n\u00e9 riparare ci\u00f2 che ha rotto.<\/p>\n\n\n\n

Carmine Marinucci<\/p>\n\n\n\n

——–<\/p>\n\n\n\n

<\/a>Abstract (italiano)<\/h1>\n\n\n\n

L\u2019articolo esamina i deepfake e le identit\u00e0 digitali sintetiche come una superficie di rischio che va oltre la frode e incide su dignit\u00e0, consenso, reputazione, prova e fiducia sociale. Sostiene che \u201cdisarmare l\u2019IA\u201d non significhi ostacolare l\u2019innovazione, ma ridurre opacit\u00e0, impunit\u00e0 e delega indiscriminata attraverso una governance proporzionata all\u2019impatto. Muovendo da riferimenti di cybersecurity, continuit\u00e0 operativa, gestione del rischio e responsabilit\u00e0 umana, propone un approccio a strati: governare e prevenire; verificare e rilevare; rispondere e recuperare; riparare e apprendere. Il testo distingue la provenienza dalla veridicit\u00e0, il rilevamento dalla decisione e l\u2019automazione dalla responsabilit\u00e0. Esamina inoltre evidenze normative, tecniche e sperimentali del Brasile e del contesto internazionale, tra cui le regole elettorali brasiliane, l\u2019AI Act, i framework del NIST e lo standard C2PA. La tesi centrale \u00e8 che la generazione o l\u2019analisi di contenuti possa essere delegata in determinati contesti, mentre autenticit\u00e0, consenso, valutazione del danno, responsabilizzazione e riparazione richiedono supervisione umana e istituzioni capaci di agire. La protezione efficace non dipende da un unico strumento, ma dall\u2019integrazione di controlli tecnici, processi organizzativi, alfabetizzazione mediatica, conservazione delle prove e cura della persona colpita.<\/p>\n\n\n\n

<\/a>Abstract (English)<\/h1>\n\n\n\n

This article examines deepfakes and synthetic digital identities as a risk surface that extends beyond fraud and affects dignity, consent, reputation, evidence, and social trust. It argues that \u201cdisarming AI\u201d does not mean obstructing innovation, but reducing opacity, impunity, and indiscriminate delegation through governance proportionate to impact. Drawing on cybersecurity, business continuity, risk management, and human accountability, it proposes a layered approach: govern and prevent; verify and detect; respond and recover; repair and learn. The article distinguishes provenance from truth, detection from decision, and automation from responsibility. It also examines regulatory, technical, and experimental evidence from Brazil and the international context, including Brazilian electoral rules, the AI Act, NIST frameworks, and the C2PA standard. Its central thesis is that content generation or analysis may be delegated in certain contexts, while authenticity, consent, harm assessment, accountability, and reparation require human oversight and institutions capable of acting. Effective protection does not depend on a single tool, but on the integration of technical controls, organizational processes, media literacy, evidence preservation, and care for the person affected.<\/p>\n\n\n\n

<\/a>Palavras-chave<\/h1>\n\n\n\n

intelig\u00eancia artificial; deepfakes; ciberseguran\u00e7a; identidade digital; dignidade humana; governan\u00e7a de IA; resili\u00eancia operacional.<\/p>\n\n\n\n

<\/a>1. Quando ver e ouvir deixam de bastar<\/h1>\n\n\n\n

Imagine receber uma chamada de v\u00eddeo de algu\u00e9m que voc\u00ea conhece e respeita. A imagem parece leg\u00edtima, a voz carrega o ritmo habitual e o pedido chega com urg\u00eancia: autorizar uma transfer\u00eancia, revelar uma informa\u00e7\u00e3o sens\u00edvel ou contornar um procedimento \u201capenas desta vez\u201d. Tudo parece confirmar a identidade de quem fala. Somente depois da decis\u00e3o surge a pergunta que deveria ter vindo antes: aquela pessoa estava realmente ali?<\/p>\n\n\n\n

O cen\u00e1rio \u00e9 hipot\u00e9tico, mas o vetor de risco \u00e9 real e documentado. Um alerta oficial do FBI\/IC3<\/a> descreve o uso criminoso de \u00e1udio e v\u00eddeo gerados por intelig\u00eancia artificial para personifica\u00e7\u00e3o, fraude e engenharia social, incluindo pedidos urgentes de dinheiro, tentativas de acesso a contas e v\u00eddeos de falsos executivos ou autoridades. A mudan\u00e7a \u00e9 relevante: o ataque j\u00e1 n\u00e3o mira apenas uma senha ou um sistema; explora a confian\u00e7a humana depositada em sinais de identidade que, at\u00e9 pouco tempo, pareciam dif\u00edceis de falsificar.<\/p>\n\n\n\n

Durante d\u00e9cadas, \u201cver para crer\u201d funcionou como atalho de valida\u00e7\u00e3o. A intelig\u00eancia artificial generativa rompe esse atalho ao separar sinais reconhec\u00edveis \u2014 rosto, voz, gestos e modo de falar \u2014 da pessoa a quem pertencem. Sob a perspectiva da ciberseguran\u00e7a, isso reduz a confiabilidade de autentica\u00e7\u00f5es apoiadas somente em imagem ou voz. Sob a perspectiva humana, permite que uma identidade seja usada para dizer, pedir ou aparentar fazer algo que seu titular nunca autorizou. O deepfake n\u00e3o \u00e9 apenas um arquivo falso: pode transformar a presen\u00e7a de algu\u00e9m em instrumento de a\u00e7\u00e3o contra terceiros e contra a pr\u00f3pria pessoa simulada.<\/p>\n\n\n\n

A evid\u00eancia acad\u00eamica recomenda cautela diante de respostas f\u00e1ceis. O estudo de Vaccari e Chadwick<\/a> indica que deepfakes pol\u00edticos podem ampliar a incerteza e reduzir a confian\u00e7a, ainda que n\u00e3o conven\u00e7am diretamente a maioria. A pesquisa de Groh e coautores<\/a> mostra que o discernimento humano varia conforme a modalidade e o contexto, e que vozes sint\u00e9ticas produzidas por sistemas de texto para fala podem ser especialmente dif\u00edceis de distinguir. Portanto, n\u00e3o \u00e9 razo\u00e1vel transferir toda a responsabilidade para o olhar individual \u2014 nem supor que um \u00fanico detector resolver\u00e1 o problema.<\/p>\n\n\n\n

A pergunta central, ent\u00e3o, n\u00e3o \u00e9 somente \u201ceste conte\u00fado \u00e9 falso?\u201d. \u00c9 tamb\u00e9m: quem deve validar a identidade, interromper a decis\u00e3o, preservar evid\u00eancias, responder pelo dano e reparar a pessoa cuja imagem ou voz foi apropriada? Se o problema for tratado apenas como fraude, talvez a transa\u00e7\u00e3o seja bloqueada, mas a reputa\u00e7\u00e3o e a narrativa da v\u00edtima permane\u00e7am desprotegidas. Se for tratado apenas como abstra\u00e7\u00e3o \u00e9tica, faltar\u00e3o controles de autentica\u00e7\u00e3o, escalonamento e resposta a incidentes.<\/p>\n\n\n\n

Desarmar a intelig\u00eancia artificial, neste contexto, n\u00e3o significa impedir sua capacidade de gerar conte\u00fado. Significa impedir que a capacidade de simular uma pessoa se converta em licen\u00e7a para agir ou decidir em seu nome, sem consentimento, rastreabilidade ou responsabiliza\u00e7\u00e3o. Quando ver e ouvir deixam de bastar, a confian\u00e7a n\u00e3o pode desaparecer: ela precisa ser reconstru\u00edda como processo.<\/p>\n\n\n\n

<\/a>2. A identidade virou superf\u00edcie de ataque<\/h1>\n\n\n\n

A ciberseguran\u00e7a aprendeu a inventariar servidores, aplica\u00e7\u00f5es, contas, dados e processos cr\u00edticos. O avan\u00e7o dos deepfakes exige ampliar esse mapa: imagem, voz, gestos, padr\u00f5es de linguagem, reputa\u00e7\u00e3o e mem\u00f3ria p\u00fablica tamb\u00e9m podem ser capturados, combinados e reutilizados. Esses elementos n\u00e3o funcionam apenas como dados sobre uma pessoa. Em determinadas situa\u00e7\u00f5es, funcionam como sinais pelos quais colegas, familiares, clientes e institui\u00e7\u00f5es reconhecem quem ela \u00e9 e decidem se devem confiar, obedecer ou agir.<\/p>\n\n\n\n

Por isso, a identidade tornou-se uma superf\u00edcie de ataque. A express\u00e3o n\u00e3o significa reduzir a pessoa a um ativo tecnol\u00f3gico, mas reconhecer que terceiros podem explorar tra\u00e7os identit\u00e1rios como porta de entrada para uma decis\u00e3o. Uma grava\u00e7\u00e3o dispon\u00edvel em reuni\u00e3o, entrevista, palestra ou rede social pode fornecer mat\u00e9ria-prima para uma simula\u00e7\u00e3o. O conte\u00fado sint\u00e9tico, por sua vez, pode ser empregado em engenharia social, desinforma\u00e7\u00e3o, constrangimento ou fraude. Nem sempre \u00e9 necess\u00e1rio invadir um sistema: em alguns casos, basta fabricar uma presen\u00e7a convincente e conduzir algu\u00e9m a autorizar a a\u00e7\u00e3o desejada.<\/p>\n\n\n\n

\u00c9 importante distinguir fraude transacional de apropria\u00e7\u00e3o da identidade. Na primeira, o objetivo predominante costuma ser obter dinheiro, acesso ou informa\u00e7\u00e3o. Na segunda, a pr\u00f3pria representa\u00e7\u00e3o da pessoa \u00e9 tomada e reorganizada: algu\u00e9m passa a aparentar dizer, apoiar, prometer ou fazer algo sem ter participado da decis\u00e3o. As duas situa\u00e7\u00f5es podem ocorrer juntas, mas n\u00e3o s\u00e3o equivalentes. Mesmo quando nenhuma transfer\u00eancia \u00e9 conclu\u00edda, a simula\u00e7\u00e3o pode atingir v\u00ednculos profissionais, confian\u00e7a, honra, seguran\u00e7a psicol\u00f3gica e o direito de controlar a pr\u00f3pria narrativa.<\/p>\n\n\n\n

Essa distin\u00e7\u00e3o amplia tamb\u00e9m o conceito de impacto. A confidencialidade \u00e9 afetada quando dados pessoais s\u00e3o coletados ou reutilizados sem controle; a integridade, quando falas e contextos s\u00e3o alterados; e a autenticidade, quando os sinais dispon\u00edveis j\u00e1 n\u00e3o permitem confirmar a origem. Entretanto, a an\u00e1lise n\u00e3o termina nos pilares t\u00e9cnicos. H\u00e1 uma dimens\u00e3o de dignidade porque o dano pode incidir sobre autonomia, reputa\u00e7\u00e3o, privacidade e reconhecimento social. A Constitui\u00e7\u00e3o brasileira<\/a> protege intimidade, vida privada, honra e imagem, enquanto o C\u00f3digo Civil<\/a> oferece fundamentos para a tutela da palavra, da imagem e da vida privada. Isso n\u00e3o torna todo conte\u00fado sint\u00e9tico automaticamente il\u00edcito; finalidade, contexto, consentimento, exce\u00e7\u00f5es legais e efeitos concretos precisam ser avaliados em cada caso.<\/p>\n\n\n\n

A LGPD<\/a> acrescenta deveres relacionados a finalidade, necessidade, seguran\u00e7a, preven\u00e7\u00e3o, transpar\u00eancia e responsabiliza\u00e7\u00e3o quando h\u00e1 tratamento de dados pessoais. Imagem ou voz n\u00e3o devem ser classificadas automaticamente como dado biom\u00e9trico: essa conclus\u00e3o depende do uso t\u00e9cnico voltado \u00e0 identifica\u00e7\u00e3o. Ainda assim, sua coleta e reutiliza\u00e7\u00e3o podem envolver dados pessoais e exigir governan\u00e7a desde a origem. Consentimento \u00e9 relevante, mas n\u00e3o deve ser tratado como autoriza\u00e7\u00e3o gen\u00e9rica e permanente para usos futuros imprevis\u00edveis.<\/p>\n\n\n\n

Em escala internacional, a Recomenda\u00e7\u00e3o da UNESCO sobre \u00c9tica da Intelig\u00eancia Artificial<\/a> associa governan\u00e7a a direitos humanos, dignidade, privacidade, supervis\u00e3o e avalia\u00e7\u00e3o de impactos. Os Princ\u00edpios de IA da OCDE<\/a> conectam sistemas confi\u00e1veis \u00e0 integridade da informa\u00e7\u00e3o, \u00e0 seguran\u00e7a e \u00e0 responsabiliza\u00e7\u00e3o. O NIST AI RMF<\/a> oferece uma ponte operacional: governar responsabilidades, mapear contexto e pessoas afetadas, medir riscos e administrar tratamentos ao longo do ciclo de vida. Nenhum desses referenciais resolve sozinho o problema, mas juntos ajudam a evitar que a prote\u00e7\u00e3o permane\u00e7a apenas no discurso.<\/p>\n\n\n\n

Na pr\u00e1tica, organiza\u00e7\u00f5es precisam perguntar n\u00e3o somente \u201cquais dados possu\u00edmos?\u201d, mas tamb\u00e9m \u201cquais identidades ajudamos a expor, reproduzir, autenticar ou representar?\u201d. A resposta exige coordena\u00e7\u00e3o entre ciberseguran\u00e7a, privacidade, jur\u00eddico, comunica\u00e7\u00e3o, recursos humanos e lideran\u00e7a. Proteger a identidade n\u00e3o \u00e9 transferir para cada pessoa a obriga\u00e7\u00e3o de vigiar permanentemente sua pr\u00f3pria imagem. \u00c9 criar crit\u00e9rios de uso, autentica\u00e7\u00e3o proporcional ao risco, canais de contesta\u00e7\u00e3o, preserva\u00e7\u00e3o de evid\u00eancias e mecanismos de repara\u00e7\u00e3o. Quando o invent\u00e1rio inclui apenas sistemas e exclui pessoas, parte decisiva do risco permanece invis\u00edvel.<\/p>\n\n\n\n

<\/a>3. O falso que convence e a verdade que passa a ser negada<\/h1>\n\n\n\n

O risco mais evidente de um deepfake \u00e9 algu\u00e9m acreditar em uma falsifica\u00e7\u00e3o. Mas essa n\u00e3o \u00e9 a \u00fanica forma de dano \u2014 e talvez nem seja a mais corrosiva. Quando imagens e vozes podem ser simuladas com crescente verossimilhan\u00e7a, tamb\u00e9m aumenta a possibilidade de que conte\u00fados aut\u00eanticos sejam recebidos com suspeita. O problema deixa de ser apenas a mentira que convence e passa a incluir a verdade que j\u00e1 n\u00e3o consegue provar a si mesma.<\/p>\n\n\n\n

O estudo de Vaccari e Chadwick<\/a> ajuda a compreender esse deslocamento. Em um experimento com participantes do Reino Unido, vers\u00f5es enganosas de um v\u00eddeo pol\u00edtico n\u00e3o levaram a maioria a aceitar diretamente a falsidade apresentada; seu efeito mais consistente foi ampliar a incerteza. Essa d\u00favida, por sua vez, esteve associada \u00e0 redu\u00e7\u00e3o da confian\u00e7a em not\u00edcias circuladas nas redes sociais. O resultado n\u00e3o deve ser generalizado para todas as culturas, plataformas ou formas de deepfake, mas revela um ponto decisivo: uma falsifica\u00e7\u00e3o pode produzir impacto mesmo sem ser plenamente acreditada.<\/p>\n\n\n\n

Essa zona de incerteza altera o comportamento. Diante de um conte\u00fado duvidoso, algumas pessoas compartilham antes de verificar; outras suspendem o julgamento; outras escolhem a vers\u00e3o mais conveniente \u00e0s suas cren\u00e7as. Em qualquer desses caminhos, o custo da valida\u00e7\u00e3o cresce. Jornalistas, empresas, autoridades, profissionais e cidad\u00e3os precisam investir mais tempo para demonstrar origem, contexto e integridade. A assimetria favorece quem manipula: fabricar a d\u00favida pode ser r\u00e1pido, enquanto restaurar a confian\u00e7a exige evid\u00eancias, coordena\u00e7\u00e3o e credibilidade acumulada.<\/p>\n\n\n\n

A pesquisa de Groh e coautores<\/a> refor\u00e7a que a percep\u00e7\u00e3o humana n\u00e3o funciona como detector universal. Em cinco experimentos pr\u00e9-registrados com participantes expostos a discursos pol\u00edticos aut\u00eanticos e fabricados, o discernimento variou conforme a modalidade, o contexto e a forma de produ\u00e7\u00e3o do \u00e1udio. Pistas audiovisuais ajudaram em determinadas compara\u00e7\u00f5es, mas vozes geradas por sistemas de texto para fala mostraram-se particularmente dif\u00edceis em rela\u00e7\u00e3o \u00e0s vers\u00f5es com atores. Esses resultados n\u00e3o autorizam uma regra simples como \u201cv\u00eddeo \u00e9 mais seguro que \u00e1udio\u201d ou \u201cuma pessoa atenta sempre percebe\u201d. A capacidade de avalia\u00e7\u00e3o depende do est\u00edmulo, da familiaridade, das condi\u00e7\u00f5es de observa\u00e7\u00e3o e das t\u00e9cnicas utilizadas.<\/p>\n\n\n\n

H\u00e1 ainda uma consequ\u00eancia mais perigosa: o chamado dividendo do mentiroso. A an\u00e1lise de Chesney e Citron<\/a> mostra que a exist\u00eancia de falsifica\u00e7\u00f5es convincentes oferece a pessoas interessadas uma nova defesa para negar registros verdadeiros. Um \u00e1udio aut\u00eantico, uma fotografia leg\u00edtima ou um v\u00eddeo real podem ser descartados como fabrica\u00e7\u00e3o. Assim, a tecnologia n\u00e3o serve apenas para criar evid\u00eancia falsa; sua mera possibilidade pode ser explorada para enfraquecer evid\u00eancia verdadeira. Quem tem poder, audi\u00eancia ou interesse em escapar da responsabiliza\u00e7\u00e3o ganha espa\u00e7o para transformar verifica\u00e7\u00e3o em disputa narrativa.<\/p>\n\n\n\n

Esse efeito atravessa diferentes ambientes. Na democracia, degrada o debate p\u00fablico e facilita a rejei\u00e7\u00e3o oportunista de provas. No trabalho, pode comprometer comunica\u00e7\u00f5es executivas, apura\u00e7\u00f5es internas, admiss\u00f5es de responsabilidade ou den\u00fancias. Nas rela\u00e7\u00f5es pessoais, permite negar mensagens reais ou atribuir falas inventadas a algu\u00e9m. Em todos os casos, a v\u00edtima enfrenta um paradoxo: pode ter de demonstrar que n\u00e3o produziu o conte\u00fado falso e, ao mesmo tempo, provar que outros registros aut\u00eanticos continuam sendo seus. A identidade fica pressionada entre a falsifica\u00e7\u00e3o e a nega\u00e7\u00e3o.<\/p>\n\n\n\n

Por isso, limitar a resposta \u00e0 pergunta \u201cconseguimos detectar este arquivo?\u201d \u00e9 insuficiente. Detectores s\u00e3o \u00fateis, mas seu desempenho varia conforme modelo, compress\u00e3o, modalidade, contexto e evolu\u00e7\u00e3o t\u00e9cnica. Preservar a confian\u00e7a exige um ambiente no qual evid\u00eancias possam ser avaliadas por m\u00faltiplos sinais: origem conhecida, cadeia de cust\u00f3dia, metadados, confirma\u00e7\u00e3o por canal independente, contexto, registros anteriores e an\u00e1lise humana respons\u00e1vel. Nenhum desses elementos, isoladamente, garante a verdade; juntos, tornam a manipula\u00e7\u00e3o mais dif\u00edcil e a contesta\u00e7\u00e3o mais verific\u00e1vel.<\/p>\n\n\n\n

Desarmar a IA, aqui, significa reduzir o poder estrat\u00e9gico da d\u00favida fabricada. O objetivo n\u00e3o \u00e9 restaurar ingenuamente o antigo \u201cver para crer\u201d, mas construir condi\u00e7\u00f5es para distinguir d\u00favida leg\u00edtima de nega\u00e7\u00e3o oportunista. Em uma sociedade cercada por conte\u00fado sint\u00e9tico, confian\u00e7a n\u00e3o pode depender apenas da apar\u00eancia \u2014 nem ser abandonada ao cinismo. Ela precisa de processos, institui\u00e7\u00f5es e pessoas capazes de verificar, explicar e responder.<\/p>\n\n\n\n

<\/a>4. O que n\u00e3o pode ser delegado<\/h1>\n\n\n\n

A pergunta \u201co que n\u00e3o pode ser delegado?\u201d n\u00e3o pede uma lista de tarefas proibidas \u00e0 intelig\u00eancia artificial. Pede um crit\u00e9rio para decidir at\u00e9 onde uma organiza\u00e7\u00e3o pode usar sistemas automatizados sem abandonar responsabilidades humanas. Gerar conte\u00fado, comparar padr\u00f5es, organizar evid\u00eancias ou sinalizar anomalias pode ser tecnicamente deleg\u00e1vel. Autorizar o uso da identidade de algu\u00e9m, definir o significado de uma evid\u00eancia, decidir sobre consequ\u00eancias e reparar um dano n\u00e3o pode desaparecer dentro de um fluxo automatizado.<\/p>\n\n\n\n

O ensaio de Simone Pfliegel<\/a> oferece um ponto de partida: quanto mais um resultado se transforma em afirma\u00e7\u00e3o com consequ\u00eancias sobre uma pessoa identific\u00e1vel, maior deve ser a exig\u00eancia de decis\u00e3o, explica\u00e7\u00e3o e responsabilidade humanas. Seu contexto original \u00e9 educacional; a aplica\u00e7\u00e3o aos deepfakes \u00e9 uma transposi\u00e7\u00e3o que assumo neste artigo. Um sistema pode indicar sinais de manipula\u00e7\u00e3o. Mas classificar algu\u00e9m como autor de fraude, retirar-lhe credibilidade, aplicar san\u00e7\u00e3o ou publicar uma acusa\u00e7\u00e3o produz efeitos que exigem julgamento contextual e um respons\u00e1vel reconhec\u00edvel.<\/p>\n\n\n\n

A reflex\u00e3o de Filippo Carpenedo<\/a> acrescenta outro alerta: flu\u00eancia formal n\u00e3o comprova compreens\u00e3o, originalidade ou legitimidade. No campo das identidades sint\u00e9ticas, a equival\u00eancia \u00e9 direta. Um rosto coerente, uma voz familiar e uma narrativa bem constru\u00edda podem produzir apar\u00eancia de autenticidade sem provar origem, consentimento ou verdade. A qualidade do resultado t\u00e9cnico n\u00e3o concede legitimidade ao uso. Tampouco a capacidade de gerar uma simula\u00e7\u00e3o responde se ela deveria ser criada, publicada ou empregada em uma decis\u00e3o.<\/p>\n\n\n\n

O texto de Maria Grazia Ferrara<\/a> distingue pot\u00eancia de c\u00e1lculo e discernimento. Sistemas podem apoiar busca, classifica\u00e7\u00e3o e compara\u00e7\u00e3o; pessoas continuam respons\u00e1veis por verificar fontes, interpretar contexto, reconhecer limites e avaliar efeitos morais. Essa distin\u00e7\u00e3o evita confiar cegamente na sa\u00edda automatizada ou rejeitar toda contribui\u00e7\u00e3o t\u00e9cnica. Governan\u00e7a madura define em que ponto a automa\u00e7\u00e3o apoia o processo e em que ponto uma decis\u00e3o humana fundamentada se torna obrigat\u00f3ria.<\/p>\n\n\n\n

A contribui\u00e7\u00e3o de Alessandro Pizzo<\/a> amplia a responsabilidade do indiv\u00edduo para a comunidade. Proteger o humano n\u00e3o pode depender apenas da aten\u00e7\u00e3o de quem recebe uma liga\u00e7\u00e3o, assiste a um v\u00eddeo ou suspeita de uma voz. Organiza\u00e7\u00f5es e plataformas precisam oferecer crit\u00e9rios, canais, registros e capacidade de resposta. Boas inten\u00e7\u00f5es n\u00e3o bastam quando faltam meios para contestar uma falsifica\u00e7\u00e3o, preservar evid\u00eancias, conter sua circula\u00e7\u00e3o e acompanhar quem foi atingido. A responsabilidade \u00e9 humana, institucional e compartilhada.<\/p>\n\n\n\n

A Magnifica Humanitas<\/a> fornece uma base humanista para essa leitura: poder t\u00e9cnico n\u00e3o equivale automaticamente a legitimidade moral. A t\u00e9cnica pode ampliar capacidades e, simultaneamente, produzir injusti\u00e7as. Em um artigo de ciberseguran\u00e7a, esse princ\u00edpio n\u00e3o substitui evid\u00eancia t\u00e9cnica ou norma jur\u00eddica; funciona como pergunta de governan\u00e7a: o que se torna poss\u00edvel e quem assume as consequ\u00eancias quando essa possibilidade afeta a dignidade de algu\u00e9m?<\/p>\n\n\n\n

Proponho, ent\u00e3o, uma regra aplic\u00e1vel: quanto maior a consequ\u00eancia de uma sa\u00edda de IA sobre uma pessoa identific\u00e1vel, menor pode ser a delega\u00e7\u00e3o decis\u00f3ria e maior deve ser a rastreabilidade humana. O crit\u00e9rio n\u00e3o \u00e9 apenas o grau de automa\u00e7\u00e3o, mas a combina\u00e7\u00e3o entre impacto, reversibilidade, assimetria de poder e capacidade de repara\u00e7\u00e3o. Uma sugest\u00e3o interna e revis\u00e1vel exige controles diferentes de uma acusa\u00e7\u00e3o p\u00fablica, de um bloqueio de acesso ou de uma decis\u00e3o que afete reputa\u00e7\u00e3o, trabalho, seguran\u00e7a ou direitos.<\/p>\n\n\n\n

Essa regra se traduz em cinco responsabilidades que n\u00e3o devem ser abandonadas. Consentimento: definir se imagem, voz e dados podem ser coletados e reutilizados, para qual finalidade e por quanto tempo. Contexto: compreender onde o conte\u00fado surgiu, como circulou e quem pode ser afetado. Decis\u00e3o: atribuir a pessoas autorizadas a avalia\u00e7\u00e3o final em situa\u00e7\u00f5es de alto impacto. Explica\u00e7\u00e3o: registrar crit\u00e9rios, fontes, incertezas e limites da conclus\u00e3o. Repara\u00e7\u00e3o: remover ou conter o conte\u00fado quando cab\u00edvel, corrigir narrativas, preservar provas, oferecer contesta\u00e7\u00e3o e acompanhar os danos.<\/p>\n\n\n\n

A Recomenda\u00e7\u00e3o da UNESCO<\/a> e os Princ\u00edpios de IA da OCDE<\/a> convergem ao colocar direitos humanos, supervis\u00e3o, transpar\u00eancia, seguran\u00e7a e responsabiliza\u00e7\u00e3o no centro da governan\u00e7a. Esses referenciais n\u00e3o transformam valores em controles automaticamente; cabe \u00e0s organiza\u00e7\u00f5es convert\u00ea-los em pap\u00e9is, al\u00e7adas, registros e respostas verific\u00e1veis.<\/p>\n\n\n\n

Desarmar a IA, portanto, \u00e9 retirar da automa\u00e7\u00e3o a apar\u00eancia de autoridade que ningu\u00e9m assumiu. Sistemas podem apoiar o trabalho, mas n\u00e3o podem servir como esconderijo para decis\u00f5es humanas sem autor, sem explica\u00e7\u00e3o e sem repara\u00e7\u00e3o. Dignidade deixa de ser apenas um princ\u00edpio abstrato quando define quem decide, quem responde e como a pessoa afetada pode recuperar voz sobre a pr\u00f3pria identidade.<\/p>\n\n\n\n

<\/a>5. Desarmar a IA por camadas<\/h1>\n\n\n\n

Se princ\u00edpios n\u00e3o se transformam em capacidade operacional, permanecem vulner\u00e1veis \u00e0 primeira crise. Desarmar a IA, no contexto das identidades sint\u00e9ticas, n\u00e3o significa procurar um controle capaz de eliminar o risco. Significa construir defesa em profundidade: uma sequ\u00eancia de decis\u00f5es, barreiras e respostas que reduza a probabilidade de abuso, limite seus efeitos e proteja a pessoa atingida. A proposta a seguir combina o NIST AI RMF<\/a>, o perfil de IA generativa do NIST<\/a> e o NIST CSF 2.0<\/a> com refer\u00eancias de privacidade, proveni\u00eancia e resposta a incidentes. \u00c9 uma adapta\u00e7\u00e3o pr\u00e1tica, n\u00e3o uma garantia de preven\u00e7\u00e3o nem uma lista universal de obriga\u00e7\u00f5es.<\/p>\n\n\n\n

<\/a>Governar e prevenir<\/h2>\n\n\n\n

A primeira camada come\u00e7a antes da gera\u00e7\u00e3o ou circula\u00e7\u00e3o de qualquer arquivo. A organiza\u00e7\u00e3o deve definir para que pretende usar IA, qual benef\u00edcio leg\u00edtimo espera obter e quais pessoas podem ser afetadas. Isso exige inventariar n\u00e3o apenas modelos, aplica\u00e7\u00f5es e fornecedores, mas tamb\u00e9m ativos de identidade: imagens, vozes, documentos, assinaturas, perfis e dados capazes de representar algu\u00e9m. O NIST AI RMF organiza esse trabalho em governar, mapear, medir e administrar riscos; a LGPD<\/a> acrescenta princ\u00edpios de finalidade, necessidade, seguran\u00e7a, preven\u00e7\u00e3o, transpar\u00eancia e presta\u00e7\u00e3o de contas quando h\u00e1 tratamento de dados pessoais. Na pr\u00e1tica, cada caso de uso precisa de respons\u00e1vel, finalidade documentada, avalia\u00e7\u00e3o de impacto proporcional, crit\u00e9rios de acesso, reten\u00e7\u00e3o e compartilhamento, al\u00e9m de condi\u00e7\u00f5es para suspender ou desativar o sistema quando o risco se tornar inaceit\u00e1vel.<\/p>\n\n\n\n

Prevenir tamb\u00e9m significa minimizar a mat\u00e9ria-prima dispon\u00edvel para abuso. Nem toda grava\u00e7\u00e3o precisa ser armazenada, nem todo conjunto de dados deve ser reutilizado para treinar ou ajustar modelos. Consentimento n\u00e3o pode ser reduzido a uma autoriza\u00e7\u00e3o gen\u00e9rica, sobretudo quando imagem e voz poder\u00e3o ser reproduzidas em novos contextos. Contratos com terceiros devem esclarecer usos permitidos, subcontrata\u00e7\u00e3o, prote\u00e7\u00e3o dos dados, registro de altera\u00e7\u00f5es, comunica\u00e7\u00e3o de incidentes e destina\u00e7\u00e3o ao t\u00e9rmino da rela\u00e7\u00e3o. Controles de acesso, segrega\u00e7\u00e3o de fun\u00e7\u00f5es, autentica\u00e7\u00e3o forte e revis\u00e3o peri\u00f3dica de permiss\u00f5es diminuem tanto o abuso externo quanto o interno. Treinamento completa essa camada: pessoas precisam reconhecer que urg\u00eancia, autoridade aparente e familiaridade da voz s\u00e3o elementos de engenharia social, n\u00e3o provas de autenticidade.<\/p>\n\n\n\n

<\/a>Verificar e detectar<\/h2>\n\n\n\n

Quando uma mensagem solicita dinheiro, credenciais, segredo, altera\u00e7\u00e3o cadastral ou decis\u00e3o de alto impacto, a apar\u00eancia n\u00e3o deve encerrar a an\u00e1lise. A autentica\u00e7\u00e3o precisa ser proporcional \u00e0 consequ\u00eancia: confirmar por um segundo canal conhecido, retornar a liga\u00e7\u00e3o usando n\u00famero previamente registrado, validar a solicita\u00e7\u00e3o com outra pessoa autorizada ou aplicar uma palavra de confirma\u00e7\u00e3o combinada s\u00e3o exemplos simples. O alerta do FBI\/IC3<\/a> sobre fraudes facilitadas por IA recomenda verifica\u00e7\u00e3o por canal independente diante de pedidos urgentes envolvendo \u00e1udio ou v\u00eddeo. O princ\u00edpio vale tamb\u00e9m fora do contexto financeiro: nenhuma decis\u00e3o grave sobre reputa\u00e7\u00e3o, acesso, emprego ou seguran\u00e7a deveria apoiar-se apenas em um rosto na tela ou em uma voz reconhec\u00edvel.<\/p>\n\n\n\n

Proveni\u00eancia e rotulagem acrescentam contexto. A especifica\u00e7\u00e3o C2PA<\/a> permite associar credenciais verific\u00e1veis \u00e0 origem e \u00e0s altera\u00e7\u00f5es de um ativo digital. O AI Act<\/a> e a Resolu\u00e7\u00e3o TSE n.\u00ba 23.610\/2019, na reda\u00e7\u00e3o consolidada pela Resolu\u00e7\u00e3o TSE n.\u00ba 23.755\/2026<\/a> mostram, em \u00e2mbitos distintos, como transpar\u00eancia e identifica\u00e7\u00e3o de conte\u00fado sint\u00e9tico entram em respostas regulat\u00f3rias. Ainda assim, esses mecanismos n\u00e3o s\u00e3o or\u00e1culos. A presen\u00e7a de uma credencial n\u00e3o prova que o conte\u00fado seja verdadeiro; sua aus\u00eancia n\u00e3o demonstra falsidade; um r\u00f3tulo pode ser removido, ignorado ou aplicado de modo enganoso. Detectores tamb\u00e9m devem ser tratados como sinais, e n\u00e3o como senten\u00e7as. Seu desempenho varia com modalidade, compress\u00e3o, modelo gerador e contexto. Monitoramento maduro combina indicadores t\u00e9cnicos, metadados, comportamento da conta, hist\u00f3rico da comunica\u00e7\u00e3o, origem do arquivo, contexto do pedido e revis\u00e3o humana, registrando incertezas e falsos positivos.<\/p>\n\n\n\n

<\/a>Responder e recuperar<\/h2>\n\n\n\n

Quando houver suspeita de m\u00eddia sint\u00e9tica maliciosa, a organiza\u00e7\u00e3o precisa acionar um playbook pr\u00f3prio ou incorporar esse cen\u00e1rio ao processo de incidentes. O primeiro objetivo \u00e9 impedir que a urg\u00eancia fabricada determine a resposta. Deve-se preservar o arquivo original, mensagens, cabe\u00e7alhos, metadados, registros de acesso, hor\u00e1rios e decis\u00f5es tomadas, mantendo cadeia de cust\u00f3dia compat\u00edvel com a criticidade. Em paralelo, \u00e9 necess\u00e1rio conter o impacto: interromper transa\u00e7\u00f5es, bloquear credenciais comprometidas, isolar contas, suspender publica\u00e7\u00f5es automatizadas, avisar destinat\u00e1rios expostos e solicitar remo\u00e7\u00e3o ou limita\u00e7\u00e3o de alcance nas plataformas cab\u00edveis. A conten\u00e7\u00e3o deve evitar nova vitimiza\u00e7\u00e3o; reproduzir indiscriminadamente o material para \u201calertar\u201d pode ampliar o dano que se pretende reduzir.<\/p>\n\n\n\n

Nenhuma \u00e1rea resolve esse incidente sozinha. Seguran\u00e7a investiga vetores, contas e evid\u00eancias t\u00e9cnicas. Privacidade avalia dados pessoais e pessoas afetadas. Jur\u00eddico interpreta obriga\u00e7\u00f5es e op\u00e7\u00f5es aplic\u00e1veis ao caso concreto. Comunica\u00e7\u00e3o corrige informa\u00e7\u00f5es sem transformar incerteza em acusa\u00e7\u00e3o. Recursos Humanos apoia situa\u00e7\u00f5es que envolvam trabalhadores. Lideran\u00e7a define prioridades, al\u00e7adas e recursos. A pessoa cuja identidade foi apropriada deve participar do processo, receber informa\u00e7\u00e3o compreens\u00edvel e dispor de um canal de contesta\u00e7\u00e3o. Essa coordena\u00e7\u00e3o precisa definir previamente quem decide, quem comunica, quando escalar a autoridades ou plataformas e como registrar as raz\u00f5es. O NIST CSF 2.0 ajuda a conectar governan\u00e7a, identifica\u00e7\u00e3o, prote\u00e7\u00e3o, detec\u00e7\u00e3o, resposta e recupera\u00e7\u00e3o como um ciclo, evitando que a organiza\u00e7\u00e3o trate o arquivo e abandone as consequ\u00eancias.<\/p>\n\n\n\n

Recuperar n\u00e3o \u00e9 apenas restaurar sistemas. Pode exigir retomar contas, corrigir cadastros, invalidar instru\u00e7\u00f5es falsas, comunicar parceiros, acompanhar tentativas derivadas e monitorar novas publica\u00e7\u00f5es. A mensagem externa deve separar o que foi confirmado, o que permanece em an\u00e1lise e quais a\u00e7\u00f5es as pessoas devem realizar. N\u00e3o se deve declarar um conte\u00fado falso apenas porque um detector indicou alta probabilidade, nem exigir da v\u00edtima que prove sozinha a fabrica\u00e7\u00e3o. A decis\u00e3o precisa reunir evid\u00eancias t\u00e9cnicas, contexto, registros confi\u00e1veis e revis\u00e3o humana. Se houver impacto sobre pagamentos, acesso, emprego, reputa\u00e7\u00e3o ou seguran\u00e7a, a recupera\u00e7\u00e3o deve priorizar a revers\u00e3o do efeito e a prote\u00e7\u00e3o da pessoa, n\u00e3o apenas o fechamento administrativo do incidente.<\/p>\n\n\n\n

<\/a>Reparar e aprender<\/h2>\n\n\n\n

O ciclo s\u00f3 se completa quando a organiza\u00e7\u00e3o enfrenta o dano humano. Repara\u00e7\u00e3o pode envolver acolhimento, remo\u00e7\u00e3o ou contesta\u00e7\u00e3o do conte\u00fado, corre\u00e7\u00e3o p\u00fablica proporcional ao alcance da falsifica\u00e7\u00e3o, apoio jur\u00eddico, restaura\u00e7\u00e3o de credenciais e acompanhamento reputacional. A resposta precisa evitar linguagem que responsabilize a v\u00edtima por ter sido imitada, exposta ou enganada. Tamb\u00e9m deve reconhecer que o sil\u00eancio institucional pode prolongar o dano: enquanto \u00e1reas discutem quem \u00e9 respons\u00e1vel, a falsifica\u00e7\u00e3o continua circulando e a pessoa real perde controle sobre sua pr\u00f3pria narrativa.<\/p>\n\n\n\n

Depois da conten\u00e7\u00e3o, a an\u00e1lise de li\u00e7\u00f5es aprendidas deve perguntar n\u00e3o apenas como o conte\u00fado foi produzido, mas por que encontrou um caminho confi\u00e1vel para causar efeito. Havia excesso de dados dispon\u00edveis? Uma aprova\u00e7\u00e3o dependia de uma \u00fanica voz? Faltava canal independente? Um fornecedor podia reutilizar material sem supervis\u00e3o? A comunica\u00e7\u00e3o de crise estava preparada? As respostas alimentam revis\u00e3o de invent\u00e1rios, contratos, permiss\u00f5es, procedimentos e treinamentos. Indicadores tamb\u00e9m precisam refletir o ciclo inteiro: tempo para confirmar, conter, alertar e reparar; falsos positivos; reincid\u00eancia; alcance da corre\u00e7\u00e3o; e percep\u00e7\u00e3o da pessoa afetada sobre o atendimento recebido. Medir apenas quantos arquivos foram classificados confunde atividade t\u00e9cnica com redu\u00e7\u00e3o de dano. Exerc\u00edcios de mesa podem simular um pedido urgente atribu\u00eddo a um executivo, uma falsa declara\u00e7\u00e3o p\u00fablica ou a apropria\u00e7\u00e3o da imagem de uma trabalhadora, sempre como hip\u00f3teses. O objetivo \u00e9 testar decis\u00f5es, comunica\u00e7\u00e3o e cuidado, n\u00e3o apenas a ferramenta de detec\u00e7\u00e3o.<\/p>\n\n\n\n

Essa arquitetura em camadas transforma princ\u00edpios em capacidade organizacional. Governan\u00e7a reduz exposi\u00e7\u00e3o; verifica\u00e7\u00e3o cria fric\u00e7\u00e3o contra a fraude; detec\u00e7\u00e3o re\u00fane sinais; resposta cont\u00e9m; recupera\u00e7\u00e3o restaura; repara\u00e7\u00e3o devolve centralidade \u00e0 pessoa; aprendizagem corrige o sistema. Nenhuma camada \u00e9 infal\u00edvel e nenhuma autoriza a delega\u00e7\u00e3o integral do julgamento. Juntas, por\u00e9m, retiram da m\u00eddia sint\u00e9tica parte de seu poder: a opacidade deixa de encontrar processos despreparados, e a pessoa real deixa de enfrentar sozinha a m\u00e1quina, a plataforma e a institui\u00e7\u00e3o.<\/p>\n\n\n\n

<\/a>6. Evid\u00eancias verific\u00e1veis: Brasil e cen\u00e1rio internacional<\/h1>\n\n\n\n

O debate sobre deepfakes j\u00e1 deixou de ser apenas uma hip\u00f3tese sobre o futuro. Normas, padr\u00f5es t\u00e9cnicos, alertas operacionais e estudos experimentais mostram que o problema produz respostas concretas. Essas fontes, por\u00e9m, n\u00e3o t\u00eam a mesma natureza. Uma regra eleitoral brasileira n\u00e3o vale automaticamente para uma empresa; um regulamento europeu n\u00e3o se torna obriga\u00e7\u00e3o universal; um padr\u00e3o volunt\u00e1rio n\u00e3o decide o que \u00e9 verdadeiro; e um alerta policial n\u00e3o mede preval\u00eancia. A evid\u00eancia se fortalece quando cada fonte \u00e9 usada dentro de seu alcance.<\/p>\n\n\n\n

No Brasil, a Resolu\u00e7\u00e3o TSE n.\u00ba 23.610\/2019<\/a>, na reda\u00e7\u00e3o consolidada pela Resolu\u00e7\u00e3o TSE n.\u00ba 23.755\/2026<\/a>, oferece um exemplo regulat\u00f3rio espec\u00edfico. As regras centrais foram introduzidas pela Resolu\u00e7\u00e3o n.\u00ba 23.732\/2024 e permanecem na disciplina atual: na propaganda eleitoral, o uso de conte\u00fado sint\u00e9tico multim\u00eddia gerado por intelig\u00eancia artificial deve ser informado de modo expl\u00edcito, destacado e acess\u00edvel, conforme o formato da pe\u00e7a; tamb\u00e9m \u00e9 proibido o uso de deepfake em \u00e1udio, v\u00eddeo ou combina\u00e7\u00e3o de ambos para favorecer ou prejudicar candidatura, mesmo quando exista autoriza\u00e7\u00e3o. A norma prev\u00ea consequ\u00eancias eleitorais e medidas de remo\u00e7\u00e3o nas situa\u00e7\u00f5es definidas em seu texto. Seu alcance precisa ser respeitado: trata-se de disciplina da propaganda eleitoral, n\u00e3o de uma lei geral sobre deepfakes aplic\u00e1vel, por si s\u00f3, a rela\u00e7\u00f5es corporativas, familiares ou educacionais.<\/p>\n\n\n\n

Na Uni\u00e3o Europeia, o artigo 50 do AI Act<\/a> adota uma frente espec\u00edfica de transpar\u00eancia. Provedores de sistemas que geram conte\u00fado sint\u00e9tico devem viabilizar marca\u00e7\u00f5es detect\u00e1veis por m\u00e1quina, enquanto respons\u00e1veis pela implanta\u00e7\u00e3o de sistemas que criam ou manipulam imagem, \u00e1udio ou v\u00eddeo caracterizados como deepfake devem informar que o material foi artificialmente gerado ou alterado, observadas as exce\u00e7\u00f5es do regulamento. O artigo aplica-se desde 2026-08-02. Para determinados sistemas colocados no mercado antes dessa data, as orienta\u00e7\u00f5es oficiais da Comiss\u00e3o Europeia<\/a> indicam uma transi\u00e7\u00e3o espec\u00edfica at\u00e9 2026-12-02. N\u00e3o \u00e9 uma proibi\u00e7\u00e3o geral: trata-se de obriga\u00e7\u00e3o regulat\u00f3ria no \u00e2mbito europeu, com sujeitos, condi\u00e7\u00f5es e exce\u00e7\u00f5es pr\u00f3prios.<\/p>\n\n\n\n

No campo t\u00e9cnico, a especifica\u00e7\u00e3o C2PA 2.4<\/a> permite associar credenciais \u00e0 origem e \u00e0s altera\u00e7\u00f5es de um ativo digital. A proveni\u00eancia pode registrar como o conte\u00fado foi criado, o que mudou e quais etapas foram acrescentadas ao hist\u00f3rico, oferecendo sinais verific\u00e1veis de autenticidade. Sua ado\u00e7\u00e3o, contudo, \u00e9 volunt\u00e1ria. Uma credencial v\u00e1lida n\u00e3o comprova que a afirma\u00e7\u00e3o contida no arquivo seja verdadeira; a aus\u00eancia da credencial tamb\u00e9m n\u00e3o prova falsifica\u00e7\u00e3o. C2PA fortalece rastreabilidade, mas n\u00e3o substitui contexto, investiga\u00e7\u00e3o nem julgamento humano.<\/p>\n\n\n\n

O alerta do FBI\/IC3<\/a> documenta uma dimens\u00e3o operacional: criminosos utilizam \u00e1udio e v\u00eddeo gerados por IA para personificar familiares, executivos, autoridades e contatos de confian\u00e7a em esquemas de fraude. O comunicado menciona pedidos urgentes, tentativas de acesso a contas, videochamadas com falsos representantes e materiais promocionais enganosos. Entre as recomenda\u00e7\u00f5es, est\u00e3o confirmar a identidade por um canal independente e combinar uma palavra ou frase secreta com familiares. O documento demonstra padr\u00f5es de abuso e medidas defensivas; n\u00e3o fornece uma taxa global de ocorr\u00eancia e n\u00e3o autoriza transformar seus exemplos em estat\u00edsticas brasileiras.<\/p>\n\n\n\n

Os estudos acad\u00eamicos acrescentam evid\u00eancia sobre percep\u00e7\u00e3o. O estudo de Vaccari e Chadwick<\/a> mostrou, em um experimento pol\u00edtico no Reino Unido, que v\u00eddeos enganosos podem aumentar incerteza e, por essa via, reduzir a confian\u00e7a em not\u00edcias nas redes sociais, mesmo quando a maioria n\u00e3o aceita diretamente a falsidade. A pesquisa de Groh e coautores<\/a> reuniu cinco experimentos pr\u00e9-registrados e encontrou diferen\u00e7as de discernimento conforme modalidade, contexto e origem do \u00e1udio. Conte\u00fados com voz produzida por sistemas de texto para fala foram mais dif\u00edceis de distinguir do que vers\u00f5es com atores, enquanto pistas audiovisuais ajudaram em algumas condi\u00e7\u00f5es. Nenhum resultado autoriza concluir que seres humanos sempre percebem a fraude ou que uma modalidade \u00e9 universalmente segura.<\/p>\n\n\n\n

Em conjunto, essas evid\u00eancias sustentam uma resposta em camadas. Regula\u00e7\u00e3o pode exigir transpar\u00eancia ou proibir usos definidos; proveni\u00eancia pode registrar origem e altera\u00e7\u00f5es; alertas podem orientar verifica\u00e7\u00e3o; experimentos podem revelar limites da percep\u00e7\u00e3o. Nenhum elemento isolado resolve autenticidade, inten\u00e7\u00e3o, responsabiliza\u00e7\u00e3o e repara\u00e7\u00e3o. A resposta exige combinar regras, t\u00e9cnica, processos e discernimento, sem ampliar uma fonte al\u00e9m do que ela efetivamente demonstra.<\/p>\n\n\n\n

<\/a>7. Inova\u00e7\u00e3o ou excesso de controle?<\/h1>\n\n\n\n

H\u00e1 uma obje\u00e7\u00e3o leg\u00edtima a esta proposta: controles demais podem retardar inova\u00e7\u00e3o, elevar custos e transformar qualquer uso de intelig\u00eancia artificial em um processo burocr\u00e1tico. Pequenas organiza\u00e7\u00f5es talvez n\u00e3o disponham de equipes especializadas. Exigir autoriza\u00e7\u00e3o, rotulagem, proveni\u00eancia, revis\u00e3o humana e resposta estruturada em todas as situa\u00e7\u00f5es tamb\u00e9m pode bloquear usos criativos, educativos ou experimentais de baixo risco. Regras r\u00edgidas podem envelhecer rapidamente e incentivar conformidade apenas documental.<\/p>\n\n\n\n

Levar esse argumento a s\u00e9rio \u00e9 importante porque governan\u00e7a ruim tamb\u00e9m produz dano. Um controle sem rela\u00e7\u00e3o com o risco consome recursos, transfere responsabilidade para formul\u00e1rios e pode criar uma falsa sensa\u00e7\u00e3o de seguran\u00e7a. A resposta, portanto, n\u00e3o \u00e9 supervisionar cada uso da mesma maneira, nem impedir a cria\u00e7\u00e3o de conte\u00fado sint\u00e9tico. \u00c9 aplicar proporcionalidade. Uma simula\u00e7\u00e3o claramente identificada, revers\u00edvel e restrita a um ambiente de teste n\u00e3o exige o mesmo tratamento de um v\u00eddeo publicado em nome de outra pessoa, de uma ordem executiva ou de uma evid\u00eancia usada para decidir acesso, emprego ou reputa\u00e7\u00e3o.<\/p>\n\n\n\n

O NIST AI RMF<\/a> permite organizar essa diferencia\u00e7\u00e3o a partir do contexto, das pessoas afetadas e das consequ\u00eancias previs\u00edveis. A Recomenda\u00e7\u00e3o da UNESCO<\/a> e os Princ\u00edpios de IA da OCDE<\/a> conectam inova\u00e7\u00e3o confi\u00e1vel a direitos humanos, transpar\u00eancia, seguran\u00e7a e responsabiliza\u00e7\u00e3o. Esses referenciais n\u00e3o pedem controle absoluto; pedem que capacidade t\u00e9cnica seja acompanhada por crit\u00e9rios e respons\u00e1veis. A defesa em profundidade segue a mesma l\u00f3gica: controles leves para impactos baixos; consentimento, autentica\u00e7\u00e3o, rastreabilidade, revis\u00e3o e resposta mais fortes quando aumentam a irreversibilidade, a assimetria de poder e o potencial de dano.<\/p>\n\n\n\n

Transpar\u00eancia e proveni\u00eancia ilustram esse equil\u00edbrio. O AI Act<\/a> estabelece obriga\u00e7\u00f5es espec\u00edficas dentro de seu \u00e2mbito, enquanto a C2PA<\/a> oferece um padr\u00e3o volunt\u00e1rio para registrar origem e altera\u00e7\u00f5es. Nenhum deles elimina manipula\u00e7\u00e3o ou transforma uma marca em prova de verdade. Ainda assim, ambos mostram que \u00e9 poss\u00edvel incorporar informa\u00e7\u00e3o sobre o conte\u00fado sem proibir sua cria\u00e7\u00e3o. A governan\u00e7a madura combina esses recursos com educa\u00e7\u00e3o, verifica\u00e7\u00e3o por m\u00faltiplos sinais e decis\u00e3o humana proporcional ao impacto.<\/p>\n\n\n\n

Inova\u00e7\u00e3o sustent\u00e1vel depende de confian\u00e7a. Pessoas, clientes, trabalhadores e institui\u00e7\u00f5es adotam tecnologias quando conseguem compreender seu uso, contestar erros e identificar quem responde pelas consequ\u00eancias. Controles bem desenhados n\u00e3o s\u00e3o o oposto da inova\u00e7\u00e3o; s\u00e3o parte da infraestrutura que permite ampli\u00e1-la sem tornar algu\u00e9m descart\u00e1vel. O verdadeiro excesso n\u00e3o est\u00e1 em exigir responsabilidade, mas em tratar toda prote\u00e7\u00e3o como obst\u00e1culo \u2014 at\u00e9 que o custo do dano seja pago pela pessoa cuja identidade foi usada. Desarmar a IA n\u00e3o \u00e9 escolher entre avan\u00e7o e controle. \u00c9 criar condi\u00e7\u00f5es para que o avan\u00e7o permane\u00e7a leg\u00edtimo, corrig\u00edvel e humano.<\/p>\n\n\n\n

<\/a>8. A pessoa real atr\u00e1s da identidade sint\u00e9tica<\/h1>\n\n\n\n

Voltemos \u00e0 pergunta que abriu este artigo: se uma voz, uma imagem ou um v\u00eddeo aparentemente aut\u00eanticos podem ser fabricados, em que devemos confiar? A resposta n\u00e3o est\u00e1 em abandonar toda media\u00e7\u00e3o digital nem em presumir que cada conte\u00fado \u00e9 falso. Est\u00e1 em reconhecer que, por tr\u00e1s de qualquer identidade sint\u00e9tica, existe uma pessoa real \u2014 ou uma comunidade \u2014 sujeita a consequ\u00eancias que n\u00e3o s\u00e3o simuladas.<\/p>\n\n\n\n

A tecnologia pode reproduzir tra\u00e7os do rosto, inflex\u00f5es da voz, gestos e estilos de linguagem. N\u00e3o pode, por\u00e9m, oferecer o consentimento da pessoa imitada, assumir responsabilidade moral pelo uso da representa\u00e7\u00e3o, explicar o dano a quem foi atingido nem reparar reputa\u00e7\u00e3o, seguran\u00e7a financeira, v\u00ednculos profissionais ou confian\u00e7a social. Essas tarefas permanecem humanas e institucionais. \u00c9 por isso que a pergunta decisiva n\u00e3o \u00e9 apenas \u201ceste conte\u00fado \u00e9 verdadeiro?\u201d, mas tamb\u00e9m \u201cquem responde pelo que acontece quando ele \u00e9 aceito, divulgado ou usado para decidir?\u201d<\/p>\n\n\n\n

Nesse cen\u00e1rio, n\u00e3o \u00e9 aceit\u00e1vel exigir que a v\u00edtima prove, sozinha, que foi falsificada. Organiza\u00e7\u00f5es e plataformas det\u00eam ou podem preservar registros, canais, credenciais, mecanismos de distribui\u00e7\u00e3o e parte relevante das evid\u00eancias. Devem, portanto, oferecer procedimentos acess\u00edveis de contesta\u00e7\u00e3o, preservar dados \u00fateis \u00e0 apura\u00e7\u00e3o, interromper rapidamente efeitos potencialmente danosos e coordenar respostas entre seguran\u00e7a, privacidade, jur\u00eddico, comunica\u00e7\u00e3o e neg\u00f3cio. A responsabilidade n\u00e3o pode desaparecer na mesma velocidade com que o conte\u00fado \u00e9 compartilhado.<\/p>\n\n\n\n

Antes da falsifica\u00e7\u00e3o, proteger significa reduzir exposi\u00e7\u00f5es desnecess\u00e1rias, obter consentimento, refor\u00e7ar autentica\u00e7\u00e3o e definir crit\u00e9rios para decis\u00f5es sens\u00edveis. Durante o incidente, significa verificar por mais de um canal, suspender consequ\u00eancias irrevers\u00edveis, preservar evid\u00eancias e comunicar sem ampliar o dano. Depois, significa remover ou sinalizar o conte\u00fado, restaurar acessos, apoiar a recupera\u00e7\u00e3o da reputa\u00e7\u00e3o e da confian\u00e7a, acolher a pessoa afetada, aprender com o caso e ajustar controles. Nenhuma dessas medidas elimina o risco; juntas, evitam que a v\u00edtima seja tratada como um problema operacional a ser administrado \u00e0 dist\u00e2ncia.<\/p>\n\n\n\n

Proteger a pessoa real tamb\u00e9m preserva a qualidade da comunica\u00e7\u00e3o p\u00fablica. Quando contestar uma falsifica\u00e7\u00e3o \u00e9 dif\u00edcil, caro ou lento, o dano particular se converte em desconfian\u00e7a coletiva. Canais claros, evid\u00eancias preservadas e repara\u00e7\u00e3o tempestiva ajudam a sustentar direitos, debate democr\u00e1tico e conviv\u00eancia sem transformar todos em suspeitos permanentes.<\/p>\n\n\n\n

\u201cDisarmare l\u2019IA\u201d, nesse sentido, n\u00e3o \u00e9 retirar a tecnologia da sociedade. \u00c9 retirar do abuso a vantagem da opacidade, da velocidade sem freios e da responsabilidade fragmentada. A maturidade n\u00e3o ser\u00e1 medida apenas pela capacidade de identificar o falso, mas pela disposi\u00e7\u00e3o de proteger a pessoa real antes, durante e depois da falsifica\u00e7\u00e3o. A inova\u00e7\u00e3o continua; o abandono da pessoa, n\u00e3o.<\/p>\n\n\n\n

<\/a>Refer\u00eancias<\/h1>\n\n\n\n

BRASIL. Constitui\u00e7\u00e3o da Rep\u00fablica Federativa do Brasil de 1988. Bras\u00edlia, DF, 1988.<\/a><\/p>\n\n\n\n

BRASIL. Lei n.\u00ba 10.406\/2002 (C\u00f3digo Civil). Bras\u00edlia, DF, 2002.<\/a><\/p>\n\n\n\n

BRASIL. Lei n.\u00ba 13.709\/2018 (Lei Geral de Prote\u00e7\u00e3o de Dados Pessoais). Bras\u00edlia, DF, 2018.<\/a><\/p>\n\n\n\n

BRASIL. Tribunal Superior Eleitoral. Resolu\u00e7\u00e3o n.\u00ba 23.610\/2019, com reda\u00e7\u00e3o consolidada pela Resolu\u00e7\u00e3o n.\u00ba 23.755\/2026. Bras\u00edlia, DF, 2026.<\/a><\/p>\n\n\n\n

CARPENEDO, Filippo. L\u2019articolo ineccepibile: intelligenza artificiale e la delega della domanda nella ricerca accademica. Culture Digitali, 2026.<\/a><\/p>\n\n\n\n

CHESNEY, Bobby; CITRON, Danielle Keats. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review, v. 107, 2019.<\/a><\/p>\n\n\n\n

COALITION FOR CONTENT PROVENANCE AND AUTHENTICITY. C2PA Technical Specification 2.4. 2026.<\/a><\/p>\n\n\n\n

EUROPEAN COMMISSION. Guidelines on transparency obligations for providers and deployers of certain AI systems and models under Article 50 of the AI Act. 2026.<\/a><\/p>\n\n\n\n

EUROPEAN UNION. Regulation (EU) 2024\/1689 \u2014 Artificial Intelligence Act, Article 50. Official Journal of the European Union, 2024.<\/a><\/p>\n\n\n\n

FEDERAL BUREAU OF INVESTIGATION; INTERNET CRIME COMPLAINT CENTER. Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud. 2024.<\/a><\/p>\n\n\n\n

FERRARA, Maria Grazia. Custodire il discernimento ai tempi degli algoritmi. Culture Digitali, 2026.<\/a><\/p>\n\n\n\n

GROH, Matthew et al. Human detection of political speech deepfakes across transcripts, audio, and video. Nature Communications, v. 15, 2024.<\/a><\/p>\n\n\n\n

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, 2023.<\/a><\/p>\n\n\n\n

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1, 2024.<\/a><\/p>\n\n\n\n

NATIONAL INSTITUTE OF STANDARDS AND TECHNOLOGY. The NIST Cybersecurity Framework (CSF) 2.0. NIST CSWP 29, 2024.<\/a><\/p>\n\n\n\n

ORGANISATION FOR ECONOMIC CO-OPERATION AND DEVELOPMENT. OECD AI Principles. Atualiza\u00e7\u00e3o de 2024.<\/a><\/p>\n\n\n\n

PAPA LE\u00c3O XIV. Magnifica Humanitas. Santa S\u00e9, 2026.<\/a><\/p>\n\n\n\n

PFLIEGEL, Simone. What Cannot Be Delegated: Accountability as the Working Criterion for Artificial Intelligence in the Classroom. Culture Digitali, 2026.<\/a><\/p>\n\n\n\n

PIZZO, Alessandro. La custodia dell\u2019umano e l\u2019alleanza educativa al tempo dell\u2019intelligenza artificiale. Culture Digitali, 2026.<\/a><\/p>\n\n\n\n

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris, 2021.<\/a><\/p>\n\n\n\n

VACCARI, Cristian; CHADWICK, Andrew. Deepfakes and Disinformation: Exploring the Impact of Synthetic Political Video on Deception, Uncertainty, and Trust in News. Social Media + Society, v. 6, n. 1, 2020.<\/a><\/p>\n\n\n\n

<\/a>Sobre a autora<\/h1>\n\n\n
\n
\"\"<\/figure>\n<\/div>\n\n\n

J\u00e9ssica Gessoli<\/strong> atua na interse\u00e7\u00e3o entre governan\u00e7a de ciberseguran\u00e7a, riscos cibern\u00e9ticos, continuidade de neg\u00f3cios, recupera\u00e7\u00e3o de desastres, SecOps, infraestrutura cr\u00edtica e resili\u00eancia de TI\/OT. Seu trabalho com intelig\u00eancia artificial concentra-se em governan\u00e7a, riscos, controles, seguran\u00e7a, resili\u00eancia e tradu\u00e7\u00e3o de impactos t\u00e9cnicos para decis\u00f5es de neg\u00f3cio. Desenvolve reflex\u00f5es e solu\u00e7\u00f5es pr\u00e1ticas voltadas ao uso respons\u00e1vel da tecnologia, \u00e0 prote\u00e7\u00e3o da identidade digital e \u00e0 conex\u00e3o entre risco t\u00e9cnico, dignidade humana e responsabilidade organizacional.<\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

di J\u00e9ssica Gessoli VIDEO DI PRESENTAZIONE Introduzione editoriale Ci sono articoli che descrivono un rischio e articoli che ne spostano il baricentro. Questo appartiene al secondo tipo. J\u00e9ssica Gessoli affronta deepfake e identit\u00e0 digitali sintetiche non come un capitolo della frode informatica, ma come una questione che tocca dignit\u00e0, consenso, reputazione, prova e fiducia sociale \u2014 e mostra, passo dopo passo, perch\u00e9 trattarla solo come frode significa bloccare forse una transazione lasciando la persona senza difesa. Il titolo \u00e8 una formula da leggere con attenzione: disarmare l\u2019intelligenza artificiale non vuol dire limitarne la capacit\u00e0 di generare. Vuol dire impedire che la capacit\u00e0 di simulare unaLeggi altro →<\/a><\/p>\n","protected":false},"author":8,"featured_media":0,"parent":0,"menu_order":0,"comment_status":"closed","ping_status":"closed","template":"","meta":{"_acf_changed":false,"footnotes":""},"class_list":["entry","author-c-marinucci","post-9208","page","type-page","status-publish"],"acf":[],"jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/pages\/9208","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/pages"}],"about":[{"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/types\/page"}],"author":[{"embeddable":true,"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/comments?post=9208"}],"version-history":[{"count":3,"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/pages\/9208\/revisions"}],"predecessor-version":[{"id":9217,"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/pages\/9208\/revisions\/9217"}],"wp:attachment":[{"href":"https:\/\/www.diculther.it\/rivista\/wp-json\/wp\/v2\/media?parent=9208"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}