Questa è la grande sfida della lotta ai deepfake in America Latina.

La preoccupazione per i deepfake sta crescendo in America Latina. Secondo un recente rapporto della piattaforma Kapwing, l'Argentina è al primo posto nella regione per interesse verso questa tecnologia, seguita da Cile, Perù e Colombia, con rispettivamente 481, 337 e 141 ricerche mensili relative ai deepfake.

C'è una crescente consapevolezza dell'uso improprio di questo strumento digitale, che si basa sull'intelligenza artificiale per creare falsi video o clip audio che simulano la vita reale. Tuttavia, l'azione normativa e tecnica si sta muovendo a un ritmo molto più lento, colpendo diversi settori della società, secondo il Dott. Francisco José Adán Castaño, avvocato e professore presso il Master Ufficiale in Diritto Digitale e Cybersecurity presso l'Università Internazionale di Valencia (VIU), parte della rete internazionale di istruzione superiore Planeta Formación y Universidades.

" I politici sono probabilmente i più colpiti da questo problema. Video falsi di candidati che dicono cose che non hanno mai detto prima di un'elezione... È un incubo per la democrazia", avverte l'esperto della VIU. "Anche il settore imprenditoriale e finanziario sta attraversando gravi problemi. Non sono rari i casi di truffatori che utilizzano deepfake vocali per impersonare CEO e autorizzare trasferimenti multimilionari".

Il progresso tecnologico dei deepfake contrasta con la lentezza dei quadri normativi in America Latina. I sistemi giudiziari devono improvvisare con normative contro la diffamazione o la frode, che non sempre risultano efficaci. Inoltre, la natura transnazionale dell'ambiente digitale complica ulteriormente l'applicabilità delle leggi.

"Le leggi si evolvono molto lentamente rispetto alla tecnologia", osserva il Dott. Francisco Adán Cataño, esperto anche di intelligenza artificiale e proprietà intellettuale. "Molti Paesi non hanno nemmeno leggi specifiche per i deepfake. Internet non ha confini. Quale legge si applica: quella del luogo in cui è stato creato, quello in cui è stato caricato o quello in cui è stato visto?"

A questa debolezza normativa si aggiunge la mancanza di formazione tecnica tra le autorità competenti. Agenti di polizia e giudici spesso non sono sufficientemente formati sulle comuni questioni tecnologiche e, quando si tratta di comprendere e decifrare il problema dei deepfake, la mancanza di formazione tecnica diventa evidente.

L'avanzamento dei deepfake ha dato vita a una vera e propria corsa agli armamenti tra creatori e rilevatori, con al centro l'apprendimento automatico. Questi si addestrano con migliaia di video, reali e falsi, per affinare le proprie capacità di rilevamento.

Come sottolinea l'esperto di proprietà intellettuale, privacy e nuove tecnologie, si tratta di un gioco del gatto e del topo, in cui i deepfake diventano più sofisticati con ogni miglioramento dei rilevatori.

Oggi esistono algoritmi di rilevamento che identificano anomalie invisibili all'occhio umano, come i movimenti delle palpebre o le distorsioni della luce facciale. Il machine learning è fondamentale in questo compito, addestrando i sistemi con migliaia di video, reali e falsi, per distinguere i pattern.

L'autenticazione blockchain è un'altra promettente strada che consentirebbe di registrare un video in modo inalterabile al momento della creazione, in modo che eventuali modifiche siano evidenti. E per quanto riguarda l'audio, l'analisi potrebbe basarsi su schemi vocali, pause e respiro.

Il problema dei deepfake non ha una soluzione univoca. Richiede un'azione coordinata tra governi, aziende tecnologiche, sviluppatori, piattaforme e società civile.

"I governi devono emanare leggi sensate e applicabili nella realtà, non solo sulla carta", sottolinea l'esperto. "Devono anche formare i propri cittadini e cooperare a livello internazionale, perché questo trascende i confini nazionali".

Il portavoce della VIU sottolinea anche il ruolo delle piattaforme digitali. Reti come Facebook, TikTok e YouTube devono investire nell'individuazione e nell'eliminazione dei deepfake dannosi, senza trascurare la neutralità. E anche la responsabilità degli utenti di queste reti contribuirebbe a questa situazione.

"La società civile ha un ruolo importante da svolgere", osserva. " I media che si occupano di fact-checking stanno facendo un buon lavoro, ma ce ne vuole di più. Abbiamo anche bisogno che le università facciano più ricerca sulla rilevazione e più programmi educativi sull'alfabetizzazione digitale".

La tecnologia che ha dato origine al problema può anche essere parte della soluzione. Ma senza adeguati quadri giuridici e una diffusa consapevolezza critica nella regione, l'America Latina potrebbe trovarsi di fronte a un futuro in cui non sarà più possibile distinguere il vero dal falso.