Come individuare un video generato dall'intelligenza artificiale mentre i deepfake aumentano online ingannando milioni di persone
Stiamo entrando in una nuova era per i contenuti video online, e gli esperti affermano che si tratta di un'era piuttosto pericolosa. I social media hanno registrato un'impennata di video generati dall'intelligenza artificiale , con l'inganno digitale ai massimi storici. Ecco come distinguere un falso dalla realtà.
Un esperto di tecnologia ha lanciato l'allarme: gli strumenti video basati sull'intelligenza artificiale ultra-realistici, disponibili su piattaforme come Sora 2, sono stati utilizzati dai truffatori per alimentare un'ondata di truffe deepfake online.
I video deepfake sono aumentati vertiginosamente da mezzo milione nel 2023 a oltre otto milioni quest'anno, con i tentativi di truffa che sono aumentati del 3.000% in soli due anni, secondo la società di sicurezza informatica DeepStrike. Gli esperti hanno rivelato come stia diventando sempre più difficile distinguere ciò che è reale da ciò che non lo è, poiché gli esseri umani ora riescono a rilevare deepfake di alta qualità solo una volta su quattro, il che significa che milioni di persone potrebbero essere ingannate senza rendersene conto.
I deepfake e i video generati dall'intelligenza artificiale sono nati come una divertente tendenza di Internet, ma ora si sono rapidamente evoluti in un'industria criminale multimiliardaria, poiché i truffatori ora utilizzano l'intelligenza artificiale per clonare voci, volti ed emozioni, inducendo le vittime a consegnare denaro o a diffondere notizie false.
È probabile che diventino sempre più diffuse anche le videochiamate deepfake in tempo reale, in cui i truffatori impersonano i propri cari o i propri superiori in diretta sullo schermo, con tanto di voci e manierismi clonati. Tutto questo è possibile grazie a strumenti disponibili su piattaforme come Sora, un'app di conversione da testo a video in grado di creare video realistici in meno di un minuto.
Per altre storie come questa, iscriviti alla nostra newsletter settimanale, The Weekly Gulp , per ricevere direttamente nella tua casella di posta una raccolta curata di storie di tendenza, interviste toccanti e scelte virali di lifestyle dal team Audience U35 del Mirror.
Il team dell'azienda tecnologica e software Outplayed ha illustrato nel dettaglio alcuni metodi chiave per identificare facilmente un video generato dall'intelligenza artificiale. Tra questi:
- Sbattere le palpebre e gli occhi: i soggetti sbatteranno le palpebre meno spesso o muoveranno gli occhi seguendo schemi robotici.
- Mani e dita: fai attenzione alle dita deformate o unite: l'intelligenza artificiale ha ancora difficoltà con le mani.
- Errori di illuminazione: le ombre cadono in direzioni strane o i volti appaiono troppo luminosi.
- Acqua e riflessi: il liquido appare "troppo perfetto" o innaturalmente immobile.
- Problemi di sincronizzazione labiale: le labbra non corrispondono esattamente alle parole, soprattutto nei suoni "p" o "b".
- Pelle liscia: i volti creati dall'intelligenza artificiale appaiono come di plastica, senza pori né texture.
- Sfondi difettosi: oggetti deformati o bordi tremolanti rivelano il gioco insieme a filigrane non nascoste.
- Movimento del tessuto: i vestiti si muovono in modo rigido o innaturale nel vento.
- Transizioni di scena: salti o "interruzioni" a metà inquadratura suggeriscono un montaggio sintetico.
- Contesto strano: persone che appaiono fuori dal personaggio o in luoghi strani.
- Sensazione viscerale: se ti sembra strano, probabilmente lo è.
Uno degli esperti di Outplayed ha esortato le persone a rendersi conto della rapidità con cui questo tipo di tecnologia si sta evolvendo. "Ciò che un tempo richiedeva settimane di produzione agli studi di Hollywood ora può essere realizzato da chiunque abbia un computer portatile. I video realizzati con i più recenti strumenti di intelligenza artificiale come Sora 2 sono quasi indistinguibili dalla realtà, e questo è terrificante nei casi sbagliati in cui potrebbero essere utilizzati", hanno affermato.
Le persone vengono truffate attraverso i social media, a livello aziendale e persino sentimentale, poiché questi criminali giocano sulla convinzione storica di "credere a ciò che si vede". L'esperto ha aggiunto: "Le persone si fidano delle prove video. Ecco perché stiamo entrando in una nuova era pericolosa, con i deepfake in rapida ascesa. Ignorano la logica e puntano direttamente alle emozioni".
Sora ha ormai superato il milione di download e gli utenti stanno creando brevi clip che stanno già suscitando polemiche. Molti le stanno creando con personaggi famosi come Jake Paul e Michael Jackson, confondendo in modo preoccupante il confine tra finzione e autenticità.
Dopo che hanno iniziato a comparire diversi deepfaker irrispettosi, i creatori della piattaforma sono stati costretti a vietare i video con Martin Luther King Jr., evidenziando le crescenti sfide etiche legate a questa tecnologia.
Aiutaci a migliorare i nostri contenuti compilando il sondaggio qui sotto. Ci piacerebbe sentire la tua opinione!
Daily Mirror
