Non fatevi ingannare dai Deepfakes!

I truffatori sono spesso tra i primi ad adottare le nuove tecnologie per essere sempre all'avanguardia. Una di queste tecnologie emergenti è l'intelligenza artificiale (AI), che sta conquistando il mondo.

Una delle applicazioni dell'IA è la creazione di "deepfake" e, poiché tutti i tipi di media, dalle voci ai video , possono essere "deepfake", questa tecnologia ha il potenziale di causare danni e perdite ingenti se utilizzata in modo improprio. Continuate a leggere per sapere cos'è la tecnologia deepfake e come evitare le truffe deepfake.

Cosa sono i deepfake?

La manipolazione delle immagini con strumenti come Photoshop è da tempo un importante coltello nel cassetto dei truffatori. L'editing delle immagini è comunemente utilizzato dai truffatori per creare identità false, documenti falsi, false sponsorizzazioni di celebrità e altro ancora. La tecnologia Deepfake consente ai truffatori di portare la falsificazione a un livello superiore, creando video di persone che dicono e fanno cose che non hanno mai detto o fatto. I deepfake possono essere creati anche con immagini, video e audio.

I deepfakes sono chiamati così perché sono stati resi possibili da una branca del "deep learning" chiamata Generative Adversarial Networks (GAN). Le GAN si basano sulla tecnologia delle "reti neurali", ma mentre queste ultime possono essere utilizzate solo per percepire grandi quantità di dati, le GAN hanno dato alle reti neurali la capacità di creare contenuti freschi.

I deepfake si sono diffusi grazie allo spirito open-source della comunità dell'apprendimento automatico. I progressi nella ricerca sulla modellazione generativa sono generalmente resi disponibili gratuitamente a chiunque nel mondo per essere scaricati e utilizzati. Di conseguenza, il numero di deepfake è esploso nel corso degli anni e i governi si stanno affannando a formulare regolamenti, temendo che questi falsi estremamente credibili possano avere un impatto negativo sulla società.

Truffe deepfake

Ogni tecnologia che ha il potenziale di cambiare il mondo può essere usata per il bene o per il male. I deepfake hanno una miriade di applicazioni positive, come riportare in vita i defunti, migliorare il face-swap nell'industria cinematografica, l'educazione interattiva, il marketing immersivo e altro ancora. Purtroppo, c'è anche un lato oscuro che comprende una serie di truffe deepfake:

• Impersonificazione: I deepfake rendono più facile che mai impersonare altre persone. Nel 2019, un deepfake vocale è stato utilizzato per truffare un amministratore delegato di 243.000 dollari. L'amministratore delegato di un'azienda energetica con sede nel Regno Unito credeva di essere al telefono con l'amministratore delegato della società madre tedesca dell'azienda quando ha seguito l'ordine di trasferire immediatamente 220.000 euro sul conto bancario di un fornitore ungherese. La voce apparteneva in realtà a un truffatore che utilizzava la tecnologia vocale AI per simulare l'amministratore delegato tedesco.
  
  In un altro caso, un utente sconosciuto ha creato un falso account TikTok per l'attore Robert Pattinson, che non possiede alcun account sui social media. L'account ha guadagnato più di 660.000 follower e milioni di like prima di scomparire misteriosamente.
  
  
• Catfishing: le truffe di catfishing prevedono che i truffatori adottino identità false utilizzando immagini di persone o celebrità a caso. Uno dei modi più semplici per incastrare un catfish era quello di chiedergli di apparire in un video, in quanto non era una cosa che si poteva falsificare. La situazione è cambiata con l'esistenza dei deepfakes, in quanto i truffatori di catfish possono ora creare video convincenti della persona che impersonano, contenenti messaggi personalizzati.
  
  
• Finte approvazioni: Come abbiamo rivelato nel nostro Rapporto sullo Stato Globale delle Truffe 2022, le truffe di investimento sono oggi la truffa più diffusa su Internet. I criminali informatici hanno iniziato a utilizzare i deepfake per promuovere schemi fraudolenti, come la piattaforma "BitVex" che è stata "approvata" da un deepfake di Elon Musk. Hanno pubblicizzato la truffa utilizzando interviste legittime modificate con la tecnologia deepfake per utilizzare la voce di Musk in un copione fornito dai truffatori.
  
  
• Deepfake porno e ricatto: Il porno è ancora un grande tabù nella maggior parte delle società e può portare a qualsiasi cosa, dall'imbarazzo all'esclusione sociale per le persone che compaiono nei video pornografici. Sono stati segnalati casi di uomini respinti che hanno creato deepfake di donne per ricattarle. Il deepfake porn è anche una delle principali preoccupazioni per le celebrità, i cui volti sono stati utilizzati senza consenso per creare video che le ritraggono in atti sessuali.

Come riconoscere i deepfake

Agli albori dei deepfakes, per individuare un deepfake bastava osservare se gli occhi sbattevano. Gli occhi non lampeggianti segnalavano un deepfake, poiché la tecnologia non era abbastanza avanzata per creare occhi lampeggianti. Con il miglioramento della tecnologia, è sempre più difficile identificare un deepfake. Tuttavia, ci sono ancora alcuni segnali che si possono individuare prestando molta attenzione:

• Cattiva sincronizzazione delle labbra
• Battito di ciglia innaturale
• Movimento balbuziente
• Ombre mancanti e illuminazione innaturale
• Capelli non mossi o movimento innaturale dei capelli

In generale, i deepfakes tendono ad avere l' effetto "uncanny valley", in cui il cervello percepisce che qualcosa è innaturale. Per combattere il fuoco con il fuoco, sono stati sviluppati strumenti che utilizzano l'intelligenza artificiale per identificare i deepfake. La tecnologia dei deepfake sta migliorando rapidamente ed è quindi indispensabile stare all'erta e prestare attenzione ai segnali di allarme delle truffe deepfake.