Nel gennaio 2024, una multinazionale con sede ad Hong Kong ha perso circa 25,6 milioni di dollari (200 milioni di dollari di Hong Kong) a causa di una sofisticata truffa orchestrata mediante l’uso della tecnologia deepfake. Questo episodio rappresenta uno dei primi casi del genere nella città e mette in luce i rischi emergenti associati alle nuove tecnologie AI.
La truffa è stata messa in atto tramite una videochiamata in cui i truffatori hanno utilizzato deepfakes per impersonare il Direttore Finanziario (CFO) della compagnia e altri membri del personale, convincendo un dipendente del dipartimento finanziario a trasferire i fondi a cinque conti bancari diversi a Hong Kong. Questi deepfakes erano tanto sofisticati che l’impiegato, nonostante un iniziale momento di dubbio, è stato indotto a credere alla legittimità della richiesta di trasferimento di fondi, poiché le figure rappresentate sembravano e suonavano come persone reali che egli riconosceva.
Il modus operandi utilizzato dai truffatori è particolarmente allarmante per la sua capacità di sfruttare la fiducia e le procedure standard di comunicazione interna delle aziende. Gli aggressori hanno generato rappresentazioni convincenti dei partecipanti alla riunione utilizzando video e audio disponibili pubblicamente, applicando la tecnologia deepfake per imitare le voci dei loro obiettivi e leggere da uno script. Durante la videoconferenza, i deepfakes hanno principalmente dato ordini e la riunione si è conclusa bruscamente senza reale interazione, lasciando poco spazio al dipendente per mettere in dubbio la veridicità della situazione.
Questa truffa sottolinea la crescente preoccupazione per l’uso maligno delle tecnologie di intelligenza artificiale generativa, che, sebbene possiedano un enorme potenziale per innovazioni positive, presentano anche rischi significativi di disinformazione e abuso. In particolare, la facilità con cui i deepfakes possono essere creati e utilizzati per imitare persone reali pone serie questioni riguardanti la sicurezza e la privacy, alimentando il dibattito globale su come regolamentare e contrastare tali tecnologie.
La polizia di Hong Kong, rispondendo a questo incidente, ha rivelato di aver già incontrato più di 20 casi che coinvolgono l’uso di AI deepfakes per ingannare i sistemi di riconoscimento facciale, evidenziando ulteriormente la sfida posta dalla diffusione di questa tecnologia. La risposta delle forze dell’ordine e la ricerca di soluzioni tecniche per identificare e contrastare i deepfakes sono cruciali per mitigare il rischio di truffe simili in futuro.
Questo incidente serve da campanello d’allarme per le aziende di tutto il mondo, evidenziando la necessità di rafforzare le misure di sicurezza e di sensibilizzazione dei dipendenti riguardo ai potenziali rischi legati alle comunicazioni digitali e all’uso delle tecnologie emergenti. La consapevolezza e la verifica critica diventano strumenti indispensabili nell’era digitale, dove le apparenze possono essere facilmente manipolate.
