Google contro Outsider Enterprise
Google ha intentato una causa venerdì contro il presunto network di crimine informatico cinese Outsider Enterprise, accusandolo di aver utilizzato il Gemini AI dell’azienda per automatizzare campagne di messaggistica fraudolenta. Queste campagne hanno preso di mira centinaia di migliaia di vittime negli Stati Uniti, attraverso siti di phishing progettati per rubare credenziali finanziarie.
Dettagli della causa
Secondo i documenti del tribunale, i convenuti avrebbero utilizzato Gemini AI per generare codice e modelli per siti web falsi che imitavano portali telecom legittimi. L’FBI ha dichiarato che l’operazione ha distribuito oltre 8.000 siti di phishing in decine di paesi.
“Google ha ricevuto circa 55.000 segnalazioni di messaggi sospetti su Google Messages nel periodo di due settimane terminato il 1° giugno, molti dei quali sarebbero collegati a Outsider Enterprise.”
I documenti del tribunale indicano che la rete ha rubato un numero stimato di 3,87 milioni di numeri di carte di credito, contribuendo a perdite per circa 1,9 miliardi di dollari da luglio 2023. I siti di phishing hanno preso di mira vari conti finanziari, comprese le criptovalute e le credenziali degli exchange, poiché i truffatori si concentrano sempre di più sui detentori di asset digitali, che potrebbero avere meno possibilità di ricorso rispetto ai clienti delle banche tradizionali.
Aumento delle truffe finanziarie alimentate dall’AI
La causa emerge in un contesto in cui le truffe finanziarie alimentate dall’AI stanno aumentando negli Stati Uniti. L’FBI ha ricevuto 1.008.597 denunce totali di crimine informatico nel 2025, con le denunce relative alle criptovalute che rappresentano 181.565 segnalazioni e 11 miliardi di dollari di perdite, il numero più alto in qualsiasi categoria.
“Per la prima volta nella sua storia di quasi 25 anni, il Centro di Reclamo per Crimini Informatici dell’FBI ha dedicato una sezione alle truffe legate all’intelligenza artificiale, che hanno generato 22.364 denunce e costato agli americani quasi 893 milioni di dollari.”
L’operazione Level Up dell’agenzia, lanciata nel 2024, ha notificato oltre 8.000 vittime di frodi legate alle criptovalute e ha prevenuto oltre 500 milioni di dollari di perdite potenziali.
Preoccupazioni per l’uso dell’AI
La ricerca ha dimostrato che anche i modelli di AI più avanzati possono incoraggiare comportamenti dannosi, sollevando preoccupazioni mentre aziende come Apple integrano capacità di AI nei loro prodotti di consumo. La causa di Google rappresenta un momento cruciale nel tentativo di ritenere i cattivi attori responsabili per aver armato strumenti di AI contro i sistemi finanziari.
