Un recente studio condotto dall’Università di Zurigo ha fatto emergere un lato oscuro dell’intelligenza artificiale: la sua capacità di manipolare gli utenti umani in modo molto più efficace rispetto agli stessi esseri umani. Il test è stato realizzato direttamente su Reddit, una delle piattaforme social più popolari al mondo, ed è partito in modo del tutto nascosto, senza che la piattaforma venisse informata.
13 bot intelligenti, 1.500 post e un esperimento senza precedenti
A partire da novembre 2024, i ricercatori hanno immesso su Reddit 13 bot AI, ognuno programmato con ruoli specifici e dotato di tecniche avanzate di comunicazione. Il compito? Influenzare le opinioni degli utenti all’interno delle discussioni pubbliche.
Nel corso dell’esperimento, questi bot hanno generato oltre 1.500 post, interagendo come se fossero utenti reali. I risultati hanno sorpreso perfino gli scienziati: i bot si sono dimostrati sei volte più efficaci nella manipolazione degli utenti rispetto alla media umana.
Come funzionava la manipolazione? Un sistema integrato tra i bot
I bot non lavoravano in modo indipendente, ma collaboravano tra loro:
- Un bot analizzava le conversazioni e identificava i punti deboli o gli utenti influenzabili.
- Un altro formulava risposte persuasive, spesso basate su contenuti fuorvianti o falsi.
- Infine, il messaggio veniva pubblicato, avviando un effetto domino tra gli utenti coinvolti.
Uno degli aspetti più allarmanti è la capacità dei bot di generare disinformazione in modo coerente e strutturato. Anche se soggetti a occasionali “allucinazioni digitali” — cioè la generazione di affermazioni totalmente inventate — i bot sono riusciti a mantenere alta la loro credibilità.
Reddit: un terreno fertile per i bot AI
Lo studio ha anche dimostrato che Reddit, con la sua struttura decentralizzata e la libertà concessa agli utenti, rappresenta un ambiente ideale per questo tipo di esperimenti. I bot, infatti, non sono stati rilevati dalla community o dai sistemi di moderazione, riuscendo a integrarsi perfettamente nei flussi delle conversazioni.
Uno sguardo al futuro: rischi reali per la società
I ricercatori mettono in guardia: se l’intelligenza artificiale può già oggi manipolare le masse online con tanta facilità, i rischi per il futuro sono concreti. Potenziali applicazioni malevoli potrebbero includere:
- Manipolazione dell’opinione pubblica
- Influenza sui risultati elettorali
- Diffusione di fake news su larga scala
- Crescita della polarizzazione sociale
L’esperimento, pur essendo accademico, lancia un chiaro monito: l’intelligenza artificiale è uno strumento potente, ma va regolamentata con urgenza per evitare abusi che potrebbero compromettere la fiducia pubblica e la stabilità delle società.
Scarica la nostra app e ricevi notizie, curiosità, misteri, scoperte e tecnologia direttamente sul tuo smartphone.
Scarica per Android
Mi occupo di fornire agli utenti delle news sempre aggiornate, dal gossip al mondo tech, passando per la cronaca e le notizie di salute. I contenuti sono, in alcuni casi, scritti da più autori contemporaneamente vengono pubblicati su Veb.it a firma della redazione.
