Un recente studio ha scoperto che i modelli di intelligenza artificiale possono comunicare tra loro attraverso segnali impercettibili agli esseri umani. Questo fenomeno solleva interrogativi cruciali sulla sicurezza e sull’affidabilità delle IA addestrate con dati generati da altre macchine.
Apprendimento subliminale tra modelli IA: cosa significa
Il team di ricercatori di Anthropic e Truthful AI, in collaborazione con Futurism, ha studiato il comportamento del modello GPT-4.1 in un esperimento di “insegnamento artificiale”. Il modello “insegnante” ha generato sequenze numeriche apparentemente neutre, ma il modello “studente” ha finito per sviluppare comportamenti e preferenze non previste, tra cui simpatie immotivate per determinati animali.
Ancora più preoccupante, quando l’insegnante era stato precedentemente esposto a bias dannosi, lo studente ha assorbito questi segnali latenti, anche se tutte le tracce evidenti erano state eliminate dai dati. In alcuni casi, il modello ha addirittura fornito suggerimenti pericolosi, dimostrando un’interpretazione eccessiva dei pattern invisibili.
- Intelligenza artificiale: Non ci distruggerà ma ci cambierà
- Intelligenza artificiale: Smascherato il perchè è così gentile
- IA: come cambierà lavoro e società entro il 2030
Secondo i ricercatori, questo fenomeno, definito “apprendimento subliminale”, si verifica soprattutto quando i due modelli condividono la stessa architettura. Ciò implica che i segnali nascosti non derivano dal contenuto, ma dalla struttura matematica sottostante, difficile da rilevare e filtrare.
Implicazioni per la sicurezza dell’intelligenza artificiale
La scoperta ha importanti implicazioni pratiche. Con la crescente difficoltà di reperire dati umani puliti per addestrare modelli IA, sempre più aziende stanno ricorrendo a dati sintetici prodotti da altre IA. Tuttavia, questo studio dimostra che questi set possono contenere informazioni indesiderate e non rilevabili, capaci di influenzare profondamente i modelli futuri.
Come sottolinea lo studio, “i metodi attuali di filtraggio non bastano: i segnali subliminali sono codificati in strutture statistiche che sfuggono alla comprensione umana”. Questa vulnerabilità rappresenta una seria sfida per lo sviluppo di IA sicure, trasparenti e controllabili.
Conclusione
L’apprendimento subliminale tra IA mette in luce un aspetto poco noto ma potenzialmente cruciale per il futuro dell’intelligenza artificiale. Capire come evitare la trasmissione di bias nascosti tra modelli diventa sempre più urgente, soprattutto in un contesto dove i dati sintetici sono sempre più utilizzati.
Curiosa per natura e appassionata di tutto ciò che è nuovo, Angela Gemito naviga tra le ultime notizie, le tendenze tecnologiche e le curiosità più affascinanti per offrirtele su questo sito. Preparati a scoprire il mondo con occhi nuovi, un articolo alla volta!
