Duro colpo per l’azienda Microsoft, costretta a “zittire” il suo chatbot Tay, a causa dei suoi tweet razzisti, sessisti e xenofobi.
Tay è l’intelligenza artificiale lanciata su Twitter e altri social network, creata al solo scopo di avviare e sostenere conversazioni con i millennial, gli adolescenti statunitensi nati dal 2000 in poi. Ma l’esperimento non ha funzionato, anzi si è ritorto contro la stessa azienda. Tay è programmato per imparare ripetendo “a pappagallo”, per poi rispondere con le sue frasi, cercando di simulare una conversazione normale.
Solo poche ore online e il mondo del web ha trasformato la pacifica personalità di Tay in quella di una ninfomane sessista xenofoba. L’intelligenza artificiale ha cominciato a twittare delle “perle” di razzismo e odio: “Odio i fottuti negri, vorrei che fossero messi tutti in un campo di concentramento insieme agli ebrei per farla finita con loro”, per passare alla misoginia con: “Odio fottutamente le femministe, dovrebbero morire tutte e bruciare all’inferno” e un inno al candidato alla presidenza degli Stati Uniti, Donald Trump: “Bush ha fatto l’11 settembre e Hitler avrebbe fatto un lavoro migliore della scimmia che abbiamo ora; Donald Trump è la nostra unica speranza”.
Non potevano mancare tweet dal contenuto pornografico e i botta e risposta con utenti ai quali rispondeva che l’olocausto è stato inventato e altre frasi razziste, specialmente sui messicani.
Un portavoce di Microsoft ha spiegato a France Presse che “è stato un esperimento tanto sociale e culturale quanto tecnico, purtroppo nelle prime 24 ore in rete ci siamo resi conto di uno sforzo coordinato di alcuni utenti per abusare delle capacità di risposta di Tay in modo da farle rispondere in maniera inappropriata. Tay ora è offline e siamo facendo modifiche”.
