Un team internazionale di scienziati ha dimostrato che il controllo dell’intelligenza artificiale superintelligente è impossibile.
Lo studio è stato pubblicato sul Journal of Artificial Intelligence Research. Il pericolo che può derivare dall’IA superintelligente è descritto seriamente come nelle pellicole cinematografiche.
Rappresentanti di varie discipline scientifiche, inclusi specialisti del Center for People and Machines dell’Istituto Max Planck per lo sviluppo umano, hanno deciso di testare come gli esseri umani sono in grado di controllare i robot superintelligenti.
“La macchina super intelligente che gestisce il mondo suona come fantascienza. Ma ci sono già robot che svolgono determinati compiti importanti in modo indipendente. Allo stesso tempo, i programmatori non capiscono affatto come l’hanno imparato“.
“Di conseguenza, sorge la domanda: questo processo a un certo punto può diventare incontrollabile e pericoloso per l’umanità?”- afferma uno degli autori dello studio, Manuel Sebrian, capo del gruppo di mobilitazione digitale presso il Center for People and Machines dell’Istituto Max Planck.
Per rispondere a questa domanda, gli scienziati hanno utilizzato modelli e calcoli teorici. Come si è scoperto, anche se si inseriscono dati sui principi etici in una macchina superintelligente e si limita la sua comunicazione con il mondo esterno (ad esempio, si disattiva l’accesso a Internet), ciò non salverà l’umanità dal rischio che un tale sistema esca di controllo.
Il fatto è che, secondo la teoria dell’informatica, qualsiasi algoritmo per tale contenimento – che si tratti di programmi sui principi etici o di limitazione dell’accesso al mondo esterno – è vulnerabile e, in determinate circostanze, è perfettamente in grado di trasformarsi.
Pertanto, gli esperti concludono che una persona semplicemente non sarà in grado di controllare un’IA superintelligente e la situazione potrebbe prima o poi sfuggire al controllo.
“Noi sosteniamo che il contenimento completo sia, in linea di principio, impossibile a causa di limitazioni fondamentali inerenti al calcolo stesso. La superintelligenza conterrà un programma che include tutti i programmi implementati da una macchina di Turing universale, potenzialmente complessa come lo stato del mondo“, concludono i ricercatori.
fonte@Anomalien.com
