Google, pulsante d’emergenza per androidi pericolosi

Cyborg attack

L’esercizio è teorico, per il momento, ma prevenire è sempre meglio. Mettiamo che in un futuro neppure troppo remoto l’uomo venga minacciato dalle macchine che lui stesso ha creato.
Sembra un ottimo spunto per una trama fantascientifica ma gli scienziati di DeepMind e l’Università di Oxford hanno iniziato a farsi delle domande serie al riguardo. Il rischio che l’intelligenza artificiale possa prendere il sopravvento e diventi incontrollabile è tecnicamente possibile, quindi mettere a punto una sorta di “piano B” è una scelta opportuna. La soluzione potrebbe essere quella di prevedere una sorta di pulsante di stop in grado di spegnere l’intelligenza artificiale se dovesse diventare una minaccia.
L’azienda DeepMind, acquista da Google nel 2014 per 400 milioni di dollari, ha pubblicato sul sito Machine Intelligence Research Institute (MIRI) un documento dal titolo eloquente: Safely Interruptible Agents. La ricerca scientifica fa riferimento alla possibilità di prevedere un framework che permetta all’operatore umano di intervenire prontamente in caso di situazione pericolosa, impedendo all’intelligenza artificiale non solo di aggirare il sistema di sicurezza, ma anche di imparare i modi per contrastare il volere finale dell’uomo.  
L’orizzonte temporale perché un tale scenario si possa manifestare appare lontano, ma possibile in meno di 100 anni.
“Credo che quando verrà raggiunta l'equivalenza con il genere umano, non passerà molto tempo prima che le macchine diventino superintelligenti”, sostiene Nick Bostrom, responsabile del The Future of Humanity Institute. “Potrebbe volerci molto tempo per arrivare al livello umano, ma penso che il passo da lì alla superintelligenza sarà molto rapido. Credo che queste macchine con potrebbero essere molto potenti, per le stesse ragioni per cui noi esseri umani siamo molto potenti rispetto ad altri animali su questo pianeta. Non è perché i nostri muscoli sono più forti o i nostri denti più affilati, ma perché i nostri cervelli sono migliori”.

Autore: Mark

Per parlare di futuro non bisogna avere la sfera di cristallo, ma una grande curiosità per quello che sta già accadendo. Il bello deve ancora venire!

Condividi questo Post