Un progetto che permetterebbe all’uomo di bloccare una macchina potenzialmente pericolosa

Tra assistenti virtuali, robot domestici e dispositivi smart, ormai il concetto di intelligenza artificiale è una realtà che entra nelle nostre case quotidianamente. In un futuro prossimo questo tipo di tecnologia potrebbe diventare un bene irrinunciabile per le famiglie e le aziende, tanto da cambiare radicalmente l’interazione tra uomo e macchina.

Nell’immaginario collettivo popolare, grazie a romanzi, film e telefilm di fantascienza, l’intelligenza artificiale rappresenta sia una risorsa insostituibile per l’umanità che un potenziale pericolo. L’idea che un giorno robot e macchinari diventino esseri senzienti, capaci di provare sentimenti umani e di ribellarsi contro i loro costruttori da sempre affascina e inquieta.

Film come Matrix, Terminator e Ex machina e telefilm come Battlestar Galactica e Humans esprimono al meglio la guerra simbolica tra creatori e creature e le nefaste conseguenza che ne deriverebbero. proprio a Matrix e a uno dei dispositivi visti nel film si ispira un progetto di Google attualmente in lavorazione; un tasto rosso capace di bloccare l’intelligenza artificiale prima che diventi pericolosa.

Una sorta di pulsante di emergenza creato appositamente per rendere inoffensivi robot e macchinari, prima che vengano distribuiti su larga scala come unità lavorative. I ricercatori di Deep Mind, società londinese acquisita da Google nel 2014, lavorano al progetto in collaborazione con l’università di Oxford, come annunciato in un documento denominato “Safely Interruptible Agents“, pubblicato sul sito del Machine Intelligence Research Institute (MIRI) dell’università californiana di Berkeley.

Questo studio sarà sarà presentato alla Conference on Uncertainty in Artificial Intelligence (UAI) di New York a fine giugno, e si basa sull’interruzione degli algoritmi che permettono a un macchinario di essere operativo e svolgere le funzioni per cui è stato progettato. Non è ancora chiaro se effettivamente lo stop improvviso del sistema avvenga in modo sicuro e definitivo ma l’elaborazione è appena iniziata.

Nessuna emergenza al momento, solo una naturale cautela nel progettare e sviluppare prototipi che potrebbero in qualche modo diventare più dannosi che utili. Un ritorno alle tre leggi della robotica stabilite da Isaac Asimov nel romanzo Io,Robot che imponevano a una macchina di valutare e di conseguenza astenersi da procedure che mettevano a rischio la vita umana.