La prestigiosa CNN per bocca di Toby Walsh ritorna sulla campagna per fermare i Robot Killer ( The Campaign to Stop Killer Robots) lanciata nel 2013 e subito dopo ripresa dal convegno sulle armi non convenzionali di Ginevra ( U.N. Convention on Certain Conventional Weapons C.C.W )
Toby Walsh non è un semplice giornalista ma Professore di Intelligenza Artificiale all’ University of New South Wale e ricercatore nonché capo del Data61 presso il Centro di eccellenza per le comunicazioni e tecnologie di Sidney, una sua recente intervista esordisce con una dichiarazione che è una catastrofica predizione :
“Ho passato la mia vita a lavorare su intelligenza artificiale (AI), e ci sono molte ragioni per cui io sono timoroso dello sviluppo di robot killer. Eccone cinque”.
- I Robot Killer sono vicini
Starete pensando a “Terminator”, un robot che secondo il film sarebbe disponibile nel 2029. La realtà e che questi robot killer lo saranno a breve, si parla di pochi anni. Basti pensare ai droni Predator equipaggiati con i missili Hellfire che adesso sono comandati da esseri umani ma che potrebbero essere sostituiti da programmi. Questo è già adesso tecnicamente possibile.
2. Sarà una corsa agli armamenti
Una volta aperto il vaso di pandora ci sarà una corsa agli armamenti che migliorerà i primi grossolani robot. Il punto di arrivo sarà proprio il modello T500 che si vede nel film “Terminator”.
La “legge di Moore” prevede il raddoppio della velocità dei microchip ogni due anni. Siamo propensi a predire invece una crescita di tipo esponenziale, io voto per chiamarla la “legge di Schwarzenegger” per fare ricordare dove si potrebbe andare a finire.
3. I Robot Killer prolifereranno
Questi letali robot diverranno economici. Basti guardare la velocità con cui il prezzo dei droni è crollato negli ultimi anni. Diverranno anche facili da produrre almeno nei modelli base.
Anche adesso potete procurarvi un drone a quattro eliche comandato da uno smarthphone e collegarlo ad una pistola od ad una piccola bomba artigianale. Tutto quelle che serve è scrivere un piccolo programma di intelligenza artificiale. In un primo momento i robot saranno armati dai militari; loro non hanno bisogno di dormire, di riposarsi ne di una formazione lunga e costosa o di fuggire da un campo di battaglia se danneggiati. Gli stessi militari potrebbero cambiare idea quando dovranno difendere se stessi.
4. I Robot Killer faranno molte vittime civili
Secondo il sito theintercept.com durante i raid del marzo 2011 controi Talebani ed al Quaeda nella zona di Hindu Kush 9 persone uccise su 10 non erano obbiettivi degli attacchi.
Questo è quanto accade con un essere umano che comanda i droni a distanza che può secondo coscienza decidere della vita o della morte di una persona. Le statistiche per un drone autonomo saranno molto peggiori.
Nel tempo essi saranno migliori dei piloti umani. Qui entrano diversi temi in gioco, potrebbero ad esempio cadere nelle mani sbagliate, comprese persone che non hanno remore nell’usarle contro inermi civili. E’ l’arma perfetta per il terrore.
5. I Robot Killer saranno difficili da controllare
La Tesla aggiorna la propria “Model S”, con un semplice aggiornamento software fornito in remoto, essa può guidare autonomamente per strada senza conducente. Dobbiamo quindi aspettarci che dei semplici aggiornamenti di questo tipo potranno in un futuro trasformare sistemi non autonomi in sistemi interamente automatizzati, passando da non letali ad armi letali autonome. Questo potrebbe rendere poco controllabili queste macchine.
Stiamo già percorrendo questa strada, sono le stesse tecnologie che renderanno autonome le automobili ,molte già esistenti. Ogni anno 30.000 persone muoiono sulle strade negli Stati Uniti, e 1,2 milioni in tutto il mondo. Queste statistiche saliranno vertiginosamente con le automobili senza guidatore.
Ma se una cosa è difficile non è detto che non bisogna provare. Un ban parziale potrebbe funzionare, come per esempio è stato fatto con quello per le mine antiuomo.
La mia opinione è quella che dobbiamo regolamentare i robot in campo militare per prevenire una corsa agli armamenti, tale visione è condivisa da molti, dobbiamo agire velocemente. Ho scritto una lettera aperta nel luglio di quest’anno chiedendo che tale divieto sia varato.
Le firme raccolte includono molti ricercatori nel campo dell’intelligenza artificiale e della robotica, gli amministratori delegati di Google DeepMind, di Facebook AI Research Lab, e l’Istituto di Allen per AI, così come migliaia di altri provenienti da tutto il mondo.
Nel mese di novembre, la Convenzione delle Nazioni Unite si riunirà nuovamente a Ginevra per discutere di determinate armi non convenzionali , per decidere se continuare con queste ricerche, e se fare il prossimo passo in avanti verso un divieto. Per il bene del mondo, spero che facciano.
N.d.r. Chi ricorda il film del 1983 “Wargames -Giochi di guerra“ con Mattew Broderick, il film visto oggi ha paurosamente un aspetto ben poco fantascientifico ma attualissimo.
