Lethal autonomous weapons, nuovo film sci-fi o pericolo reale?

La prestigiosa CNN per bocca di Toby Walsh ritorna sulla campagna per fermare i Robot Killer ( The Campaign to Stop Killer Robots) lanciata nel 2013 e subito dopo ripresa dal convegno sulle armi non convenzionali di Ginevra ( U.N. Convention on Certain Conventional Weapons C.C.W ) Toby Walsh non è un semplice giornalista ma Professore di Intelligenza Artificiale all' University of New South Wale e ricercatore nonché capo del  Data61 presso il Centro di eccellenza per le comunicazioni e tecnologie di Sidney, una sua recente intervista esordisce con una dichiarazione che è una catastrofica predizione : “Ho passato la mia vita a lavorare su intelligenza artificiale (AI), e ci sono molte ragioni per cui io sono timoroso dello sviluppo di robot killer. Eccone cinque”.

1. I Robot Killer sono vicini

Starete pensando a “Terminator”, un robot che secondo il film sarebbe disponibile nel 2029.         La realtà e che questi robot killer lo saranno a breve, si parla di pochi anni. Basti pensare ai    droni Predator  equipaggiati con i missili Hellfire che adesso sono comandati da esseri       umani ma che potrebbero essere sostituiti da programmi. Questo è già adesso tecnicamente   possibile.        2. Sarà una corsa agli armamenti Una volta aperto il vaso di pandora ci sarà una corsa agli armamenti che migliorerà i primi grossolani robot. Il punto di arrivo sarà proprio il modello T500 che si vede nel film          “Terminator”. La “legge di Moore” prevede il raddoppio della velocità dei microchip ogni due anni. Siamo  propensi a predire invece una crescita di tipo esponenziale, io voto per chiamarla la “legge di Schwarzenegger” per fare ricordare dove si potrebbe andare a finire.       3. I Robot Killer prolifereranno Questi letali robot diverranno economici. Basti guardare la velocità con cui il prezzo dei   droni è crollato negli ultimi anni. Diverranno anche facili da produrre almeno nei modelli   base. Anche adesso potete procurarvi un drone a quattro eliche comandato da uno smarthphone e  collegarlo ad una pistola od ad una piccola bomba artigianale. Tutto quelle che serve è      scrivere un piccolo programma di intelligenza artificiale. In un primo momento i robot   saranno armati dai militari; loro non hanno bisogno di dormire, di riposarsi ne di una     formazione lunga e costosa o di fuggire da un campo di battaglia se danneggiati. Gli stessi militari  potrebbero cambiare idea quando dovranno  difendere se stessi.                 4. I Robot Killer faranno molte vittime civili Secondo il sito theintercept.com durante i raid del marzo 2011 controi Talebani ed al        Quaeda nella zona di  Hindu Kush 9 persone uccise su 10 non erano obbiettivi degli       attacchi. Questo è quanto accade con un essere umano che comanda i droni a distanza che può       secondo coscienza decidere della vita o della morte di una persona. Le statistiche per un      drone autonomo saranno molto peggiori. Nel tempo essi saranno migliori dei piloti umani. Qui entrano diversi temi in gioco,           potrebbero ad esempio cadere nelle mani sbagliate, comprese persone che non hanno remore nell'usarle contro inermi civili. E' l'arma perfetta per il terrore.        5. I Robot Killer saranno difficili da controllare La Tesla aggiorna la propria “Model S”, con un semplice aggiornamento software fornito in remoto, essa può guidare autonomamente per strada senza conducente. Dobbiamo quindi aspettarci che dei semplici aggiornamenti di questo tipo potranno in un futuro trasformare sistemi non autonomi in sistemi interamente automatizzati, passando da non letali ad armi letali autonome. Questo potrebbe rendere poco controllabili queste macchine. Stiamo già percorrendo questa strada, sono le stesse tecnologie che renderanno autonome le automobili ,molte già esistenti. Ogni anno 30.000 persone muoiono sulle strade negli Stati Uniti, e 1,2 milioni in tutto il mondo. Queste statistiche saliranno vertiginosamente con le automobili senza guidatore. Ma se una cosa è difficile non è detto che non bisogna provare. Un ban parziale potrebbe   funzionare, come per esempio è stato fatto con quello per le mine antiuomo. La mia opinione è quella che dobbiamo regolamentare i robot in campo militare per          prevenire una corsa agli armamenti, tale visione è condivisa da molti, dobbiamo agire      velocemente. Ho scritto una lettera aperta nel luglio di quest'anno chiedendo che tale divieto sia varato. Le firme raccolte includono molti ricercatori nel campo dell'intelligenza artificiale e della robotica, gli amministratori delegati di Google DeepMind, di Facebook AI Research Lab, e l'Istituto di Allen per AI, così come migliaia di altri provenienti da tutto il mondo. Nel mese di novembre, la Convenzione delle Nazioni Unite si riunirà nuovamente a         Ginevra per discutere di  determinate armi non convenzionali , per decidere se continuare   con  queste ricerche, e se  fare il prossimo passo in avanti verso un divieto. Per il bene del   mondo, spero che facciano. N.d.r. Chi ricorda il film del  1983 “Wargames -Giochi di guerra“ con Mattew Broderick, il film visto oggi ha paurosamente un aspetto ben poco fantascientifico ma attualissimo.