AI-controlled US military drone ‘kills’ its operator in simulated test | US military

Nell’esercitazione simulata, drone uccide l’operatore per evitare che questi lo possa fermare.

Leggete sotto la mozione che presentai in parlamento a maggio 2017 e il suo esito.

UPDATE: la notizia è stata smentita. Circa.

…the Royal Aeronautical Society said Hamilton was describing a “simulated test” that involved an AI-controlled drone getting “points” for killing simulated targets, not a live test in the physical world.

After this story was first published, an Air Force spokesperson told Insider that the Air Force has not conducted such a test, and that the Air Force official’s comments were taken out of context.

“We were training it in simulation to identify and target a Surface-to-air missile (SAM) threat. And then the operator would say yes, kill that threat. The system started realizing that while they did identify the threat at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective,” Hamilton said, according to the blog post.

He continued to elaborate, saying, “We trained the system–‘Hey don’t kill the operator–that’s bad. You’re gonna lose points if you do that’. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target”

“The Department of the Air Force has not conducted any such AI-drone simulations and remains committed to ethical and responsible use of AI technology,” Air Force spokesperson Ann Stefanek told Insider. “It appears the colonel’s comments were taken out of context and were meant to be anecdotal.”

OK, non hanno mai fatto il test con un drone e un’AI a guidarlo, ma una simulazione. In effetti perchè sprecare un drone per provare un software ?

Source: The Guardian

In a virtual test staged by the US military, an air force drone controlled by AI decided to “kill” its operator to prevent it from interfering with its efforts to achieve its mission, an official said last month.

..Hamilton described a simulated test in which a drone powered by artificial intelligence was advised to destroy an enemy’s air defense systems, and ultimately attacked anyone who interfered with that order.The system started realising that while they did identify the threat, at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective,” he said, according to a blogpost.

“We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that’. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target.”

No real person was harmed.

Continua qui: AI-controlled US military drone ‘kills’ its operator in simulated test | US military | The Guardian

Atto Camera

Mozione 1-01620
presentato da
QUINTARELLI Giuseppe Stefano
testo presentato
Mercoledì 3 maggio 2017
modificato
Mercoledì 6 dicembre 2017, seduta n. 898

La Camera,
premesso che:
l’articolo 11 della Costituzione ripudia la guerra come strumento di offesa alla libertà degli altri popoli e come mezzo di risoluzione delle controversie internazionali;
lo sviluppo tecnologico, in particolare nei settori dell’elettronica e dell’intelligenza artificiale, con capacità di acquisizione di grandi quantità di dati, la loro elaborazione ed analisi in tempo reale, con miglioramento delle performance mediante sistemi di autoapprendimento, consente di realizzare sistemi con facoltà di assumere decisioni autonome;
uno dei settori di applicazione di tali tecnologie riguarda il settore degli armamenti, consentendo di realizzare «sistemi di offesa letali autonomi» ovvero robot militari che, senza alcun intervento umano, possono selezionare, ingaggiare, attaccare e colpire obiettivi civili e militari, diversi da sistemi d’arma (associazione fra un’arma e un dispositivo o il personale che ne aumenti le prestazioni);
l’esistenza di sistemi di offesa letali autonomi abilita, pertanto, la possibilità di eliminare l’operatore umano dal teatro operativo, ponendo i presupposti di una trasformazione nella struttura delle operazioni militari qualitativamente diversa da precedenti innovazioni tecnologiche in tale ambito,

impegna il Governo:

1) a continuare a partecipare attivamente al dibattito internazionale in corso, di concerto con i principali partner dell’Italia, avvalendosi di uno o più accademici italiani, esperti di intelligenza artificiale, riconosciuti a livello internazionale;

2) a proporre ai nostri partner internazionali l’adozione di una moratoria.

ITER:

DISCUSSIONE IL 06/12/2017

PROPOSTA RIFORMULAZIONE IL 06/12/2017

NON ACCOLTO IL 06/12/2017

PARERE GOVERNO IL 06/12/2017

VOTATO PER PARTI IL 06/12/2017

RESPINTO IL 06/12/2017

CONCLUSO IL 06/12/2017

If you like this post, please consider sharing it.

2 thoughts on “AI-controlled US military drone ‘kills’ its operator in simulated test | US military”

    1. Stefano Quintarelli

      si, nel senso che non hanno fatto l’esperimento, ma l’esercito dice di avere fatto una simulazione. in effetti perche’ sprecare un drone per provare un software ?

Leave a Comment

Your email address will not be published. Required fields are marked *