“Door AI aangestuurde drone doodt instructeur en blaast radiotoren op in militaire simulatie”

Een horrorscenario dat in de nabije toekomst werkelijkheid kan worden: een autonome, door kunstmatige intelligentie aangedreven drone schiet zijn eigen instructeur dood en maakt daarna de communicatietoren met de grond gelijk. Het gebeurde tijdens een simulatie van het Amerikaanse leger.

Het AI-systeem wilde koste wat kost het geprogrammeerde doel (vernietig de luchtafweersystemen van de vijand) bereiken en nam daarbij op z'n zachtst gezegd nogal onorthodoxe beslissingen. Kolonel Tucker Hamilton vertelde over de testresultaten tijdens een internationaal congres over de toekomst van luchtcomponenten van het leger in Londen.

Eigen willetje“Het systeem begon te beseffen dat de menselijke operator soms zou kunnen kiezen een doelwit niet te doden en daarom doodde het de operator. Hij kon het systeem ervan weerhouden alle doelen te bereiken en was dus een gevaar voor de missie”, staat te lezen in een blogpost van Hamilton.

Hierop kreeg het systeem aangeleerd dat het doden van de operator een misdaad was. “Je gaat punten verliezen als je dat doet, maakten we duidelijk aan het systeem”, aldus Hamilton. “En wat deed het? Het vernielde de communicatietoren die de operator gebruikte om de drone tegen te houden.”

Amerikaanse luchtmacht ontkentDe Amerikaanse luchtmacht ontkent ondertussen dat de virtuele test heeft plaatsgevonden. “De luchtmacht heeft dergelijke AI-dronesimulaties niet uitgevoerd en blijft zich inzetten voor ethisch en verantwoord gebruik van AI-technologie. Het lijkt erop dat de opmerkingen van de kolonel uit hun verband zijn gerukt en anekdotisch bedoeld waren”, reageert een woordvoerder van de luchtmacht.

Bron(nen): Business Insider