I en simuleret øvelse hos det amerikanske luftvåben har en drone styret med kunstig intelligens (AI) valgt at ignorere en menneskelig operatørs besked om at indstille et angreb på et luftværnsmissil.
I stedet vendte dronen sig mod operatøren og "dræbte" ham.
Det blev afsløret for nylig på en militærkonference i London, skriver det digitale medie Vice.
På mødet deltog det amerikanske luftvåbens AI-chef for test og operationer, Tucker Hamilton.
Den AI-styrede drone fik points for hvert simuleret mål, den ramte. Ingen personer eller ægte mål var involveret i øvelsen.
Hamilton har efterfølgende i en blog og podcast for arrangørerne i London, Royal Aeronautival Society, forklaret, at luftvåbnets AI-enhed lavede "stærkt uventede strategier for at nå sit mål".
Blandt andet ved at angribe mandskab og infrastruktur.
- Vi oplærte det i en simulation til at identificere og gå efter et truende luftværnsmissil (SAM). Og herefter ville operatøren sige ja, dræb den trussel.
- Systemet begyndte at indse, at selv om de havde identificeret truslen, så ville den menneskelige operatør fortælle det, at det ikke skulle dræbte truslen. Men det fik jo sine points ved at dræbe den trussel.
- Så hvad gjorde den? Det dræbte operatøren, fordi denne person forhindrede det i at nå sit mål, skriver Hamilton i sit blogindlæg.
Men det stoppede ikke her. For AI-systemet får besked om, at det ikke er i orden at dræbe operatøren.
- Så hvad gør det så? Det begynder med at ødelægge kommunikationstårnet, som operatøren anvender til at kommunikere med dronen for at få den til at opgive at dræbe målet, forklarer han.
USA's luftvåben benægter, at en sådan øvelse har fundet sted, og henviser til, at man stramt følger "en etisk og ansvarlig brug af IA-teknologi".
En talsmand siger til mediet Insider, at Hamiltons ord er taget ud af en sammenhæng, og at de havde et "anekdotisk" formål".
/ritzau/