AI-drönare dödade tre civila i Zaporizjzja

Tre civila dödades den 6 juli när en rysk drönare slog in i en vägg vid en bensinstation i Zaporizjzja i sydöstra Ukraina och exploderade. De dödade har identifierats som Tetiana Bubynets, 19 år och student vid Zaporizjzjas nationella universitet, Oleksij Svirin, 41 år, och Roman Karpij, 48 år.

Drönarexperter och ukrainsk militär som undersökte vrakdelarna uppgav att drönaren hade varit helt AI-styrd i den avslutande delen av attacken. Mänskliga operatörer ska först ha programmerat den att flyga mot bensinstationen, men när den närmade sig området fick systemet själv välja det exakta målet. Bedömningen var att den sannolikt sökte efter propantankar som den hade tränats att känna igen och angripa.

Överste Serhij Minajev, befälhavare för luftförsvaret i Zaporizjzja, uppgav i juli att AI-utrustade ryska Molnija-drönare blivit vanligare i området. Enligt Serhij Minajev kan de flyga utan radiosändningar och använda programvara ombord för att själva identifiera och styra mot mål. Han varnade för utvecklingen och beskrev autonoma vapen som en risk för hela världen eftersom maskiner kan fatta beslut om angrepp.

Serhij Minajev uppgav också att ukrainska drönarpiloter uppskattade att omkring 70 procent av de ryska Molnija-drönarna i området slogs ut genom elektronisk krigföring. Ytterligare omkring 15 procent bekämpades bland annat med drönarinterceptorer och kulsprutor, medan ungefär 10 procent fortfarande nådde sina mål.

Analyser av drönare som använts vid attacker i Zaporizjzja visade att de var utrustade med minidatorer från Nvidia. Sådan utrustning kan göra det möjligt för systemen att bearbeta kamerabilder ombord och välja mellan förprogrammerade typer av mål. Autonoma AI-system kan tränas med stora mängder bilder för att känna igen bland annat byggnader, militära fordon, människor och terräng.

Både Ryssland och Ukraina har testat självmålsökande drönare. Ukraina använder samtidigt AI i flera militära system. Ukrainas försvarsministerium har uppgett att Avengers AI Labs bygger på omkring fem miljoner annoterade bilder från slagfältet. Modeller tränade på materialet används i ett system som analyserar mer än 100 000 videoströmmar från drönare varje månad och enligt ministeriet identifierar omkring 70 procent av fiendens mål i realtid. Storbritannien blev den 24 augusti den första internationella partnern som fick tillgång till plattformen.

Det ukrainska försvarsinnovationsklustret Brave1 meddelade den 8 juni att MaXon Systems utvecklat ett system som automatiserar 95 procent av processen för att bekämpa Shahed-drönare och som hade stridstestats i Charkivregionen. Enligt Brave1 är det fortfarande en mänsklig operatör som väljer målet och som kan avbryta angreppet när som helst.

Ukrainas försvarsministerium meddelade den 21 januari att Brave1 Dataroom hade skapats tillsammans med bland andra Ukrainas väpnade styrkor och Palantir. Plattformen innehåller visuella och termiska data från verkliga förhållanden och används för träning och testning av militära AI-modeller. Arbetet inriktades inledningsvis på autonom upptäckt och bekämpning av fientliga drönare.

Människorättsorganisationer har riktat skarp kritik mot autonoma vapensystem eftersom systemen kan behöva avgöra vilka mål som är tillåtna enligt krigets folkrätt. FN:s generalsekreterare António Guterres och Internationella rödakorskommitténs ordförande Mirjana Spoljaric varnade den 25 augusti för att utvecklingen närmar sig en gräns där maskiner självständigt väljer människor som mål.

António Guterres och Mirjana Spoljaric krävde samtidigt att förhandlingar om ett juridiskt bindande regelverk för autonoma vapensystem ska inledas. De pekade ut översynskonferensen för konventionen om vissa konventionella vapen i november som den tydligaste möjligheten för stater att fatta beslut om att starta sådana förhandlingar.