AI-drönare dödade civila utan mänskligt slutbeslut

Tre personer dödades i Zaporizjzja i början av juli när en rysk drönare genomförde ett angrepp där det slutliga målet inte valdes av en människa. Fallet beskrivs som det första dokumenterade där ett självstyrande AI-system har orsakat civila dödsoffer. Zaporizjzjas regionala militäradministration uppgav den 6 juli att ryska styrkor sedan morgonen hade angripit bensinstationer i staden och att räddningstjänsten arbetade på de drabbade platserna.

Ukrainska utredare identifierade drönaren som en rysk Molniya. Bland vrakdelarna hittades en Nvidia Jetson Orin-minidator, vilket Nvidia bekräftade efter att ha granskat bilder på komponenten. Drönaren saknade antenner och flög tillsammans med omkring ett halvdussin andra drönare. Enligt de ukrainska utredarna sände ingen av dem radiosignaler, vilket var en av omständigheterna bakom bedömningen att de inte fjärrstyrdes under slutfasen av attacken.

Eftersom systemet inte var krypterat kunde utredarna läsa både programkod och terrängbilder i datorn. Den tekniska analysen visade vilka slags objekt systemet hade tränats att identifiera och angripa. Bedömningen var att drönaren sannolikt hade programmerats att flyga mot en bestämd bensinstation och därefter själv välja sitt slutliga mål.

Dagen efter angreppet meddelade Zaporizjzjas stadsråd att fyra flerbostadshus i stadens Kosmitjnyj-distrikt hade fått krossade fönster samt skador på bland annat balkonger och tak efter attackerna den 6 juli. Critical Threats Project konstaterade samtidigt att ryska styrkor under perioden hade utökat sina angrepp mot ukrainska bensinstationer och gasanläggningar och att ukrainska företrädare rapporterat attacker mot bensinstationer i flera regioner den 5 och 6 juli.

Utvecklingen har aktualiserat den internationella diskussionen om autonoma vapensystem. FN:s generalsekreterare António Guterres har varnat för att världen är nära en moralisk gräns där maskiner själva riktar in sig på människor. FN:s kontor för nedrustningsfrågor uppger att António Guterres sedan 2018 har förespråkat ett internationellt förbud mot dödliga autonoma vapensystem som saknar mänsklig kontroll. I New Agenda for Peace angav han 2026 som målår för ett juridiskt bindande internationellt instrument.

Helen Frowe, professor och chef för Stockholm Centre for the Ethics of War and Peace och forskare om krigets etik, anser däremot inte att användningen av en autonom drönare innebär något radikalt etiskt skifte jämfört med andra vapen. Helen Frowe framhåller att det ur den dödades perspektiv inte nödvändigtvis är värre att dödas av en drönare än av en soldat.

Helen Frowe jämför tekniken med en landmina, där personen som placerar ut vapnet inte kontrollerar exakt vem som senare träffas. Enligt Helen Frowe ligger den centrala etiska frågan i vem som dödar vem och av vilket skäl, snarare än i själva vapentypen. Hon betonar också att en algoritm eller ett datorprogram inte fattar beslut på samma sätt som en människa.

Den större risken med AI-baserade vapensystem är enligt Helen Frowe att krig kan bli billigare och enklare att föra. Regeringar kan i mindre utsträckning behöva utsätta sina egna medborgare för livsfara, vilket enligt henne kan göra väpnade konflikter mindre kontroversiella på hemmaplan när färre egna soldater dödas.

Förespråkare för autonoma system anser att drönare kan söka efter mål med större precision än mänskliga piloter. Kritiker pekar samtidigt på risken för att system som själva väljer slutmål gör fel eller bryter mot krigets lagar, exempelvis genom att misslyckas med att skilja civila från stridande. Helen Frowe framhåller att en drönare inte påverkas av panik, stress eller trötthet, men att tekniken i fel händer samtidigt kan göra det mycket enkelt att döda människor.

FN:s expertgrupp om dödliga autonoma vapensystem fortsätter arbetet inom konventionen om vissa konventionella vapen. Vid gruppens första session 2026 deltog representanter för 85 höga fördragsslutande parter och arbetet fortsatte med ett dokument om möjliga delar i ett internationellt instrument. Den andra sessionen 2026 hålls i Genève den 31 augusti–4 september.

Internationella rödakorskommittén meddelade den 17 juni att organisationen vill att den sjunde översynskonferensen för konventionen om vissa konventionella vapen i november 2026 ska användas för att inleda förhandlingar om ett nytt protokoll om autonoma vapensystem. Internationella rödakorskommittén vill förbjuda system vars effekter inte kan förutses tillräckligt och system som självständigt angriper människor. För andra autonoma vapen vill organisationen se begränsningar som bland annat gäller geografiskt område, tidsperiod och vilka mål som får angripas.

Human Rights Watch framhöll i januari 2026 att det pågående FN-utkastet enligt organisationen behöver innehålla ett uttryckligt förbud mot autonoma vapensystem som angriper människor och mot system som saknar meningsfull mänsklig kontroll. Organisationen vill också att ett mandat för bindande förhandlingar antas vid översynskonferensen i november 2026.