Mördarrobotar kan bli framtidens självgående vapensystem om inte ett internationellt förbud träder i kraft. Foto: Campaign to stop killer robots

Reportage

Mördarrobotar – framtidens självgående vapen

Mördarrobotar agerar utan mänsklig kontroll och strider mot folkrätten. Robotarna höjer sannolikheten för krig och diskriminering av vissa utsatta grupper. Ett internationellt förbud kan motverka utvecklingen av mördarrobotar, men denna process försvåras av dagens spända geopolitiska läge och Sveriges passiva hållning, menar flera experter på området.

Algoritmer som bestämmer vem som ska leva och vem som ska dö. Robotar programmerade att på egen hand identifiera vissa typer av människor och sedan attackera blixtsnabbt utan att någon kan sätta stopp för dem. Agnes Hellström, ordförande för Svenska Freds, viftar med armarna i luften framför en bakgrund av färgglada fåglar när hon förklarar att fler måste trycka på för ett internationellt förbud mot helt autonoma vapensystem, även kallade mördarrobotar. 

Jag frågar Hellström och Gabriella Irsten, politisk handläggare för IKFF, vad den största risken med mördarrobotar är. De börjar båda med att fråga om de bara måste välja en risk “för det finns ju så många”. Hellström förklarar att helt autonoma vapensystem skulle innebära att den mänskliga faktorn för första gången fullkomligt kopplas bort, något som vid flera historiska tillfällen räddat oss från kärnvapenkrig. Denna aspekt försvinner med autonoma vapen då de är programmerade till att fatta egna belsut. Irsten tar upp två andra problem. Hon menar att vi kommer se en ny global upprustning likt perioden efter att krutet eller kärnvapen uppfanns och precis som då riskerar mördarrobotar att skapa ytterligare osäkerhet och förvärra dagens redan spända geopolitiska läge. 

Folkrättsliga problem med helt autonoma vapensystem

Vem bär egentligen ansvaret för en robots agerande? Programmeraren, staten som trycker på startknappen eller någon helt annan? Detta är bara ett av de juridiska problem som Pål Wrange, docent i folkrätt, berättar om över telefon när han är ute på sin morgonpromenad i grått aprilväder. Han menar att alla stater måste komma överens om vilka regler som gäller för helt autonoma vapensystem, bland annat krävs att en person är straffrättsligt ansvarig om en krigsförbrytelse begås. Wrange börjar grubbla bekymrat och funderar på om det ens kan kallas krigsförbrytelse när handlingen utförts av en maskin eftersom folkrätten säger att någon ska ha haft uppsåt för att kunna dömas. 

Wrange tar även upp två av folkrättens grundläggande principer; distinktionsprincipen och proportionalitetsprincipen, som skapar problem när det gäller användandet av helt autonoma vapensystem. Den förstnämnda innebär att de krigförande parterna måste kunna skilja militära mål från civila mål och att attacker endast får riktas mot militära mål. Ett argument för användandet av helt autonoma vapensystem är att robotar i många fall begår färre misstag än människor. Däremot finns risken att mjukvaran är programmerad fel och inte kan urskilja vem som är civil, något som skulle vara ett problem för distinktionsprincipen. Proportionalitetsprincipen innebär att om civila skador är oundvikliga måste de vara proportionerliga mot militära skador. I detta fall representeras det militära av maskiner och frågan blir då hur förluster i form av teknik kan ställas i förhållande till människoliv? Dessutom blir det “billigt” att använda våld då ens egna soldater inte mister livet och det betyder att stater kan frestas att använda militära medel i situationer då de annars inte skulle ha gjort det. Därför sänks tröskeln för att använda våld, menar Hellström och Irsten.

Ett ytterligare problem handlar om vilken typ av människa roboten riktar in sig på och att detta ligger i händerna på programmeraren. Irsten menar att fördomar vi människor har kommer att ha en betydande roll då de kan programmeras in omedvetet eller medvetet.

– Hur programmeraren ser på människor med olika etniciteter spelar till exempel roll. Genom att lägga in fördomar med flit kan mördarrobotar vara ett “lätt” verktyg för att bedriva etnisk rensning, förklarar Irsten med oro i blicken. 

Dessutom är roboten självlärande och därför kan vi människor inte förutse vad den lär sig eller hur den kommer att bete sig. Vad händer om dessa vapen hamnar i “fel händer”? Vad blir till exempel konsekvenserna av att terrorister eller auktoritära ledare får möjlighet att utveckla dessa vapen? 

Ett internationellt förbud mot mördarrobotar

Hellström noterar att 30 stater och FN:s generalsekreterare har uttryckt att de vill se ett internationellt förbud mot mördarrobotar. Detta arbetar även Campaign to Stop Killer Robots för, vilket är en koalition av icke-statliga organisationer. I Sverige samarbetar Svenska Freds och IKFF med flera för att bygga upp en kampanj i Sverige och påverka regeringen samt opinionen för att fler skall engagera sig. I nuläget har Sverige inte ställt sig bakom ett förbud och Hellström menar att Sverige har en ganska passiv hållning. 

– I nuläget används inte helt autonoma vapen i krig, vad vi vet, men det är en kamp mot klockan. Den teknologiska utvecklingen går supersnabbt medan diplomatiska processer och internationella förbudskonventioner går jättelångsamt. Just nu är det en trend att satsa mycket pengar på militär upprustning, och det blir en slags ond spiral som ökar osäkerheten.

Hellström menar att Sverige som en humanitär stormakt skulle, genom att ställa sig bakom ett förbud, kunna bidra till att skapa ett stigma och en internationell norm mot mördarrobotar. Långsiktigt påverkar även en sådan signal länder som vill utveckla mördarrobotar. Exempelvis har varken USA eller Ryssland skrivit under förbudet mot klustervapen men utvecklingen och investeringen i dessa extremt destruktiva vapen har minskat avsevärt på grund av det internationella förbudet och stigmat kring dem. 

– Du vill inte sätta dina pengar i utvecklingen av vapen som spränger barn i bitar. Skapar vi ett tillräckligt stort motstånd mot en vapentyp slutar banker, företag och andra aktörer att investera och då minskar värdet att utveckla dem vidare. Om inte Sverige agerar blir det mycket svårare för andra följa efter. Istället blir det ett “chicken-race” där Sverige inte vill ta tydlig ställning, säger Hellström.

Det finns inte något som förklarar varför Sverige inte ställt sig bakom ett förbud men enligt Irsten liknar det hur Sverige agerade till en början i frågan om ett förbud mot kärnvapen och klustervapen. Sverige lyssnade då mycket på sina allierade, som USA. Även fast Sverige själva inte skulle vilja utveckla helt autonoma vapen har vi en vapenindustri. Stormakter som importerar våra vapen och som Sveriges regering anser sig vara beroende av kan använda vapenindustrin som förhandlingsmetod för att hindra Sverige att skriva under ett förbud. Sådana påtryckningar har förekommit i andra frågor och kan vara en faktor som sätter käppar i hjulet för att Sverige ska ställa sig bakom ett förbud.

– Ett förbud eller en reglering av vissa vapensystem innebär att man tar bort en strategisk fördel för stater som har ett teknologiskt försprång. Därför kommer dessa länder, exempelvis USA, motsätta sig dessa regleringar, förklarar Wrange.

En professor i folkrätt, ett ordförande för världens äldsta fredsorganisation och en politisk handläggare. Alla är överens om att ett internationellt förbud behöver träda i kraft för att förhindra en värld där människors liv ligger i händerna på robotar.

Dela det här: