VN-lidstaten willen regels voor killerrobots, maar grootmachten blokkeren verdrag

Ze zijn een tikkende tijdbom: killerrobots, moordmachines die kunnen aanvallen zonder dat er een mens aan te pas komt. Een meerderheid van de VN-lidstaten wil daarom een internationaal wetgevend kader voor zulke autonome wapens. Daar was recent een kleine opening voor, op de wapenconferentie van de Verenigde Naties in december. Maar een gezamenlijk verdrag komt er wellicht niet, want een handvol grootmachten ligt dwars.

Er was kort geleden hoop dat de internationale gemeenschap zou beslissen om te beginnen met formele onderhandelingen over een internationaal verdrag dat killerrobots moet reguleren. Maar die historische kans is mislukt, deelde een internationale coalitie van ngo’s en academici, Stop Killer Robots, mee in een persbericht.

Tot nu toe bestaat er nog geen internationaal wetgevend kader voor deze dodelijke, volledig autonome wapensystemen. Een handvol geopolitieke grootmachten, zoals de Verenigde Staten van Amerika, Rusland, China en Israël, blokkeert de weg naar een internationaal verdrag.

Er was recent nochtans een diplomatieke opening, tijdens de wapenconferentie van de Verenigde Naties, van 13 tot 17 december in Genève. Zo’n 68 landen, zo stelt Stop Killer Robots, zou autonome wapens willen inperken met een internationaal verdrag van de VN.

Wat er op de wapenconferentie nu precies is afgesproken, is vaag, zegt beleidsmedewerkster bij de internationale vredesbeweging Pax Christi Merel Selleslach aan MO*. ‘De VN-lidstaten zijn nu overeengekomen dat ze verdere voorstellen in de toekomst zullen overwegen. Zowel de landen die geen internationaal verdrag willen als de landen die dat wel willen konden zich vinden in die formulering, maar ze leidt tot niets.’

Moordmachines

Oorlogsvoering met gedeeltelijk autonome wapens, zoals drones, is al langer bekend. Maar killerrobots gaan nog een stap verder: het zijn moordmachines die doelwitten selecteren en aanvallen op basis van kunstmatige intelligentie, in plaats van dat een mens de opdracht tot een dodelijke aanval geeft. De technische benaming voor een killerrobot is dan ook lethal autonomous weapon: dodelijk autonoom wapen.

VN-secretaris-generaal Antonio Guterres noemde killerrobots in 2019 zelfs ‘politiek onacceptabel en moreel verwerpelijk’. Hij riep zelfs op om ze te verbieden onder internationaal recht, maar zo ver is het dus nog altijd niet gekomen.

Ook België pleit actief voor een international verdrag dat killerrobots reguleert. In 2018 nam het federale parlement al een resolutie aan die de regering opriep op binnen de VN actief te ijveren voor het opstarten van onderhandelingen. En op de recente wapenconferentie in Genève was het de Belgische vertegenwoordiger in de VN-Veiligheidsraad, Marc Pecsteen de Buytswerve, die de gesprekken leidde.

Mensenrechtenorganisatie Human Rights Watch waarschuwt al langer, onder andere in een rapport van 2016, dat killerrobots in strijd kunnen zijn met het internationaal recht. Zo is er twijfel of ze wel in staat zijn om een onderscheid te maken tussen burgers en soldaten, en of ze een proportionele afweging kunnen maken tussen militaire doelwitten en mogelijke burgerslachtoffers.

Wie is aansprakelijk voor de fouten en slachtoffers die killerrobots maken? De programmeur, de producent?

Een ander mogelijk effect van de autonome technologie is dat landen makkelijker en sneller ten oorlog zouden trekken. Killerrobots inzetten in plaats van soldaten kost immers net zo goed geld, maar minder levens aan eigen kant.

Het is ook nog niet helemaal duidelijk hoe kunstmatige intelligentie precies redeneert. De kans op fouten is volgens Human Rights Watch reëel. Wie is dan aansprakelijk voor de gemaakte fouten en slachtoffers? De programmeur van de killerrobot, de producent?

Regels over de productie en het gebruik van autonome wapens zijn daarom nodig, vinden Human Rights Watch en andere critici. Omdat die er op dit moment nog niet zijn, kunnen landen zonder beperkingen investeren in de productie ervan en kunnen ze killerrobots inzetten bij gewapende conflicten.

Lees ook

Wereldmachten spelen zeeslag in Indische en Stille Oceaan

Een killerrobot zou voor de eerste keer ingezet zijn door het Turkse leger in Libië, zo rapporteerde de VN-Veiligheidsraad in maart 2021. Turkije zou er onbemande drones van het type STM Kargu-2 hebben gebruikt, die geprogrammeerd werden om aan te vallen zonder daarvoor eerst toestemming te vragen aan een operator. Die eerste toepassing van autonome wapens baart veel landen zorgen.

Het is slechts een kwestie van tijd voor er meer van zulke wapens opduiken, zegt Maaike Verbruggen, die al in 2017 onderzoek deed naar de ontwikkeling van killerrobots, voor het Stockholm International Peace Research Institute (SIPRI). ‘Kunstmatige intelligentie ontwikkelt zich snel. Hoe langer we wachten, hoe moeilijker het zal zijn om killerrobots te reguleren’, zegt Verbruggen aan de telefoon. ‘Landen investeren er immers steeds meer geld in en willen die investering laten opbrengen.’

Bang om in eigen voet te schieten

Al wordt al langer opgeroepen om een internationaal verdrag te creëren voor killerrobots, tot nu toe was daarover nog geen formeel overleg. Als er gesproken werd over zo’n verdrag, dan gebeurde dat steeds binnen het kader van overleg over conventionele wapens. De productie en het gebruik daarvan is wél al onderworpen aan een internationaal verdrag: de Conventie op Bepaalde Conventionele Wapens van de VN. Dat verdrag verbiedt of beperkt een aantal wapens die buitensporig leed kunnen veroorzaken, zoals bijvoorbeeld landmijnen.

Een opening voor een formeel kader vormde zich tijdens de meest recente vijfjaarlijkse bijeenkomst over de Conventie, in december dus. Een meerderheid van de deelnemende landen wilde een akkoord sluiten met alle 125 leden die het bestaande verdrag, over conventionele wapens, ondertekend hebben. Zij pleiten voor een juridisch kader dat ofwel een verbod op autonome wapens instelt, ofwel beperkingen oplegt. In dat laatste geval zouden legers bijvoorbeeld alleen killerrobots mogen gebruiken als ze onder menselijke controle staan.

Een aantal grootmachten heeft al veel geld geïnvesteerd in autonome wapens en wil die investeringen niet verliezen.

Maar een consensus, waarbij alle 125 landen akkoord moeten gaan, kwam er niet. Een minderheid van landen, zoals de Verenigde Staten, Rusland, China en Israël, ging niet akkoord. Daardoor komt er wellicht geen internationaal verdrag over killerrobots binnen het kader van de bestaande Conventie, denkt Merel Selleslach van Pax Christi.

Als formele reden voor hun weigering halen de protesterende grootmachten aan dat er al een internationaal kader bestaat dat voorschrijft hoe wapens te gebruiken. Er is volgens hen dus geen extra verdrag nodig, verduidelijkt onderzoekster Maaike Verbruggen.

Maar andere redenen laten deze staten onvermeld. Zij hebben al veel geld geïnvesteerd in autonome wapens en willen die investeringen niet verliezen, zegt Verbruggen. Bovendien zijn deze landen bang dat ze met een verbod in eigen voet zouden schieten. ‘Ze vrezen dat andere landen dan stiekem wél deze wapens gaan ontwikkelen, en dat zij dan in het nadeel zijn’, zegt Verbruggen.

Het debat over killerrobots is vooral een internationaal machtsspel, zo verduidelijkt Selleslach. ‘De Verenigde Staten willen wel iets doen aan de gevaren van autonome wapensystemen, maar ze zijn niet bereid om hun macht af te geven en de beperkingen te laten afhangen van andere landen. En Rusland doet er dan weer alles aan om ervoor te zorgen dat de ontwapeningsgesprekken mislukken. Dat patroon komt terug.’

Dan maar zonder de grootmachten

Critici van killerrobots, zoals het Internationale Rode Kruiscomité, zijn teleurgesteld. ‘Dit is een gemiste kans. Het is volgens ons niet de reactie die nodig is op de risico’s van autonome wapens’, zei Rode Kruis-beleidsadviseur Neil Davison aan Al Jazeera.

‘De druk om een verdrag te sluiten is zo hoog dat het bijna niet anders kan dat landen naar een andere oplossing gaan zoeken.’

Ook Merel Selleslach reageert teleurgesteld. ‘De voorbije jaren zijn er steeds meer landen die vinden dat er een juridisch kader moet komen voor autonome wapensystemen. Ze willen er echt over onderhandelen en een standpunt uitwerken. Het is jammer dat enkele gemilitariseerde landen niet akkoord gaan en de andere landen tegenhouden.’

Al is de discussie over wapenbeheersing niet uitzonderlijk en is die altijd een proces van lange duur, zegt onderzoekster Maaike Verbruggen. ‘Zulke onderhandelingen duren vaak jaren of zelfs decennia.’ Ook de onderhandelingen over landmijnen, in de jaren ‘90, en clustermunitie, in 2008, sleepten jaren aan. In beide gevallen boen besloot een groep landen om te onderhandelen buiten het kader van de Conventie op Bepaalde Conventionele Wapens en onderling verdragen te sluiten.

Die optie, onderhandelen buiten het bestaande internationale verdrag, ligt ook nu weer op tafel volgens het persbericht van Stop Killer Robots. Selleslach: ‘De druk om een verdrag te sluiten is zo hoog dat het bijna niet anders kan dat landen naar een andere oplossing gaan zoeken.’

Ook al maken militaire grootmachten als de Verenigde Staten in dat geval geen deel uit van een verdrag: zo’n extern onderhandelingsproces kan toch invloed hebben op het gedrag van die mogendheden. Verbruggen: ‘Ook landen die eerst kritisch waren over het verbod op landmijnen en clustermunitie, zoals Frankrijk en het Verenigd Koninkrijk, zijn uiteindelijk ook meegegaan in dat verbod. En de Verenigde Staten zijn veel minder van deze wapens gaan produceren en gebruiken, ook al is het land geen lid van deze conventies.’