“Killer robots” zijn een kwalijke revolutie in oorlogsvoering van 21ste eeuw

Publieke weerstand tegen “killer robots” neemt toe

In de opiniepeiling van Human Rights Watch, uitgevoerd door opiniepeiler Ipsos, gaf 61 procent van de respondenten aan tegen dodelijke autonome wapens te zijn, 22 procent is er voorstander van en 17 procent wist het niet zeker. Bij een bijna identiek onderzoek een jaar eerder, in januari 1917, was 56 procent tegen, 24 procent voor en 19 procent onzeker.

“De publieke opinie over volledig autonome wapens verhardt”, concludeert Mary Wareham, coördinator van de Campaign to Stop Killer Robots van HRW. “Er is stevig politiek leiderschap nodig voor een nieuw verdrag dat deze wapensystemen preventief verbiedt.”

Volledig verbod

Tijdens de jaarlijkse Conventie inzake Conventionele Wapens (CCW) in november in Genève is besloten de gesprekken over killer robots voort te zetten zonder duidelijk doel of tijdschema om een verdrag te onderhandelen, zegt HRW.

Rusland, Israël, Zuid-Korea en de Verenigde Staten zeiden tijdens die bijeenkomst onderhandelingen voor een nieuw verdrag niet te zullen steunen. Deze landen, en China, investeren aanzienlijk in deze wapens.

Sinds 2013 hebben 28 landen opgeroepen tot een volledig verbod op autonome wapens. El Salvador en Marokko kwamen er in november bij. Oostenrijk, Brazilië en Chili hebben formeel voorgesteld om onderhandelingen te beginnen over een bindend instrument dat menselijke controle over wapensystemen garandeert. (IPS)

Meer dan drie op de vijf mensen zijn tegen wapensystemen die aanvallen kunnen uitvoeren zonder menselijke interventie, zogenoemde killer robots. Dat blijkt uit een opiniepeiling die mensenrechtenorganisatie Human Rights Watch (HRW) heeft gehouden in 26 landen (zie kader). Willem Staes, beleidsmedewerker bij Pax Christi Vlaanderen, en lid van de internationale Campaign to Stop Killer Robots, duidt op de gevaren bij de ontwikkeling van dergelijke wapensystemen.

1. Waar gaat het over?

Killer robots zijn gewapende drones op steroïden: moordmachines die volledig autonoom doelwitten kunnen selecteren en aanvallen, zonder betekenisvolle menselijke interventie. Wetenschappers die werken rond artificiële intelligentie (AI) stellen dat de ontwikkeling van zo’n killer robots geen kwestie meer is van decennia, maar van enkele jaren.

Deze wetenschappers, die tot de absolute top in hun vakgebied behoren, hebben het over de “derde revolutie in oorlogsvoering, na buskruit en kernwapens”. Ze waarschuwen ervoor dat bestaande wapensystemen steeds autonomer worden en dat de mens er steeds minder controle over uitoefent.

Momenteel ontwikkelen twaalf landen minstens 381 types (gedeeltelijk) autonome wapensystemen en militaire robots. De ontwikkeling van autonome wapens verloopt sluipenderwijs, zoals uitvoerig gedocumenteerd in een rapport van PAX Nederland. Al jaren kennen we wapensystemen die in meer of mindere mate geautomatiseerd zijn, die deels zelfstandig opereren zonder dat er een mens aan te pas hoeft te komen. Maar tot nu toe zijn dat vooral statische, geautomatiseerde systemen, die in een gestructureerde omgeving vooraf bepaalde doelen uitschakelen.

Anders wordt dat in het geval van zogenaamde loitering missiles, raketten die langere tijd kunnen rondvliegen op zoek naar een vooraf geprogrammeerd doelwit. Waar een deel van deze ‘kamikaze drones’ nog door een controller worden aangestuurd, is een duidelijke verschuiving zichtbaar naar steeds zelfstandig opererende raketten. Zo kan de Switchblade volgens zijn Amerikaanse producent AeroVironment zowel manueel als autonoom opereren, met “minimale ongewenste neveneffecten”; iets vergelijkbaars claimt het Poolse WB Electronics, maker van de Warmate.

Maar de ontwikkeling beperkt zich niet tot loitering missiles of kamikaze drones. Ook op het gebied van gevechtsvliegtuigen wordt geïnvesteerd in autonomie. Eerst verdwijnt de piloot uit het vliegtuig en vervolgens krijgt het vliegtuig steeds meer autonome functies: opstijgen en landen, autonoom bijtanken, enzovoort. Maar uiteindelijk ook aanvallen en doden.

Voorbeelden van de afgelopen jaren zijn de Amerikaanse X-47B (ontwikkeld door Northrop Grumman), de Franse nEUROn (Dassault) en het Britse Taranis (BAE Systems). Twee laatstgenoemden maken kans doorontwikkeld te worden als onderdeel van het Frans-Britse Unmanned Combat Air System (UCAS) programma.

2. Wat is het probleem?

Killer robots zijn hoogstwaarschijnlijk niet in staat om een onderscheid te maken tussen burgers en soldaten, of om in te schatten of een aanval proportioneel is in termen van het aantal burgerslachtoffers. Ze zijn daarom niet verenigbaar met het internationaal recht. Het Internationale Rode Kruis had het in 2011 al over een “monumentale programmeeruitdaging” die “misschien wel onmogelijk blijkt te zijn.”

“Killer robots” zijn hoogstwaarschijnlijk niet in staat om een onderscheid te maken tussen burgers en soldaten.

Killer robots verlagen ook de drempel om geweld te gebruiken en dreigen een nieuwe wapenwedloop te ontketenen. Het gevaar voor proliferatie naar niet-statelijke (terreur)actoren is bovendien reëel, terwijl deze wapensystemen ook kwetsbaar zijn voor hacking.

Daarnaast rijst de vraag wie verantwoordelijk kan worden gehouden als het mis gaat: de programmeur of de producent? Of slepen we binnenkort ook de robots zelf voor de rechter?

3. Welk beleid wordt er ontwikkeld?

Binnen het kader van de Conventie voor Conventionele Wapens (CCW) van de Verenigde Naties vinden besprekingen plaats over hoe de internationale gemeenschap moet omgaan met killer robots. In april en augustus 2018 kwamen in Genève VN-lidstaten bijeen voor diplomatiek overleg.

Ook Belgische diplomaten nemen deel aan deze besprekingen. In ons land nam het federale parlement in juli 2018 ook een resolutie aan die de regering opriep om binnen de VN actief te ijveren voor het opstarten van onderhandelingen voor een nieuw verbodsverdrag. De regering lapte de resolutie echter al volledig aan haar laars tijdens de VN-besprekingen in augustus 2018. Ze nam zo een loopje met de wil van het parlement.

In maart en augustus 2019 bespreken VN-lidstaten verder of er volgend jaar formele onderhandelingen worden opgestart om killer robots te verbieden. Indien het niet mogelijk is om binnen de CCW consensus te vinden over zo’n mandaat kunnen diplomatieke alternatieven onderzocht worden, zoals een doorverwijzing van de kwestie naar de Algemene Vergadering van de Verenigde Naties (waar de consensus regel niet geldt).

4. Wat denken wetenschappers en de industrie?

De afgelopen jaren spraken duizenden wetenschappers en experts zich duidelijk uit tegen killer robots. In december 2017 riepen 116 Belgische wetenschappers, onder wie 88 topexperts inzake robotica en artificiële intelligentie, de Belgische regering op om te werken aan een nationaal en internationaal verbod op killer robots. Deze oproep volgde op vergelijkbare initiatieven in Canada en Australië. In juli 2015 riepen ook al meer dan 3.500 internationale wetenschappers op tot een verbod.

Daarnaast laat ook de Artificial Intelligence (AI)-industrie zich niet onbetuigd. In juli 2018 ondertekenden meer dan 3.000 wetenschappers en 239 AI-bedrijven een open brief die beleidsmakers oproept om nieuwe wetgeving tegen killer robots aan te nemen. De AI-experts beloven in de brief ook om zelf niet mee te werken aan ontwikkeling, productie, handel of gebruik van killer robots. Een jaar eerder, in augustus 2017, publiceerden de CEO’s van 116 technologiebedrijven, onder wie Elon Musk, een oproep om killer robots te reguleren.

De ontwikkeling van killer robots in maart 2018 is “één van ’s werelds domste en slechtste ideeën”, aldus de CEO van het Amerikaanse robotica en AI-bedrijf Vicarious

In 2016 verklaarde het AI-bedrijf Google DeepMind aan het Britse Parlement dat een preventief verbod op killer robots de “beste aanpak” is om met deze wapensystemen om te gaan. In juni 2018 publiceerde Google ook een reeks ethische criteria, die moeten garanderen dat het bedrijf niet betrokken is in de ontwikkeling van killer robots. Daarnaast overweegt het Noorse Pensioenfonds, het grootste ter wereld, om investeringen in de ontwikkeling van killer robots te verbieden.

Ook individuele robotica- en AI-bedrijven als het Canadese Clearpath Robotics en het Amerikaanse Vicarious zien af van de ontwikkeling van killer robots. De CEO van Vicarious noemde de ontwikkeling van killer robots in maart 2018 “één van ’s werelds domste en slechtste ideeën”.

5. Wat denkt de Belgische bevolking ervan?

Een nieuwe peiling in 26 landen, die deze week gepubliceerd werd, toont dat 63 procent van de Belgische bevolking géén killer robots wil. De peiling bevestigt eerdere peilingen uit juli 2018 en januari 2017, waarin respectievelijk 60 en 62 procent van de Belgen zich uitsprak tegen de ontwikkeling en het gebruik van killer robots.

Het “overschrijden van een morele grens” (69 procent) wordt aangeduid als voornaamste reden voor de Belgische afkeer van killer robots. Daarnaast wordt verwezen naar het gebrek aan verantwoording van deze moordmachines (48 procent), het risico op technisch falen (47 procent), de onverenigbaarheid met het internationaal recht (18 procent) en de hoge kostprijs (17 procent).

Het publieke sentiment tegen killer robots neemt dus dag na dag toe. Dat is niet verwonderlijk. Killer robots zullen een kwalijke revolutie veroorzaken in de oorlogsvoering van de 21ste eeuw: machines beslissen over leven en dood. De Belgische regering moet dit zoveelste publieke signaal ernstig nemen en eindelijk duidelijk maken aan welke kant van de geschiedenis ze wil staan.

Willem Staes is beleidsmedewerker bij Pax Christi Vlaanderen, en lid van de internationale Campaign to Stop Killer Robots. Hij neemt regelmatig deel aan de VN-besprekingen over killer robots in Genève.