Een Belgisch wetsvoorstel voor een verbod op 'killer robots' raakte op de valreep niet gestemd. Internationaal groeit daarover nochtans een consensus.
Op 17 april keurde de Kamercommissie voor Landsverdediging een wetsvoorstel goed dat een verbod afkondigt op volledig autonome wapensystemen, zogenaamde ‘killer robots’. Even leek het erop dat België het eerste land zou worden dat een dergelijk verbod invoert. Het wetsvoorstel haalde echter de plenaire vergadering niet omdat de N-VA in de Kamercommissie een tweede lezing vroeg die uiteindelijk nooit plaatsvond. Op internationaal vlak zit de discussie over een verbod nochtans in een stroomversnelling.
Wapens met rudimentaire autonome functies bestaan al tientallen jaren. Landmijnen opereren als het ware autonoom na activering op basis van ontstekingsmechanismen. Raketafweersystemen maken gebruik van meer geavanceerde technologie om autonoom doelen te detecteren en te vuren of om waarschuwingen te geven. Dergelijke wapensystemen werden voor het eerst in de jaren 1980 ontwikkeld, meestal voor defensieve doeleinden.
Artificiële intelligentie
In de snelle ontwikkeling van artificiële intelligentie (AI) zag de wapenindustrie brood voor tal van militaire toepassingen. Voor alle duidelijkheid: het gebruik van AI is geen voldoende criterium om te spreken van autonome wapensystemen. Zo kan AI ondersteunend werken in wapensystemen die a priori door mensen worden bediend zonder dat de systemen een autonome beslissingscapaciteit hebben om te vuren.
Autonome wapensystemen maken daarentegen gebruik van kunstmatige intelligentie (AI) om menselijke doelwitten te identificeren, selecteren en doden zonder menselijke tussenkomst. Terwijl in het geval van onbemande militaire drones de beslissing om een leven te nemen op afstand wordt genomen door een menselijke operator -al kan de selectie van een doelwit wel gebaseerd zijn op AI- wordt die beslissing bij autonome wapens alleen genomen door algoritmes.
Belgisch verbod haalt het net niet
Het lijkt evident dat mensenlevens niet in handen worden gelegd van machines, maar toch stemden N-VA en het Vlaams Belang tegen een door Vooruit ingediend wetsvoorstel dat voorziet in een verbod. Volgens N-VA was er een probleem met de wetgevende kwaliteit. De Vlaams-nationalisten uitten ook de vrees dat ons land de technologische evolutie zou missen waardoor ‘waardevolle’ jobs zouden kunnen verloren gaan.
Volgens Kris Verduyckt van Vooruit, die al jaren bezig is met een wetgevend initiatief rond killer robots en daarvoor achter de schermen met succes werkte aan een meerderheid, heeft de N-VA ervoor gezorgd dat zijn wetsvoorstel uit de plenaire vergadering werd gehouden. Volgens Vooruit is er sprake van sabotage door de N-VA. De partijen wijzen elkaar met de vinger. Het resultaat is alleszins dat het wetsvoorstel net voor de eindmeet sneuvelde - een gemiste kans voor België om opnieuw een pioniersrol te vervullen.
België was in 1995 ook al het eerste land dat een verbod uitvaardigde voor antipersoonsmijnen. Op zijn website pakt het ministerie Buitenlandse Zaken graag uit met die ‘pioniersrol’ bij de totstandkoming van het internationaal verbodsverdrag voor antipersoonsmijnen (1997), waar ondertussen 164 landen partij van zijn. België was evenees het eerste land dat in 2006 een verbod op clustermunitie invoerde, met een ruime meerderheid in het parlement (slechts twee tegenstemmen). Een goedkeuring voor een verbod op uitermate controversiële autonome wapensystemen had deze pionierstraditie kunnen voortzetten. In een telefoongesprek zei Kris Verduyckt, die voor de komende verkiezingen opkomt voor het Vlaams Parlement, dat hij nog hoopt dat het wetsvoorstel in lopende zaken kan worden aangenomen.
Gruwelijk wapen
Killer robots zijn om verschillende redenen problematische wapens. Het is ethisch niet aanvaardbaar dat algoritmes beslissingsmacht krijgen over leven en dood. Machines herkennen mensen immers niet als mensen, maar als binaire data, van nullen en enen. Als machines moeten beslissen over leven en dood is dat een ultieme vorm van digitale ontmenselijking.
Het is ethisch niet aanvaardbaar dat algoritmes beslissingsmacht krijgen over leven en dood.
Er zijn ook heel wat juridische problemen. Killer robots kunnen niet ter verantwoording worden geroepen voor eventuele inbreuken op het internationaal recht. Ze zijn niet in staat burgers van militairen te onderscheiden. Zonder menselijke controle over autonome wapens wordt het moeilijker om de internationale rechtsregels te respecteren, omdat de interpretatie van de context -de afweging die moet worden gemaakt in specifieke omstandigheden- niet programmeerbaar is.
De ‘Groep van regeringsexperts’ van de VN-Conventie over Bepaalde Conventionele Wapens, die zich sinds kort intensiever bezighoudt met deze kwestie, benadrukt de regels en principes van het Internationaal Humanitair Recht, meer bepaald: “onderscheid (tussen militaire en burgerdoelwitten, nvdr), proportionaliteit en voorzorgsmaatregelen bij aanvallen, moeten worden gerespecteerd bij de ontwikkeling, inzet en gebruik van autonome wapensystemen.”
De oorlogsvoering op afstand – zoals met drones – heeft ervoor gezorgd dat de mens vaak fysiek verwijderd is van het gebruik van geweld en de gevolgen ervan op het terrein. Dit zal nog worden versterkt als autonome wapensystemen in toenemende mate worden ingezet. Staten willen doorgaans de risico’s voor de eigen troepen zo beperkt mogelijk houden omwille van de politieke risico’s die eraan verbonden zijn. Een hoog risico op eigen slachtoffers werkt immers remmend op de bereidheid om geweld te gebruiken. Het inzetten van autonome systemen die op afstand doden, zal de drempel voor oorlog en geweld dan ook verlagen. De effecten zijn minder zichtbaar en/of voelbaar voor de betrokkenen.
De ontwikkeling van nieuwe autonome wapensystemen zal ook investeringen in hoogtechnologische wapens en de wapenwedloop stimuleren. Het gaat om een potentieel lucratieve markt voor de wapenindustrie, maar het zal de belastingbetaler zijn die op kosten wordt gejaagd. Als een land dergelijke wapentechnologieën ontwikkelt en ontplooit, zullen andere landen zich verplicht voelen om te volgen.
De introductie van autonome wapensystemen kan vervolgens bestaande spanningen verder doen oplopen en de kans op conflicten vergroten. “We hebben meer menselijkheid nodig in onze internationale relaties, niet meer dehumanisering”, aldus de internationale campagne ‘Stop Killer Robots’.
Een internationaal verbod?
Bovenstaande en andere argumenten worden sinds enkele jaren naar voor geschoven om te pleiten voor een verbod op dodelijke autonome wapensystemen. De secretaris-generaal van de VN, António Guterres, dringt al sinds 2018 aan op een internationaal verbod. In zijn beleidsnota ‘A New Agenda for Peace’ (juli 2023) ter voorbereiding van de ‘Top van de Toekomst’ die op 22 en 23 september 2024 te New York zal plaatsvinden, is een internationaal verbod op dodelijke autonome wapensystemen als een van de aanbevelingen opgenomen.
Het gebrek aan specifieke multilaterale regelgeving heeft ertoe geleid dat er bij de ontwikkeling en gebruik van dergelijke wapens humanitaire, juridische, veiligheids- en ethische problemen opduiken, zo stelt de VN-nota van Guterres. “Ze vormen een directe bedreiging voor de rechten en fundamentele vrijheden. Machines met de macht en discretie om levens te nemen zonder menselijke tussenkomst zijn moreel verwerpelijk en politiek onaanvaardbaar en zouden verboden moeten worden onder het internationaal recht”, zo luidt het nog. Guterres wil tegen 2026 zo’n internationaal verbod realiseren.
De jongste maanden zijn er opvallende diplomatieke activiteiten rond autonome wapensystemen ontplooid. Eind 2023 stemde de Algemene Vergadering van de VN een resolutie waarin bezorgdheid wordt geuit over de ontwikkeling ervan en waarin de VN-secretaris-generaal werd gevraagd om een uitvoerig rapport op te stellen dat na de zomer op de volgende Algemene Vergadering van de VN zal worden besproken. De VS nam daarop in maart 2024 het initiatief voor een conferentie met deelnemers van een vijftigtal, voornamelijk westerse, staten, die zich eerder al geschaard hadden achter een verklaring voor “verantwoord gebruik van artificiële intelligentie en autonomie”.
De verklaring bevat een verzameling vrijwillige beperkingen op het gebruik van autonome wapensystemen. Op een bijeenkomst die Oostenrijk organiseerde in april 2024 -met deelnemers uit 144 landen- leek iedereen het er mee eens dat autonome wapens die niet kunnen ingezet worden in overeenstemming met het internationaal recht of die ethisch onaanvaardbaar zijn, expliciet moeten worden verboden. Voor andere autonome wapensystemen moet er volgens de meeste deelnemers regulerend worden opgetreden.
Er lijkt consensus te bestaan over het feit dat er afspraken en regels moeten worden gemaakt over de ontwikkeling en het gebruik van autonome wapensystemen. De discussie die we in het najaar mogen verwachten in de volgende Algemene Vergadering van de VN lijkt zich eerder toe te spitsen op vrijwillige maatregelen om de risico’s te beperken ofwel op een verbod voor killer robots en verplichtingen voor andere autonome wapensystemen. Ongetwijfeld mogen we ons daarbij ook verwachten aan discussies over definiëringen van wat een dodelijk (en dus onaanvaardbaar) autonoom wapensysteem is. In afwachting kan België nog altijd zijn ‘pioniersrol’ vervullen als het wetsvoorstel van Vooruit na de verkiezingen vlug ter stemming wordt voorgelegd.
Lees hier meer over de internationale campagne ‘Stop Killer Robots’