Stel je een moderne strijdsituatie voor waarin een apparaat zonder menselijke tussenkomst een doelwit identificeert en uitschakelt. In zulke scenario’s, waarin bijvoorbeeld een soldaat het laatste moment wil kapituleren of een brug plots vol vluchtelingen stroomt, is er geen ruimte meer voor menselijke nuance als de beslisser een algoritme is. Deze hypothetische, maar steeds realistischer wordende, situaties vormen de kern van wat diplomaten en experts in Genève bespreken. De Nederlandse ambassadeur voor ontwapening fungeert daar als coördinator van een werkgroep van specialisten uit meer dan honderd landen, met als doel kaders te ontwikkelen voor het gebruik van autonome wapensystemen en daarmee de humanitaire risico’s te beperken.
De gesprekken in Genève vinden plaats in een sobere, tijdelijke zaal waar honderden vertegenwoordigers urenlang de vraag afpellen welke toepassingen van kunstmatige intelligentie in oorlogsvoering acceptabel zijn. Conflicten in Oekraïne, Gaza en andere regio’s tonen hoe snel de technologie het slagveld verandert, bijvoorbeeld door drones die zelfstandig doelen herkennen of uitvoeren. Een concreet voorbeeld is de drone die geprogrammeerd is om tientallen soorten objecten te herkennen en uit te schakelen; zo’n toestel begint pas met handelen na activatie door een mens, maar opereert daarna zelfstandig. Experts wijzen erop dat bestaande regels deels toepasbaar zijn, maar dat sommige systemen zo onvoorspelbaar zijn dat een expliciet verbod op de gevaarlijkste varianten soms noodzakelijk lijkt.
Waarom het onderwerp zo urgent is
De snelheid waarmee AI en automatisering militaire tactieken veranderen, creëert een kloof tussen wetgeving en technologie. Waar internationale verdragen zoals die voor mijnen en chemische wapens duidelijke kaders bieden, ontstaan nu nieuwe vraagstukken over aansprakelijkheid, toetsing en controle wanneer machines zelfstandig slachtoffers bepalen. Er is een reëel risico dat een systeem fouten maakt bij doelidentificatie, waardoor civiele burgers of hulpgoederen ten onrechte als militaire doelen worden gezien. Het debat draait niet alleen om technische mogelijkheden maar vooral om de vraag hoe je de menselijke waardigheid en het humanitair oorlogsrecht beschermt als beslissingen worden geautomatiseerd.
Technisch gezien hangen veel zorgen samen met het begrip onvoorspelbaarheid van complexe algoritmen: systemen leren van data, passen zich aan en kunnen in nieuwe omstandigheden anders reageren dan gepland. Die dynamiek maakt controle lastig en vergroot de kans op onbedoelde escalatie. Tegelijkertijd benadrukken deskundigen dat diplomatie tijd nodig heeft om stevige, internationaal draagvlak vindende regels te bouwen. Hoewel de ontwikkeling op het slagveld razendsnel gaat, is zorgvuldig overleg essentieel om later handhaafbare afspraken te hebben die niet makkelijk door technische achterpoortjes kunnen worden omzeild.
De onderhandelingen in Genève en hun opzet
De werkgroep in Genève bestaat uit vertegenwoordigers van 128 landen en debatteert over praktische en juridische grenzen. In een grijze zaal zonder daglicht bespreken ongeveer 300 deelnemers de vraag welke systemen nog binnen de grenzen van internationaal recht vallen en welke systemen problematisch genoeg zijn voor aanvullende regels. Belangrijke vragen zijn onder meer: wat mag een mens inschakelen en wat mag de machine autonoom beslissen, en hoe definieer je volledig autonome systemen zodat landen weten welke technologie onder een verbod zou kunnen vallen. Het doel is niet alleen tekst produceren, maar ook consensus vinden over toetsbare criteria.
Deelnemende landen en de politieke dynamiek
Onder de deelnemers zijn militaire grootmachten en potentiële tegenstanders zoals Rusland, China, India en de Verenigde Staten, naast westerse landen en NGO’s. Het betrekken van uiteenlopende partijen is bewust: alleen met brede deelname krijg je regels die ook in conflictsituaties kans van slagen hebben. De Nederlandse coördinator benadrukt dat dit geen eenvoudige klus is, omdat defensiebelangen, technologische concurrentie en zorg over humanitaire gevolgen elkaar kruisen. Diplomatieke terughoudendheid en zorgvuldigheid worden gezien als voorwaarden om tot duurzame afspraken te komen.
Mogelijke uitkomsten en vervolgstappen
De onderhandelingen kunnen leiden tot verschillende resultaten: verheldering van bestaande verplichtingen onder het internationaal recht, toevoeging van nieuwe regels of zelfs een nieuw verdrag dat bepaalde typen systemen verbiedt. Veel experts pleiten voor een expliciet verbod op de meest onvoorspelbare en gevaarlijke systemen, omdat die moeilijk te controleren en te begrijpen zijn. Een gezamenlijk standpunt is inmiddels duidelijk: geen enkel land wil systemen die volledig zelfstandig over leven en dood beslissen. In november wordt werk geëvalueerd tijdens een toetsingsconferentie, een moment waarop besloten kan worden over de vervolgroute en mogelijke aanvullende maatregelen.
Uiteindelijk draait het om de balans tussen technologische innovatie en menselijke controle. De onderhandelingen in Genève zijn een poging om die balans internationaal vast te leggen voordat autonome systemen een al te dominante rol op het slagveld gaan spelen. Of dat lukt, hangt af van politieke wil, technische toetsbaarheid van regels en de bereidheid van landen om samen te werken aan duidelijke, handhaafbare normen voor autonome wapensystemen.
