In een ongekend initiatief werken de grootste spelers in de wereld van kunstmatige intelligentie samen om de veiligheid van deze snelle groeiende technologie te waarborgen. OpenAI, Anthropic en Google DeepMind hebben hun krachten gebundeld om gezamenlijk maatregelen te ontwikkelen die de risico’s van AI moeten minimaliseren.
De samenwerking komt voort uit een groeiende bezorgdheid over de potentiële bedreigingen die AI kan vormen voor de economie en de maatschappij. De bedrijven erkennen dat de technologie, hoewel veelbelovend, ook significant risico’s met zich meebrigt.
De oproep voor wettelijke tests en toezicht
De ontwikkelaars van GPT-4Claude 3 en Gemini hebben een dringende oproep gedaan aan politici om verplichte veiligheidskeuringen in te voeren. Zij pleiten ervoor dat frontier-modellen de krachtigste datamodellen, pas live mogen gaan na onafhankelijke tests. Daarnaast vragen zij om licenties voor labs die zulke systemen trainen, wat betekent dat deze labs moeten voldoen aan specifieke veiligheidsnormen en regelmatig gecontroleerd worden.
Een van de belangrijkste maatregelen die de bedrijven voorstellen, is de implementatie van een noodknop die het mogelijk maakt om een model snel uit te schakelen in geval van nood. Daarnaast pleiten zij voor monitoring van rekenkracht en risicovolle functies, zoals het ontwerp van biologische agentia of geavanceerde cyberaanvallen. Audits door derden, zogeheten red-teams zijn ook een belangrijk onderdeel van hun voorstellen om fouten, misbruik en verlies van controle te voorkomen.
De huidige regelgeving in de Verenigde Staten
Op dit moment bestaat er in de Verenigde Staten nog geen brede AI-wet. Het Witte Huis heeft wel een Executive Order uitgevaardigd met richtlijnen en evaluaties via het NIST het nationale standaardisatie-instituut. Grote techbedrijven, waaronder Microsoft en Google hebben vrijwillige beloftes gedaan, maar deze zijn niet juridisch bindend.
De oproep van de ontwikkelaars is daarom ook praktisch: zij willen heldere, nationale minimumnormen. Denk aan standaardtests, incidentmelding en aansprakelijkheid bij schade. Dit moet innovatie mogelijk houden, maar met duidelijke randvoorwaarden. Het Center for AI Safety benadrukte in dat het verkleinen van het risico op uitsterving door AI wereldwijd een prioriteit moet zijn, naast andere maatschappelijke risico’s zoals pandemieën en kernoorlog.
De Europese AI-verordening en haar gevolgen
In Europa speelt de Europese AI-verordening (AI Act) een grote rol. Deze verordening is in werking getreden en geldt stapsgewijs vanaf 2025 en 2026. De wet verbiedt bepaalde toepassingen, zoals social scoring door overheden en bepaalde vormen van biometrische surveillance. Hoog-risicosystemen in zorg, onderwijs, werk en publieke diensten krijgen strenge plichten rond datakwaliteit, menselijk toezicht en registraties.
Voor algemene AI-modellen (GPAI) komen transparantie-eisen, zoals technische documentatie en samenvattingen van trainingsdata. Modellen met systemisch risico de allergrootste, getraind met zeer veel rekenkracht, moeten extra evaluaties doen en ernstige incidenten melden bij het Europese AI Office. Dit kantoor coördineert toezicht met nationale autoriteiten.
Voor Nederlandse overheden betekent dit dat zij vooraf impact moeten beoordelen, passende waarborgen moeten inbouwen en systemen moeten registreren. Ook inkoop verandert: contracten met leveranciers moeten voldoen aan de AI Act en de AVG, zoals dataminimalisatie en goede beveiliging. Boetes kunnen oplopen tot 7 procent van de wereldwijde omzet bij ernstige overtredingen.
In Nederland zullen meerdere toezichthouders taken krijgen bij de handhaving, gecoördineerd met Brussel. Publieke organisaties gebruiken nu al instrumenten zoals de IAMA (impacttoets op mensenrechten en algoritmen) en de DPIA onder de AVG. Steeds meer gemeenten en rijksdiensten publiceren algoritmen in een openbaar register.
Voor burgers blijft het recht op menselijke tussenkomst bij geautomatiseerde besluiten belangrijk. Overheidsdiensten moeten duidelijk maken wanneer een chatbot of beslissysteem wordt gebruikt. Transparantie en uitlegbaarheid zijn plicht, zeker bij hoog-risicosystemen.
Ook bestuurlijke processen veranderen. Bestuurders moeten risico’s actief wegen, incidenten kunnen melden en stoppen, en periodiek evalueren. Dit vraagt om nieuwe rollen, opleidingen en budget voor veilige implementatie.
