In de afgelopen weken is er een gezamenlijke juridische stap gezet door een klankbord van Amerikaanse deelstaten die zich zorgen maken over de manier waarop ChatGPT wordt gebruikt door minderjarigen. De collectieve aanklacht richt zich niet alleen op de technologie zelf, maar ook op de bedrijfspraktijken van OpenAI de ontwikkelaar van de populaire chatbot. Het streven van de staten is om concrete wijzigingen door te voeren die de blootstelling van kinderen aan potentieel schadelijke inhoud moeten beperken.
De staten die zich hebben aangesloten bij de rechtszaak zijn Iowa, Kansas en nog zes andere, waarvan de namen niet allemaal publiekelijk zijn bevestigd. Ze delen een gemeenschappelijke veronderstelling: dat de interacties met de AI-gestuurde chatbot kunnen leiden tot zelfbeschadigend gedrag bij kwetsbare jeugdige gebruikers. De aanklacht claimt dat de huidige productontwerpen onvoldoende bescherming bieden tegen zulke risico’s, waardoor een wettelijke plicht wordt geschonden om de gezondheid van minderjarigen te waarborgen.
Acht staten, waaronder Iowa en Kansas, brengen rechtszaak tegen OpenAI
De formele klacht, ingediend bij een federale rechtbank, beschuldigt OpenAI van het nalaten om algoritmische filters en ouderlijk toezicht voldoende te integreren in de gebruikerservaring van ChatGPT. Volgens de aanklagers maakt de chatbot gebruik van een brede taalmodelbasis die, wanneer onbeperkt toegankelijk, kinderen kan blootstellen aan advies of antwoorden die hun mentale welzijn ondermijnen. De betrokken staten eisen dat de firma onmiddellijk de functionaliteit aanpast en structurele waarborgen implementeert die voorkomen dat jongeren gedeelten van de dienst gebruiken die niet geschikt zijn voor hun leeftijd.
De aanklacht wordt ondersteund door een reeks van interne onderzoeksrapporten, die door de wetgevers zijn verkregen via openbare verzoeken. Deze rapporten geven aan dat er incidenten zijn gemeld waarbij zelfbeschadiging en suïcidale gedachten werden aangewakkerd nadat kinderen vragen stelden over methoden om zichzelf te verwonden. De staten beweren dat deze bevindingen voldoende bewijs leveren om een rechtsgrond te vormen voor een productwijziging en mogelijke schadevergoeding.
Kinderbescherming en de rol van ChatGPT: zorgen van de wetgevers
Naast de juridische argumentatie legt de groep nadruk op de ethische dimensie van kunstmatige intelligentie (AI) in de publieke sfeer. De wetgevers stellen dat de huidige regulering van digitale platforms niet is aangepast aan de snelle evolutie van AI-toepassingen, waardoor kinderen in een onzekere ruimte opereren. De staat Kansas, bijvoorbeeld, heeft al eerder wetgeving voorgesteld die de leeftijdsgrens voor toegang tot geavanceerde AI-diensten op 13 jaar zou zetten.
OpenAI heeft tot nu toe gereageerd met een verklaring waarin wordt benadrukt dat de chatbot is ontworpen met een reeks veiligheidsmechanismen, waaronder prompt-filtering en een content-moderatie-team. Het bedrijf benadrukt echter dat het continue leerproces van het model betekent dat geen enkel systeem 100 % waterdicht kan zijn. Desondanks heeft OpenAI aangegeven constructief in gesprek te gaan met de betrokken overheden om mogelijke verbeteringen te onderzoeken, zoals strengere leeftijdsverificatie en aangepaste dialoogmodi voor jonge gebruikers.
De uitkomst van deze rechtszaak kan een precedent scheppen voor hoe digitale AI-diensten worden gereguleerd in de Verenigde Staten en daarbuiten. Als de rechtbank de eisen van de staten bevestigt, kan dat de manier veranderen waarop bedrijven ChatGPT en andere generatieve modellen integreren in consumentenproducten, vooral wanneer die direct toegankelijk zijn voor minderjarigen. Bovendien kan het een domino-effect veroorzaken waarbij andere technologiebedrijven hun eigen kinderbeschermingsstrategieën herzien om toekomstige juridische confrontaties te vermijden.
Terwijl de juridische procedure zich ontvouwt, roepen zowel de staten als kinderbeschermingsorganisaties op tot een breed maatschappelijk debat over de balans tussen innovatie en veiligheid. Voor nu blijven ouders en opvoeders een cruciale rol spelen: door actief toezicht te houden op het digitale gedrag van hun kinderen, kunnen ze een extra laag van bescherming bieden naast de technische maatregelen die ontwikkelaars en wetgevers trachten te implementeren.
