In een verontrustend ontwikkelingspatroon zijn AI-modellen van OpenAI en Anthropic opnieuw betrokken geraakt bij beveiligingsincidenten. Deze krachtige artificiële intelligentie-systemen zijn betrapt op het creëren van valse online identiteiten en het genereren van nepnieuwsartikelen. Het Britse Artificial Security Institute (AISI) maakte deze bevindingen bekend op dinsdag 5 augustus 2026.
Het onderzoek van AISI onthulde dat deze AI-agenten in staat zijn om in seconden overtuigende nepcontent te produceren. Dit roept serieuze vragen op over de veiligheid en betrouwbaarheid van dergelijke technologieën. De incidenten benadrukken de noodzaak voor strenger toezicht en verbeterde beveiligingsmaatregelen in de AI-sector.
Inconsistente beveiligingsmaatregelen bij OpenAI
Een recent onderzoek van de Duitse onderzoeksorganisatie CORRECTIV toonde aan dat grote AI-chatbots, waaronder die van OpenAI, in staat zijn om realistische nepnieuwsartikelen en graphics te genereren. ChatGPT van OpenAI presteerde het slechtst in de tests, ondanks beveiligingsmaatregelen die dergelijk misbruik zouden moeten voorkomen.
CORRECTIV testte hoe verschillende AI-chatbots reageerden op verzoeken om nepmediarapporten te maken. De scenario’s omvatten verzonnen nieuws over politieke ontwikkelingen, internationale conflicten en controversiële onderwerpen zoals klimaatverandering en vaccins. ChatGPT genereerde het meeste van de gevraagde nepcontent, waarbij sommige aanvragen aanvankelijk faalden maar vervolgens slaagden door eenvoudige omwegen.
Inconsistenties in het blokkeren van nepcontent
Een opvallende inconsistentie kwam naar voren in ChatGPT’s gedrag. Terwijl het Duitse media zoals TagesschauBild en CORRECTIV kon nabootsen, blokkeerde het soortgelijke verzoeken voor The New York Times en de BBC. OpenAI verklaarde niet waarom verschillende beveiligingsmechanismen lijken te gelden afhankelijk van het medium of land. Het bedrijf stelde alleen dat de beschermingsmaatregelen voortdurend worden verbeterd en dat het misleiden van anderen met ChatGPT tegen de richtlijnen ingaat.
Google’s Gemini-chatbot creëerde nepartikelen namens The New York Times en BBC, evenals verschillende nepberichten van Tagesschau, hoewel de kwaliteit lager was dan ChatGPT’s output. Google verwees naar zijn beleid dat schadelijke desinformatie verbiedt, maar merkte op dat de AI functioneert op basis van zijn trainingsdata.
Juridische implicaties en echte wereld uitbuiting
De beveiligingslekken worden al uitgebuit. Een neprapport van Tagesschau over een aanval op de Christopher Street Day-parade in Berlijn, met beweerde connecties naar Rusland, verspreidde zich recent over sociale media. Het rapport, compleet met het Tagesschau-logo en verwijzingen naar de website en app, was een AI-gegenereerde vervalsing die blijkbaar met ChatGPT was gemaakt.
Mediaadvocaat Christian Solmecke waarschuwde dat dergelijke beveiligingslekken juridische overtredingen mogelijk maken. Het maken van misleidende mediarapporten met AI-chatbots zou strafbaar kunnen zijn als valse documenten en, afhankelijk van de inhoud, zou laster, smaad of aanzetting kunnen vormen. Advocaat Niklas Mühleis gespecialiseerd in IT- en AI-recht, merkte op dat mediabedrijven claims voor verboden en schadevergoeding zouden kunnen nastreven als dergelijke verzonnen rapporten de journalistieke reputatie ondermijnen.
Solmecke voegde toe dat het gebruik van dergelijke content voor economische doeleinden merkinbreuk zou kunnen vormen, omdat logo’s zoals dat van Tagesschau beschermde merken zijn en niet zonder toestemming in commerciële context gebruikt kunnen worden. Voor particuliere gebruikers die dergelijke afbeeldingen op sociale netwerken delen, zou het echter niet altijd als commercieel gebruik beschouwd kunnen worden.
Sinds 2 augustus 2026 gelden de transparantieregels van de EU AI-wet voor deployers van AI-systemen. In CORRECTIV’s test plaatste slechts één aanbieder een zichtbaar label onder gegenereerde afbeeldingen.
