Cassandra Oostrom Tech 19 jun 2026, 08:52

Leestijd: 1 minuut

ChatGPT-beveiliging gekraakt? Onderzoekers tonen hoe AI alsnog geweld- en seksbeelden maakt

ChatGPT bleek minder goed beveiligd dan gedacht: onderzoekers van de Britse AI-beveiliger Mindgard wisten de AI met een ogenschijnlijk onschuldige opdracht expliciete beelden te laten maken.

OpenAI, het bedrijf achter ChatGPT, zegt tegen de BBC inmiddels extra beveiligingen te hebben toegevoegd om dit soort afbeeldingen tegen te gaan.

Hoe wist Mindgard de ChatGPT-beveiliging te omzeilen?

Mindgard ontdekte de kwetsbaarheid tijdens zogenoemde ‘red teaming‘, waarbij onderzoekers bewust proberen de grenzen van AI-systemen op te zoeken om zwakke plekken bloot te leggen. Volgens het bedrijf was geen ingewikkelde of expliciete opdracht nodig om de beelden te genereren. De onderzoekers zeggen dat ChatGPT uit zichzelf afbeeldingen maakte met geweld, verwondingen en seksuele elementen.

Peter Garraghan, oprichter van Mindgard en hoogleraar computerwetenschappen aan Lancaster University, noemt dat zorgwekkend. „Het gaat om een ogenschijnlijk onschuldige instructie, maar het resultaat kan zeer problematische beelden opleveren.”

OpenAI grijpt in

Nadat de BBC OpenAI om een reactie vroeg, voerde het bedrijf aanvullende maatregelen door. Volgens OpenAI zijn er meerdere veiligheidslagen aanwezig om te voorkomen dat gebruikers afbeeldingen laten genereren die in strijd zijn met de regels van het platform. „Na onderzoek naar deze methode hebben we extra beveiligingen toegevoegd”, laat het bedrijf weten. Toch zeggen de onderzoekers dat aangepaste varianten van dezelfde opdracht nog steeds problematische resultaten kunnen opleveren.

Kat-en-muisspel tussen AI-bedrijven en onderzoekers

Volgens experts laat de ontdekking zien hoe lastig het blijft om AI-systemen volledig veilig te maken. Zodra bedrijven nieuwe beveiligingen toevoegen, zoeken onderzoekers en kwaadwillenden weer naar manieren om die te omzeilen.

AI-expert en onderzoeker Rumman Chowdhury, die niet betrokken was bij het onderzoek, noemt het in gesprek met de Britse krant een voortdurend kat-en-muisspel. „Modellen begrijpen geen intentie, context of wat moreel juist of onjuist is. Ze voorspellen simpelweg wat waarschijnlijk het volgende antwoord moet zijn.”

Dit zijn de best gelezen artikelen van dit moment:

• Annemarie van Gaal ziet oplossing voor het woningtekort: ‘Zet Nederlanders die kúnnen werken aan het werk’
• Verkeersboetes 2027 fors hoger: 450 euro voor je telefoon en 330 euro voor rood licht
• Ontstekingen bij overgewicht kunnen gezonde keuzes lastiger maken: ‘Biologische factoren werken je actief tegen’
• Is dure shampoo echt beter? Keuringsdienst komt met verrassend advies over de eerste 5 ingrediënten
• WCRF ziet kanker toenemen bij Nederlanders onder de 50: vooral deze 4 soorten vallen op

Geschreven door Cassandra Oostrom

Cassandra heeft Journalistiek gestudeerd en spendeert graag tijd aan het lezen van andermans schrijfwerk, van fictie tot autobiografieën. Daarnaast is ze altijd al geïnteresseerd geweest in de wereld en maatschappelijke onderwerpen. Die twee passies combineert ze graag met haar liefde voor reizen.

Reacties