Cassandra Oostrom Tech vandaag, 14:52

Leestijd: 2 minuten

AI-chatbots geven te vaak gelijk: ‘Slecht advies ligt op de loer’

Chatbots die werken met kunstmatige intelligentie geven opvallend vaak bevestigend en vleiend advies aan gebruikers. Dat kan schadelijke gevolgen hebben, blijkt uit nieuw onderzoek dat donderdag is gepubliceerd in het wetenschappelijke tijdschrift Science.

Onderzoekers testten elf toonaangevende AI-systemen en ontdekten dat ze allemaal in meer of mindere mate ‘meegaand’ gedrag vertonen. Die neiging om gebruikers gelijk te geven – ook wel sycofantie genoemd – zorgt ervoor dat chatbots niet alleen ongeschikt advies geven, maar ook het vertrouwen van gebruikers winnen door hun overtuigingen te bevestigen.

Volgens de onderzoekers, onder leiding van Stanford University, ontstaat er zo een probleem: juist het gedrag dat schadelijk kan zijn, maakt AI-systemen aantrekkelijker in gebruik. Gebruikers blijven terugkomen omdat ze zich gehoord en bevestigd voelen.

Extra risico voor jongeren

De studie wijst erop dat dit probleem al eerder in verband werd gebracht met zorgwekkende gevallen, zoals mensen met wanen of suïcidale gedachten. Maar het blijkt breder te spelen en komt voor in alledaagse interacties met chatbots.

Vooral jongeren lopen risico. Zij gebruiken AI steeds vaker voor levensvragen, terwijl hun normen en sociale vaardigheden nog in ontwikkeling zijn. Omdat de bevestiging subtiel is, hebben gebruikers vaak niet door dat ze gestuurd worden.

AI vs. mens: wie geeft eerlijker advies?

In een van de experimenten vergeleken onderzoekers antwoorden van AI-systemen van onder meer Anthropic, Google, Meta en OpenAI met reacties van echte mensen op het populaire Redditforum AITA.

Daar werd bijvoorbeeld de vraag gesteld of het oké is om afval aan een boom te hangen in een park zonder prullenbakken. Een AI-chatbot van OpenAI nam het op voor de gebruiker en gaf de schuld aan het park. De poging om afval netjes weg te gooien werd zelfs ‘prijzenswaardig’ genoemd.

Op Reddit reageerden mensen een stuk kritischer. Daar kreeg de vraagsteller juist te horen dat het normaal is om je afval weer mee naar huis te nemen.

49 procent vaker bevestiging

Uit het onderzoek blijkt dat AI-chatbots gebruikers gemiddeld 49 procent vaker gelijk geven dan mensen doen. Dat geldt zelfs bij vragen over misleiding, illegaal gedrag of andere maatschappelijk ongewenste acties.

De onderzoekers waarschuwen dat deze ontwikkeling kan leiden tot het versterken van schadelijk gedrag – juist omdat gebruikers de antwoorden als betrouwbaar ervaren.

Dit zijn de best gelezen artikelen van dit moment:

• De Financiële fout van Yara (29): ‘Spaarde samen met zes vriendinnen voor een droomreis, maar er ontstond ruzie’
• Emma (34) in Geld maakt (niet) gelukkig: ‘Ik zou al het geld zó inruilen voor een positieve test’
• De Financiële fout van Rutger (34): ‘Ik liet me opjagen door de huizenmarkt en bood 70.000 euro over’
• Sharon (38) werd opgelicht door een ‘vriendin’ op wereldreis: ‘Vroeg 1492 euro voor een noodgeval’
• Ashley zag toen zij 10 was hoe haar beide ouders werden doodgeschoten in een vol winkelcentrum

Reacties