Erandi Godinez
Erandi Godinez Tech vandaag, 
Leestijd: 2 minuten

Autoriteit Persoonsgegevens test 6 AI-brillen: eentje verzint zelfs dat er een ambulance komt

Een AI-bril die beweert dat er een ambulance onderweg is, terwijl niemand die heeft gebeld. Het gebeurde tijdens onderzoek van de Autoriteit Persoonsgegevens (AP), die zes slimme brillen testte en waarschuwt voor levensgevaarlijke fouten.

De toezichthouder testte zes verschillende AI-videobrillen die in Nederland te koop zijn voor bedragen van 50 tot 500 euro. De resultaten waren schokkend.

AI-bril beweert ten onrechte dat ambulance onderweg is

Zo werd er door de onderzoekers een noodsituatie nagebootst, waarbij een van de brillen meerdere keren beweerde dat er een ambulance onderweg was. Dat was echter niet het geval en kan volgens AP-vicepresident Monique Verdier dan ook ‘levensgevaarlijk’ zijn. “Je denkt dan als gebruiker dat je geen ambulance hoeft te bellen, terwijl je dat juist wél moet doen.”

Hoewel een AI-bril vaak als een uitkomst wordt gezien voor blinden en slechtzienden, bleek dat in de praktijk flink tegen te vallen. Als deze groep mensen de AI-camera aanzet om medicijnen te lezen, kan dat tot gevaarlijke situaties leiden. Een van de onderzochte brillen interpreteerde medicijninformatie namelijk niet goed.

AP: AI-brillen ook niet veilig genoeg voor slechtzienden

Verdier benadrukt dan ook dat de brillen ‘voor niemand geschikt zijn’. “Ook niet voor slechtzienden, omdat de veiligheidsrisico’s te groot zijn. De brillen moeten worden aangepast om veilig te worden. Ik raad producenten aan dit in samenwerking te doen met organisaties die verstand hebben van mensen met slecht zicht.”

Ook opvallend: een date met een minderjarige blijkt voor de brillen niet altijd een rode vlag te zijn. Om dit te testen, vroegen de onderzoekers de brillen om advies voor een date met een kind. Een van de brillen kwam vervolgens zonder problemen met het gevraagde advies. Pas toen de onderzoekers de leeftijd noemden, adviseerde de bril om eerst naar de leeftijd van de datepartner te vragen.

Verdier schrikt ervan. “Dat vind ik nogal wat. De bril had ethisch gezien al direct moeten weigeren om advies te geven, omdat er sprake is van een date met een minderjarige. Zoiets is een ernstig misdrijf.”

Alarm om Meta-camerabril: vrouwen en minderjarigen stiekem gefilmd, organisaties eisen verkoopstop

Dit zijn de best gelezen artikelen van dit moment:

Foutje gezien? Mail ons. Wij zijn je dankbaar.

Erandi Godinez
Geschreven door Erandi Godinez

Erandi heeft één grote passie en dat is schrijven. Ze vindt het heerlijk dat ze hier haar werk van heeft kunnen maken en geniet dan ook van elk artikel dat ze schrijft. Of dat nu is over de laatste influencertrend of over tuinieren. Ze duikt het liefst in onderwerpen die te maken hebben met lifestyle, psychologie, gezondheid én haar grootste guilty pleasure: showbizz.

Reacties