Hendriëlle de Groot Nieuws 6 feb 2025, 14:01

Leestijd: 4 minuten

Kabinet verbiedt DeepSeek voor ambtenaren: wat zijn de gevaren?

Het kabinet verbiedt ambtenaren om tijdens hun werk de nieuwe Chinese AI-tool DeepSeek te gebruiken. Dit geldt voor alle ministeries, meldt PVV-staatssecretaris Zsolt Szabóna na vragen over de nationale veiligheid. Wat zijn de gevaren van deze chatbot?

Er zijn al weken grote zorgen over de beveiliging en het privacy-beleid van de Chinese chatbot DeepSeek. Experts waarschuwen dat de informatie die via deze app wordt ingevoerd, wordt opgeslagen op Chinese servers en mogelijk toegankelijk is voor de Chinese overheid.

Verbod op gebruik van DeepSeek

De Taiwanese regering heeft al eerder haar overheidsinstellingen verboden deze AI-tool te gebruiken. Het Amerikaanse leger en Italiaanse toezichthouder Garante blokkeerden zelfs de toegang tot de app. In Australië heeft de overheid het gebruik van DeepSeek verboden, vanwege nationale veiligheidsrisico’s. De Australische minister van Binnenlandse Zaken, noemde de chatbot een ‘onacceptabel veiligheidsrisico’. In Nederland loopt nu een onderzoek, naar het doorspelen van persoonsgegevens naar China, volgens Autoriteit Persoonsgegevens (AP).

China is een van de landen met een ‘offensief cyberprogramma’ tegen Nederland. De Nederlandse overheid heeft beleid ontwikkeld, waarin staat welke apps wel of niet zijn toegestaan. In het huidige appbeleid is DeepSeek al niet toegestaan. Tegenover het AD maakte AI-deskundige Henk van Ess zijn zorgen kenbaar over DeepSeek.

Van Essen pleit voor een totaalverbod, dan wel strenge beperkingen, tot er bewijs is over de beveiliging. Zo zou DeepSeek vatbaar zijn voor schadelijke prompts, oftewel opdrachten om de chatbot aan te sturen. Dit betreft bijvoorbeeld instructies voor het maken van explosieven. Ook datalekken vormen een risico. RTL Nieuws meldde als eerste dat een miljoen vertrouwelijke chats onbeveiligd online zijn opgedoken. Metro schreef al eerder over de existentiële dreiging die uit zou gaan van AI.

Meer duidelijkheid over DeepSeek

De Autoriteit Persoonsgegevens (AP), toezichthouder voor privacy, laat weten dat persoonsgegevens van Europese burgers alleen onder strenge voorwendselen mogen worden doorgegeven naar landen buiten de EU. Of DeepSeek hieraan voldoet, is onduidelijk. Meer Europese toezichthouders willen duidelijkheid van DeepSeek. Zo heeft de Ierse Data Protection Commission, verantwoordelijk voor de handhaving van veel grote technologiebedrijven, al informatie van DeepSeek opgevraagd, zo meldt ANP.

Gebruik slimme chatbots populair bij overheid

Het gebruik van slimme chatbots is populair bij de overheid, blijkt uit een rondgang bij EenVandaag. 74 procent liet weten ChatGPT te gebruiken als informatiebron, voor het verbeteren van teksten die openhaar worden gepubliceerd of als sparringspartner. Het is onduidelijk hoeveel ambtenaren DeepSeek gebruiken. Ook onder bedrijven is AI populair, al zijn er wel zorgen dat kunstmatige intelligentie mensen gaat vervangen.

Wat is DeepSeek?

DeepSeek is een AI-chatbot, ontwikkeld door DeepSeek AI, een startup die in 2023 werd uitgebracht door een Chinese ondernemer. In tegenstelling tot de meeste AI-platforms is AI volledig gratis én open source. Deze toegankelijkheid heeft bijgedragen aan de populariteit. Inmiddels is DeepSeek een heuse concurrent van ChatGPT. De kosten van rekenkracht zouden aanzienlijk lager zijn, zonder dat dit ten koste gaat van de prestaties. Die zouden in sommige gevallen zelfs beter zijn, schrijft Express VPN.

Toegenomen gevaren als cyberdreiging

Binnen enkele weken na de lancering, werd DeepSeek een doorslaand succes. In no time werd het de hoogst beoordeeld gratis app in Apple’s Store, waarmee het ChatGPT voorbij streefde en wereldwijd in het nieuws kwam.

Het Chinese kunstmatige intelligentie (AI) bedrijf DeepSeek heeft internationale aandacht getrokken met zijn grote taalmodellen, die concurreren met grote namens als OpenAI’s GPT-4. Hoewel DeepSeek veel vooruitgang heeft geboekt in de AI-sector, brengt het ook de nodige risico’s en gevaren met zich mee. Zo zijn er meldingen geweest van een kritieke databaselek bij DeepSeek.

De populariteit van DeepSeek heeft een duidelijke keerzijde: toegenomen cyberdreigingen, waaronder phishing-aanvallen en de verspreiding van malware. Cybercriminelen maken misbruik van de naam en het platform, om gebruikers te misleiden.

Risico’s voor de veiligheid

Onderzoek heeft aangetoond dat DeepSeek’s AI-modellen kwetsbaar zijn voor ‘jailbreak’-aanvallen, waarbij de veiligheidsmaatregelen van de chatbot kunnen worden omzeild. In tests slaagde DeepSeek er niet in om schadelijke prompts te blokkeren.

Ook zijn er zorgen over de dataopslag en dan met name de overdracht van gebruikersgegevens naar China Mobile, een staatsbedrijf dat in de VS is verboden, vanwege mogelijke banden met het Chinese leger. Dit roept vragen op over privacy en veiligheid van gebruikersgegevens.

Is DeepSeek gevaarlijker dan ChatGPT?

Ook concurrent ChatGPT verzamelt gebruikersgegevens, volgt algemene gebruikerspatronen en slaat chatgegevens op. Toch monitort het je gedrag niet op dezelfde wijze als DeepSeek. DeepSeek kruist gegevens met externe bronnen. Dit betekent dat wat je doet buiten de chatbot, wordt bijgehouden. Er wordt een uitgebreid ‘gedragsprofiel’ opgebouwd, door gebruikersgegevens te combineren met mobiele ID’s, cookietracking en advertentiebronnen. Zelfs als je een bericht verwijdert voor verzending, heeft DeepSeek het al geregistreerd.

Deze gebruikersgegevens kunnen vervolgens worden gebruikt voor ‘hypergerichte advertenties’, om te voorspellen wat je gaat kopen, nog voor je ernaar zoekt. Persoonlijke voorkeuren kunnen worden gebruikt voor manipulatie en sociale of politieke profileren. DeepSeek leert van de gegevens die het verzamelt, daardoor ontstaat er een risico op desinformatie. In het verleden verzonnen AI-modellen valse juridische zaken. Ook werd er gevaarlijke gezondheidsinformatie gepromoot. Dit risico zou met DeepSeek nog groter zijn volgens privacy-experts.

Wat bedoelt je blaffende hond toch? Weten­schappers denken het te kunnen ontcijferen

Steeds meer mensen verlaten Whatsapp voor Signal: is dat veiliger?

Reacties