Dirk Gotink, Tweede Kamerlid voor Nieuw Sociaal Contract, waarschuwt voor risico’s van het AI-model Mythos. Hij roept op tot een “digitale dijkverzwaring” in Nederland. Het gaat om betere bescherming tegen misleiding en misbruik van algoritmen, met gevolgen voor overheid en toezicht onder de Europese AI-verordening. De waarschuwing volgt na nieuwe zorgen over desinformatie en deepfakes rond publieke taken.
NSC vraagt dijkverzwaring
Gotink stelt dat generatieve systemen zoals Mythos het makkelijker maken om geloofwaardige nepberichten te maken. Zulke modellen kunnen tekst, beeld of audio produceren die echt lijken. Dat vergroot de kans op manipulatie van burgers en op misbruik richting publieke diensten. Hij wil daarom snellere en zwaardere maatregelen van kabinet en toezichthouders.
Met digitale dijkverzwaring bedoelt hij een mix van techniek, regels en organisatie. Denk aan detectietools, duidelijke labels op synthetische media en strengere inkoop bij de overheid. Ook vraagt hij om betere crisisrespons rond online misleiding. Zo moet publieke schade vroeg worden ontdekt en beperkt.
Digitale dijkverzwaring: het systematisch versterken van cyber- en informatiebeveiliging tegen AI-gedreven misleiding, inclusief detectie, transparantie en strengere publieke waarborgen.
Mythos staat in dit debat symbool voor een nieuwe generatie datamodellen met hogere kwaliteit en lagere drempels. Zulke systemen zijn eenvoudig te bedienen en snel te schalen. Dat maakt ze nuttig, maar ook aantrekkelijk voor kwaadwillenden. Juist daarom wil NSC extra waarborgen voordat schade ontstaat.
Risico’s voor democratie
De zorgen richten zich op deepfakes en grootschalige desinformatie. Een overtuigend valse video of toespraak kan het nieuws domineren voordat factcheckers ingrijpen. Ook kunnen burgers onbedoeld foutieve informatie doorsturen. Dit tast vertrouwen in overheid en media aan.
Rond verkiezingen en beleid is de kwetsbaarheid groter. Gerichte campagnes met synthetische profielen kunnen groepen misleiden. Publieke instellingen kunnen overspoeld raken met nepverzoeken of gefingeerde documenten. Zo kan besluitvorming vertragen en worden middelen verkeerd ingezet.
Voor Nederland betekent dit dat zowel Rijk als gemeenten hun communicatieveiligheid moeten verhogen. Officiële uitingen moeten sneller verifieerbaar zijn, bijvoorbeeld met digitale handtekeningen of watermerken. Burgers hebben baat bij duidelijke kanalen om twijfelachtige content te melden. Dit vraagt om training, tooling en heldere procedures.
EU AI-verordening als kader
De Europese AI-verordening (AI Act) zet verplichtingen uit voor aanbieders en gebruikers van AI. Deepfakes moeten herkenbaar zijn en duidelijk gelabeld. Praktijken die kwetsbaarheden van groepen uitbuiten voor politieke beïnvloeding zijn verboden. Voor generatieve basismodellen (GPAI) gelden documentatie- en risicobeperkingen.
De regels treden gefaseerd in werking vanaf 2024 tot 2026, op het moment van schrijven. Overheden vallen daarnaast onder bestaande plichten uit de AVG en informatiebeveiligingsstandaarden. Nederland moet besluiten welke toezichthouders handhaven en hoe audits worden ingericht. Dit vraagt om tijdige richtlijnen voor markt en publieke sector.
Voor modellen zoals Mythos betekent dit meer transparantie over trainingsdata, risico’s en beveiliging. Leveranciers moeten misbruikscenario’s ondervangen met technische en organisatorische maatregelen. Gebruikers in de publieke sector moeten controleren of het systeem binnen de EU-eisen valt. Zonder die checks is inzet risicovol en mogelijk onrechtmatig.
AVG stelt grenzen aan data
De AVG vereist dat organisaties data minimaliseren en een rechtmatige grondslag hebben. Training of gebruik van een model met persoonsgegevens moet doelgebonden en goed beveiligd zijn. Gezichts- of stemdata gelden vaak als bijzonder gevoelig. Opslag en verwerking vragen daarom om extra waarborgen.
Voor overheden kan een Data Protection Impact Assessment (DPIA) verplicht zijn. Zeker als het systeem grootschalige of gevoelige gegevens verwerkt. Ook moet helder zijn welke data Mythos of vergelijkbare modellen gebruiken. Onduidelijkheid verhoogt juridische en veiligheidsrisico’s.
Transparantie naar burgers is eveneens noodzakelijk. Organisaties moeten kunnen uitleggen wat het algoritme doet en welke data het gebruikt. Ook moet er een menselijke toets zijn bij belangrijke besluiten. Dat helpt fouten en discriminatie te voorkomen.
Aanpak voor Nederlandse overheid
Kortetermijnstappen kunnen de digitale dijk al verhogen. Zet detectietools voor deepfakes centraal in bij Rijk en gemeenten. Gebruik open standaarden voor herkomst en integriteit, zoals C2PA-watermerken. Maak officiële publicaties en video’s direct verifieerbaar voor burgers en media.
Leg inkoopregels vast: geen inzet van AI-systemen zonder risicobeoordeling, logging en onafhankelijke audit. Vraag leveranciers van modellen zoals Mythos om duidelijke documentatie en misbruikbeperking. Test systemen met red-teaming voordat ze live gaan. Documenteer bevindingen en acties.
Versterk tenslotte de crisisorganisatie rond desinformatie. Zorg voor snelle meldkanalen, heldere debunk-protocollen en publiekscommunicatie. Werk hierbij samen met toezichthouders en kennisinstellingen. Zo blijft innovatie mogelijk, terwijl de samenleving beter beschermd is.
