Het Britse cybersecuritybedrijf Sophos waarschuwt dat de opkomst van AI-agents het risico op identiteitsaanvallen en ransomware vergroot. De analyse richt zich op organisaties wereldwijd, met directe gevolgen voor Europa en Nederland. Het raakt ook de Europese AI-verordening (AI Act) en de “Europese AI-verordening gevolgen overheid”, omdat inzet van zulke systemen nieuwe plichten meebrengt. Criminelen kunnen met autonome systemen aanvallen sneller en gerichter uitvoeren.
AI-agents vergroten aanvalskracht
AI-agents zijn softwareprogramma’s die zelfstandig plannen maken en acties uitvoeren via tools en API’s. Ze bouwen vaak op een groot taalmodel, een algoritme dat woorden voorspelt en daardoor teksten kan begrijpen en schrijven. Door koppelingen met e-mail, browsers of bedrijfsapps kunnen ze veel taken tegelijk doen. Dat maakt zowel legitiem gebruik als misbruik krachtiger.
AI‑agenten zijn systemen die namens een gebruiker beslissingen nemen en stappen uitvoeren via gekoppelde tools, zonder constante menselijke sturing.
Aanvallers kunnen AI-agents inzetten om gerichte phishing te schrijven in foutloos Nederlands of een andere lokale taal. Het systeem verzamelt snel openbare informatie over een doelwit en past berichten daarop aan. Het kan ook automatisch valse inlogpagina’s genereren en testen. Zo ontstaan veel varianten in korte tijd, wat detectie lastiger maakt.
Het risico neemt toe als agents toegang krijgen tot gevoelige tools, zoals e-mail, bestandsopslag of een cloudconsole. Via zogeheten prompt-injectie kunnen aanvallers verborgen instructies in webpagina’s of documenten plaatsen die het agent misleiden. Het agent kan dan per ongeluk tokens, bestanden of klantgegevens prijsgeven. Een token is een digitaal toegangsbewijs dat een sessie of identiteit bevestigt.
Identiteitsaanval als startpunt
De meeste ransomware begint met een identiteitsaanval: het overnemen van een account. Dat kan via phishing, hergebruik van wachtwoorden of het stelen van sessiecookies. AI‑agents versnellen dit door inlogpogingen te automatiseren en beveiligingsvragen geloofwaardig te beantwoorden. Cloudidentiteiten zijn daarbij een geliefd doelwit.
In Europa en Nederland gebruiken veel organisaties platforms als Microsoft 365 en Google Workspace voor identiteit en e-mail. Dat maakt de impact van één gehackt account vaak groot, zeker met single sign-on. Aanvallers mikken op beheerdersaccounts en service-accounts met brede rechten. Kleinere leveranciers in de keten zijn daarbij een makkelijke ingang.
Social engineering blijft een belangrijke factor. Criminelen kunnen met AI realistische telefoonscripts of stemopnames maken om een helpdesk te misleiden. Zo forceren zij een reset van multifactor-authenticatie of vragen zij extra rechten aan. Zodra zij binnen zijn, volgt laterale beweging en voorbereiding op versleuteling.
Ransomware wordt efficiënter
AI‑agents helpen aanvallers om waardevolle data snel te vinden en te labelen. Het systeem kan mapstructuren en bestandsnamen scannen en prioriteit geven aan gevoelige documenten. Dit ondersteunt het dubbele of drievoudige afpersingsmodel: eerst stelen, dan versleutelen, daarna dreigen met publicatie. De druk op slachtoffers neemt daardoor toe.
Automatisering versnelt ook de technische uitrol van ransomware. Scripts voor verspreiding over het netwerk of het uitschakelen van back-ups kunnen door een agent worden voorbereid en getest. Met toegang tot beheertools gaat dit sneller en met minder fouten. Dat verkort de tijd tussen eerste toegang en daadwerkelijke schade.
Communicatie in het afpersingsproces wordt professioneler door AI. Onderhandelingsmails, “leak site”-teksten en persberichten verschijnen in meerdere talen en met consistente toon. Dit vergroot de geloofwaardigheid richting Europese doelwitten. Voor verdedigers wordt het moeilijker om echte en valse berichten te onderscheiden.
Verdediging vraagt om beleid
Organisaties hebben duidelijke spelregels nodig voor het gebruik van AI‑agents. Beperk standaard de rechten van agents en sta gevoelige acties alleen toe met menselijke goedkeuring. Houd een register bij van alle gekoppelde tools, datasets en machtigingen. Leg elke actie van een agent vast voor audit en forensisch onderzoek.
Identiteitsbeveiliging is de basis. Gebruik phishing‑resistente multifactor‑authenticatie, zoals FIDO2‑beveiligingssleutels. Pas “least privilege” en tijdgebonden beheerdersrechten toe, en roteer tokens en API‑sleutels regelmatig. Stel voor service‑accounts aparte, strengere regels op.
Technische maatregelen horen daarbij. Zet filters in tegen prompt‑injectie, beperk de context die een agent kan lezen en werk met goedgekeurde prompt‑templates. Isoleer agent‑verkeer en monitor uitgaand dataverkeer op exfiltratie. Test agents regelmatig met red‑teaming en simulaties van misbruikscenario’s.
AI-verordening en AVG sturen inzet
De Europese AI‑verordening (AI Act) stelt op het moment van schrijven gefaseerd eisen aan aanbieders en gebruikers van algemene AI‑systemen. Organisaties moeten risico’s documenteren, gebruik uitleggen en basisbeveiliging aantonen. Voor overheden en gereguleerde sectoren wegen deze plichten extra zwaar. Dit raakt direct de inzet van AI‑agents in IT‑beheer en beveiliging.
De AVG blijft leidend zodra een agent persoonsgegevens verwerkt. Dataminimalisatie, doelbinding, versleuteling en korte bewaartermijnen zijn verplicht. Een Data Protection Impact Assessment (DPIA) is vaak nodig vóór ingebruikname. Let ook op verwerkersovereenkomsten, doorgifte buiten de EU en de locatie van trainings- en logdata.
NIS2 verplicht essentiële en belangrijke entiteiten tot aantoonbaar risicobeheer en snelle incidentmelding, op het moment van schrijven in implementatie in Nederland. Het gebruik van AI‑agents valt daarmee onder bestuurdersaansprakelijkheid en toezicht. Organisaties moeten opnemen hoe zij misbruik van agents voorkomen en detecteren. Contracteisen aan leveranciers van AI‑functies worden daarmee strenger.
Wat organisaties nu kunnen doen
Begin met een inventarisatie: waar draaien al AI‑agents, zoals copilots, chatbots of RPA‑koppelingen. Bepaal per use‑case welke data de agent mag zien en welke acties zijn toegestaan. Zet gevoelige taken standaard op “mens in de lus”. Train medewerkers om geen vertrouwelijke data in prompts te plakken.
Versterk de basis van identiteitsbeheer. Voer phishing‑resistente MFA in, controleer toestemmingen van OAuth‑apps en schakel verouderde protocollen uit. Gebruik anomaliedetectie voor inloggedrag en stel drempels in voor massale acties. Plaats “honeytokens” om ongewenste toegang snel te zien.
Vraag leveranciers naar hun beveiliging en compliance. Hoe worden prompts, logs en klantdata opgeslagen, en wie kan erbij. Worden modellen fijn‑afgesteld op klantdata en zo ja, met welke garanties. Leg Europese eisen uit de AI‑verordening, AVG en NIS2 contractueel vast.