Een nieuwe opzet met Anthropic’s AI-model Claude, onder de naam “Claude Mythos”, toont in recente tests dat het systeem kwetsbaarheden sneller kan uitbuiten dan menselijke pentesters. Het gaat om geautomatiseerde hacktaken in een gecontroleerde omgeving, gedeeld door beveiligingsonderzoekers online. Het doel is te laten zien hoe kunstmatige intelligentie offensieve security kan versnellen en standaardiseren. De Europese AI-verordening heeft gevolgen voor overheid en bedrijven die zulke systemen inzetten, vooral rond toezicht en verantwoord gebruik.
AI voert hacks sneller uit
Claude Mythos combineert de taalvaardigheden van Claude met stappenplannen voor hacktaken. Het systeem scant een doel, analyseert foutmeldingen en schrijft kleine scripts om zwakke plekken te testen. In demonstraties doorloopt het die cyclus in minuten, waar mensen er vaak langer over doen. De winst zit vooral in tempo en herhaalbaarheid.
De aanpak richt zich op bekende fouten, zoals verkeerde configuraties en simpele invoerfouten. Het model schrijft en verbetert testcode tot er resultaat is. Zo kan het sneller tot een werkende “exploit” komen, een stukje code dat een fout misbruikt. Menselijke controle blijft nodig om aannames en risico’s te toetsen.
De tool werkt het best in afgebakende scenario’s met duidelijke doelen. Bij complexe bedrijfsapplicaties neemt de foutkans toe. Ook hangt het resultaat af van de kwaliteit van logbestanden en documentatie. Zonder die context maakt het systeem eerder verkeerde keuzes.
Agent met hulpmiddelen
Claude Mythos functioneert als een “AI-agent”: een systeem dat een plan maakt en hulpmiddelen aanroept. Het voert stappen uit zoals informatie verzamelen, testverzoeken sturen en resultaten beoordelen. Daarna past het het plan aan en herhaalt de cyclus. Dit noemen onderzoekers een feedbacklus.
De agent gebruikt publiek beschikbare kennis, zoals beschrijvingen van bekende kwetsbaarheden (CVE’s). Een CVE is een gestandaardiseerde vermelding van een softwarefout. Door zo’n beschrijving te koppelen aan foutmeldingen, kan het systeem gerichte tests kiezen. Dat versnelt de zoektocht naar een passend aanvalspad.
De uitvoer blijft traceerbaar via logs en tussenstappen. Dat maakt het makkelijker voor securityteams om keuzes terug te kijken. Het helpt ook bij rapportages aan bestuur of audit. Deze transparantie is straks relevant onder de Europese AI-verordening.
Red teaming is het gecontroleerd aanvallen van een eigen systeem om zwakke plekken te vinden, met vooraf afgesproken spelregels en toestemming.
Beperkingen en veiligheidsrisico’s
De agent kan hallucineren: overtuigend klinkende maar onjuiste stappen voorstellen. Dat kost tijd en kan systemen onnodig belasten. Daarom is een sandbox nodig, een veilige testomgeving zonder toegang tot productie. Menselijke beoordeling blijft een harde eis.
Moderne webapplicaties hebben vaak extra bescherming, zoals een web application firewall. Die blokkeert verdachte patronen en vertraagt geautomatiseerde aanvallen. Daardoor werken rechttoe rechtaan scripts minder goed. Aanpassing aan het doel blijft vakwerk.
Ook ontstaan juridische en ethische risico’s bij verkeerd gebruik. Zonder expliciete toestemming is actief testen computervredebreuk. Organisaties moeten duidelijke afspraken hebben over scope, duur en data-opslag. Anders lopen zij én testers strafrechtelijke en civiele risico’s.
Europese AI-verordening gevolgen overheid
De AI-verordening (AI Act) verplicht aanbieders en gebruikers van algemene AI-modellen tot risicobeheersing en transparantie. Claude is een generiek taalmodel en valt onder die regels als “general-purpose AI”. Bij inzet in kritieke sectoren weegt toezicht zwaarder. Op het moment van schrijven worden verplichtingen in fases ingevoerd richting 2025–2026.
Voor overheden en vitale aanbieders betekent dit: documenteer doel, datastromen en menselijke controle. Log welke prompts en acties de agent uitvoert. Richt escalatie en noodstop in. Deze punten sluiten aan op bestaande NIS2- en audit-eisen in Europa.
In Nederland spelen daarnaast de AVG en sectorregels. Testdata moeten worden geminimaliseerd en waar mogelijk gepseudonimiseerd. Deel geen persoonsgegevens met externe AI-diensten zonder grondslag en verwerkersafspraken. Versleuteling en bewaartermijnen horen in het testplan.
Nederlandse juridische kaders
Actieve penetratietesten zonder toestemming zijn in Nederland strafbaar onder artikel 138ab Sr (computervredebreuk). Werk daarom met een pentestcontract of een Responsible Disclosure-beleid. Het Nationaal Cyber Security Centrum (NCSC) en het Dutch Institute for Vulnerability Disclosure (DIVD) bieden richtlijnen. Die afspraken bepalen wat mag, wanneer en hoe wordt gerapporteerd.
Voor publieke instellingen geldt extra zorgplicht. Denk aan logging, bewaartermijnen en melding bij ernstige incidenten. Bij gebruik van een cloudgebaseerde AI-dienst moeten ook datalocatie en toegang door derden worden geregeld. Dit voorkomt discussies over soevereiniteit en export van gegevens.
Ook licenties en eigendom van gegenereerde code vragen aandacht. Leg vast wie scripts mag gebruiken en onder welke voorwaarden. Dit voorkomt hergebruik buiten de afgesproken scope. Zo blijft de keten controleerbaar.
Wat organisaties nu doen
Begin met een pilot in een afgesloten testomgeving. Beperk de scope tot laagrisico-doelen en bekende kwetsbaarheden. Leg alle stappen vast en beoordeel resultaten met twee paar ogen. Zo leert het team wanneer de agent helpt en wanneer niet.
Update beleid voor red teaming en Coordinated Vulnerability Disclosure. Stel eisen aan leveranciers van AI-diensten over logging, datagebruik en modelversies. Vraag expliciet of trainingsdata worden verrijkt met testlogs. Dit voorkomt ongewenste datadeling.
Combineer klassieke scanners met AI voor triage en rapportage. Laat het model bevindingen clusteren, bewijsstukken ordenen en adviesteksten schrijven. Houd het uit productie tot de controles op orde zijn. Zo benut je snelheid zonder de grip te verliezen.
