De Gentse startup Enoki introduceert deze maand een ‘hacker‑agent’ die andere AI‑agenten automatisch aanvalt om zwakke plekken te vinden. Het systeem moet misbruik, datalekken en foutieve acties voorkomen in bedrijfssoftware. Enoki richt zich op organisaties in België en Nederland die agenten inzetten voor werkprocessen. De stap is relevant nu de Europese AI‑verordening en de AVG strengere eisen stellen aan veilige en transparante algoritmen.
Hacker-agent vindt zwaktes
De ‘hacker‑agent’ van Enoki werkt als een geautomatiseerd rood team: een testaanvaller die AI‑agenten uitdaagt. Het systeem probeert onder meer promptinjecties, jailbreaks en datadiefstal te forceren. Na elke test levert het rapporten met kwetsbaarheden en aanbevelingen. Zo kunnen teams hun modellen en beveiligingsinstellingen gericht aanscherpen.
Een AI‑agent is software die namens een gebruiker acties uitvoert, zoals e‑mails sturen, documenten openen of API’s aanroepen. Daardoor is de impact van een succesvolle aanval veel groter dan bij een gewone chatbot. De hacker‑agent simuleert realistische scenario’s, bijvoorbeeld kwaadaardige webcontent of gemanipuleerde bijlagen. Daarmee komt aan het licht waar extra controle, sandboxing of toegangsbeperking nodig is.
Enoki positioneert de tool voor ontwikkelteams die AI in productie draaien. Inzet kan tijdens ontwikkeling, maar ook continu in een pipeline. Door herhaalbare tests ontstaan meetbare veiligheidsniveaus. Dat helpt bij audits en bijsturing op basis van risico.
Promptinjectie is een aanval waarbij tekst uit de omgeving of van een derde de instructies van een AI ongemerkt verandert, met ongewenste antwoorden of acties tot gevolg.
Beveiliging van AI-agenten nodig
Agenten lezen vaak externe bronnen en krijgen rechten in bedrijfsapplicaties. Zonder extra bescherming kunnen zij gevoelige gegevens delen of ongepaste acties uitvoeren. Aanvallen misbruiken bijvoorbeeld documenten, websites of e‑mails om de agent te sturen. Een testaanpak die dit gedrag nabootst is daarom essentieel.
Europese instellingen zoals ENISA en nationale cybercentra benadrukken sinds vorig jaar specifieke risico’s van grote taalmodellen. Het gaat om indirecte promptinjectie, gegevensonttrekking en privilege‑misbruik. Veel klassieke beveiligingsscans zien deze patronen niet. Een domeinspecifieke testagent vult die leemte.
Voor Nederlandse en Belgische organisaties speelt bovendien het aantoonbaar borgen van zorgplichten. Denk aan ziekenhuizen, gemeenten en onderwijsinstellingen die agenten inzetten bij klantenservice of dossierwerk. Zij moeten kunnen uitleggen welke risico’s zijn geïdentificeerd en welke maatregelen volgen uit die analyse.
AI‑verordening stuurt aanpak
De Europese AI‑verordening (AI Act) verplicht tot risicobeheer, logging en robuustheidseisen. Voor krachtige algemene modellen met systemisch risico komen extra plichten, zoals adversarial testing en incidentmelding. Een geautomatiseerd red‑teamproces helpt organisaties aantoonbaar aan deze eisen te voldoen. Het maakt risico’s zichtbaar vóórdat een systeem live gaat.
Voor hoge‑risicotoepassingen, zoals sommige overheids- of zorgprocessen, weegt documentatie extra zwaar. Testverslagen en reproduceerbare scenario’s ondersteunen conformiteit en interne controle. Ook voor leveranciers in de keten wordt het belangrijk om testresultaten te delen met klanten. Zo ontstaat een transparante basis voor acceptatie en toezicht.
De AI‑verordening werkt samen met bestaande regels, zoals de AVG. Wanneer testdata persoonsgegevens bevatten, gelden minimisatie en passende beveiliging. Organisaties doen er goed aan met synthetische of geanonimiseerde data te testen en duidelijke retentiebeleid te hanteren.
Wat de tool wel en niet dekt
Automatische aanvallen vinden bekende en varianten van nieuwe zwaktes, maar bieden nooit absolute zekerheid. Aanvallers blijven creatief en combineren technieken. Daarom is een hacker‑agent een onderdeel van een bredere verdedigingslaag. Denk aan sandboxing, minst‑privilege‑toegang en strikte tool‑permissies voor agenten.
Ook de context rond een agent bepaalt het risico. Toegang tot bestanden, e‑mail of betalingen vergroot de schade bij misbruik. Het is verstandig om elke actie van een agent te beperken, te loggen en zo mogelijk door een mens te laten bevestigen. Een testagent kan helpen de grenzen scherp te zetten en uitzonderingen te monitoren.
Tot slot vraagt evaluatie om regelmatige herhaling. Updates aan modellen, prompts of integraties kunnen nieuwe gaten openen. Door tests in te bouwen in CI/CD ontstaan vroegtijdige waarschuwingen. Zo blijft de beveiliging aansluiten op snelle veranderingen in AI‑software.
Inzet bij overheid en zorg
Voor overheden en zorginstellingen in de EU geldt een hoge drempel voor dataveiligheid en uitlegbaarheid. Een hacker‑agent laat zien of een digitale assistent vertrouwelijke burgerservice‑data kan lekken of ongewenste acties uitvoert. Dat versnelt risicobeoordelingen en DPIA’s onder de AVG. Het voorkomt vertraging bij inkoop en implementatie.
Lokale IT‑teams kunnen met testrapporten concreet beleid maken, zoals toegestane bronnen en verboden commando’s. Dit sluit aan bij richtlijnen van Nederlandse en Belgische toezichthouders om AI gecontroleerd te testen voordat deze in productie komt. Ook leveranciers krijgen zo heldere eisen bij aanbestedingen. Dat verbetert de kwaliteit van voorstellen en contracten.
Voor onderwijs en OV geldt een vergelijkbare aanpak. Waar agenten met persoonsgegevens of operationele systemen praten, zijn gecontroleerde tests essentieel. Een reproduceerbare set aanvallen maakt de risico’s meetbaar. Dat helpt bestuurders afgewogen keuzes te maken.
Volgende stappen voor Enoki
De toegevoegde waarde voor klanten zit in integraties, dekking van aanvalstypen en bruikbare rapporten. Verdere koppeling met ontwikkelplatformen en SIEM‑tools zou adoptie versnellen. Ook ondersteuning voor beleid dat direct in agent‑platformen kan worden afgedwongen, maakt de cirkel rond. Daarmee groeit de tool van detectie naar preventie.
Transparantie over dataverwerking wordt belangrijk in deals met Europese klanten. Duidelijkheid over opslaglocatie, versleuteling en bewaartermijnen is nodig voor AVG‑conforme tests. Een verwerkersovereenkomst en opties voor dataminimalisatie horen daar bij. Dit zijn punten waarop inkopers scherp letten.
De markt voor AI‑beveiliging beweegt snel. Organisaties zoeken praktische middelen om aan de AI‑verordening te voldoen zonder innovatie te remmen. Met een hacker‑agent richt Enoki zich op die behoefte: snel, herhaalbaar en aantoonbaar testen van agent‑gedrag. De komende maanden zal blijken hoe breed Europese bedrijven dit in hun standaardtooling opnemen.
