Anthropic werkt vanaf vandaag samen met meerdere cybersecurityleiders om AI-beveiliging te versterken. Het bedrijf achter het Claude-model wil zo sneller standaarden, tests en noodprocedures ontwikkelen. De samenwerking is internationaal en raakt ook Europa en Nederland. Doel is veiliger inzet van kunstmatige intelligentie bij bedrijven en overheden, in lijn met de Europese AI-verordening en de AVG.
Samenwerking richt zich op weerbaarheid
De partners bouwen aan gedeelde richtlijnen voor veilig ontwerp en gebruik van AI-systemen. Ze richten zich op kwetsbaarheden zoals misleiding van chatbots, datalekken en manipulatie van trainingsdata. Ook kijken ze naar procedures voor snelle respons bij incidenten met generatieve modellen.
De aanpak combineert praktijkproeven, zogeheten red teaming, en gestandaardiseerde tests. Zulke evaluaties meten of een model ongewenste handelingen uitvoert of gevoelige informatie prijsgeeft. De resultaten moeten ontwikkelaars en klanten houvast geven bij acceptatie en uitrol.
De samenwerking dekt zowel publieke modellen als systemen die binnen de bedrijfsgrens draaien. Denk aan AI-assistenten in servicedesks of ontwikkeltools voor programmeurs. Voor beide situaties zijn andere beveiligingsinstellingen en controles nodig.
Prompt-injection is een aanval waarbij een gebruiker verborgen instructies toevoegt om een AI-systeem te misleiden en beveiligingsregels te omzeilen.
Focus op veilig AI-ontwerp
Anthropic zegt meer in te zetten op security by design: beveiliging vanaf de start inbouwen. Dat betekent standaard logging, strikte toegangsrechten en het afschermen van gevoelige data. Ook horen hier limieten op output en controles op schadelijke antwoorden bij.
Het bedrijf gebruikt zijn Claude-modellen, zoals Claude 3, als voorbeeld voor beleid en tests. Claude is getraind met zogeheten constitutionele AI, een methode die vaste gedragsregels aan het model meegeeft. Dat helpt om ongewenste uitkomsten te beperken, maar neemt risico’s niet volledig weg.
Verder hoort gedoseerde groei erbij, met extra controles bij krachtigere modellen. Denk aan beoordelingsrapporten, modelkaarten en aparte acceptatie-eisen voor hogere risicoklassen. Zo blijft zichtbaar wat het systeem kan, waar het faalt en hoe het is afgeschermd.
Europese regels bepalen eisen
De Europese AI-verordening (AI Act) vraagt om risicobeheer, robuustheidstesten en duidelijke documentatie. Hoogrisico-toepassingen moeten strikter worden gecontroleerd, ook bij updates. Dit raakt directe gebruikers én inkopende overheden: Europese AI-verordening gevolgen overheid zijn concreet en dichtbij.
De AVG eist dataminimalisatie, versleuteling en een duidelijke grondslag voor verwerking. Wie AI inzet in klantenservice of publieke dienstverlening, moet vooraf een DPIA doen, een privacyrisico-analyse. Loggen mag, maar alleen voor het doel en zo kort als nodig.
NIS2 verplicht essentiële en belangrijke organisaties om digitale risico’s, inclusief AI-ketens, te beheersen. Zij moeten incidenten snel melden en leveranciers toetsen. In Nederland houden toezichthouders zoals de Autoriteit Persoonsgegevens en de aangewezen NIS2-autoriteit hierop toezicht, op het moment van schrijven in voorbereiding.
Praktische inzet bij bedrijven
Begin met een dreigingsmodel voor elk AI-gebruik: wat kan er misgaan, wie kan misbruik maken en welke data zijn gevoelig. Scheid prompts en gevoelige context, en filter invoer op kwaadaardige patronen. Beperk modeltoegang tot het strikt nodige en scherm uitgaande verbindingen af.
Integreer AI veilig in SOC-processen, bijvoorbeeld voor het samenvatten van meldingen, maar houd menselijke controle. Gebruik contentfilters en auditlogs bij copilots die code of tekst genereren. Zet geheimenkluisjes in en verwijder sleutels uit trainings- en promptdata.
Vraag leveranciers om beveiligingsrapporten, resultaten van red teaming en informatie over patchbeleid. Leg serviceafspraken vast over modelupdates en incidentrespons. Toets periodiek aan interne normen en aan eisen uit de AI Act, AVG en NIS2.
Nog openstaande risico’s
Evaluaties dekken niet alle aanvalsvormen en contexten. Modellen kunnen nieuwe vaardigheden tonen zodra ze in de praktijk worden gebruikt. Daarom blijft continue monitoring en herbeoordeling nodig.
Veel AI-systemen zijn gesloten, waardoor diep technisch onderzoek beperkt is. Zekerheid komt dan vooral uit gedragstesten en niet uit inzage in modelonderdelen. Juridische verantwoordelijkheid in de keten is bovendien nog niet in alle situaties uitgekristalliseerd.
Volgende stappen zijn publiek deelbare testsets, bug bounty-programma’s en betere benchmarks voor misbruik. Aansluiting op kaders van NIST en Europese richtsnoeren van ENISA kan daarbij helpen. Zo groeit de kans dat AI-toepassingen veilig én aantoonbaar conform wetgeving draaien in Europa.
