Je browser is verouderd en geeft deze website niet correct weer. Download een moderne browser en ervaar het internet beter, sneller en veiliger!

Hallo, ik ben Artex AI

Nu is het moment om elkaar te informeren! Dat was voor mij de slagzin van het webinar 'Recente aanvallen met AI' op maandag 16 november, van het Nationaal Cyber Security Centrum (NCSC) in samenwerking met Eye Security en de Dutch Institute for Vulnerability Disclosure (DIVD).

Door Daniel Meinsma

Wie de ontwikkelingen op het gebied van AI een beetje volgt, zal niet verbaasd zijn dat ook kwaadwillenden inmiddels gebruikmaken van agentic AI: kunstmatige intelligentie die op basis van een opdracht zelfstandig bepaalt welke acties zij uitvoert. Een opdracht zoals: hack dit bedrijf (of deze zorginstelling) en steel zoveel mogelijk data.

De naam Mythos is al vaak in het nieuws geweest: de AI die zelfstandig kwetsbaarheden in software kan vinden. Ook de autonome aanval op het bedrijf Hugging Face door agents van OpenAI haalde al een aflevering bij LUBACH.

De volgende naam in het rijtje wordt Artex AI. Software waarmee je een bedrijf autonoom kunt laten hacken door een leger aan AI-agents. Wat afgelopen zomer nog is ontwikkeld als legitieme tool voor pentesters, de goede kant, wordt nu door kwaadwillenden ingezet. Waarom? Omdat het werkt! 

We zagen dit eerder bij Cobalt Strike, een legitieme beveiligingstool die populair is geworden onder aanvallers. Toen bleek dat kwaadwillenden Artex gebruikten, heeft de originele ontwikkelaar de software op GitHub van publiek naar private gezet. Maar er staan inmiddels al meerdere kopieën (forks) op GitHub waar mensen actief op doorontwikkelen.

Een harnas

Artex AI is wat je noemt 'een harnas' voor AI-agents. Ook ik heb van de zomer even moeten opzoeken wat er precies mee bedoeld wordt. Ik dacht eerst dat het iets met een schild of pantser te maken had. Nee, het woord harnas komt van de tuigen voor paarden die ze voor de wagen laten meelopen, allemaal dezelfde kant op. Zo ook met AI-agents: hoe goed je harnas is, bepaalt hoe goed je agents samenwerken. Niet het onderliggende taalmodel.

Hoor wie klopt daar kinderen

Eye Security en de DIVD deelden in het webinar hun ervaring met een aanval waarbij Artex AI is ingezet. Een autonome digitale aanval door een leger AI-agents is momenteel vooral erg snel (machine speed), maar ook erg luid. Honderden agents proberen tegelijk, binnen enkele minuten, je organisatie binnen te komen. En ze proberen niet het meest succesvolle aanvalspad, nee, ze proberen álle mogelijke aanvalspaden. Aan iedere deur wordt geklopt. Dit is nu nog goed te detecteren, vooral omdat Artex bij veel van zijn handelingen digitaal roept: hallo, ik ben Artex :) De tool is namelijk ooit ontwikkeld als legitieme software en dus 'nog' niet om stil te zijn. De verwachting is uiteraard dat kwaadwillenden bij de doorontwikkeling van dit soort harnassen afwegingen gaan maken: snel en luid, of juist stil en sluipend.

Open weights-modellen

Om door te mogen gaan met de verdere ontwikkeling van geavanceerde AI-modellen, besteden de grote techbedrijven in Amerika nu veel aandacht aan veiligheidsmaatregelen. Zo voorkomen ze dat hun betaalde en afgeschermde modellen worden misbruikt, en behouden ze hun positie in de markt. Maar 'open weights'-modellen uit China, die publiek toegankelijk zijn, zoals DeepSeek en Qwen, zijn al zeer krachtig. En de uncensored varianten van deze modellen bevatten geen enkele veiligheidsmaatregel of ethiek over wat je er wel of niet mee mag doen.

Leg de security lat hoger

In het webinar riep het NCSC bedrijven op om opnieuw naar hun risico's te kijken, nu in het licht van aanvallen door autonome AI-agents. Aanvallen met AI vragen direct om bestuurlijke aandacht. Leg de lat voor security hoger en richt je niet alleen op basismaatregelen, maar werk vanuit de basisprincipes.

De stekker eruit

Zowel Eye Security als de DIVD meldden dat organisaties die door Artex AI waren aangevallen, de internetverbinding moesten verbreken om de situatie weer onder controle te krijgen. Het advies: regel naast 'stekkerbeleid' ook echt 'stekkermandaat'. Zo is er, wanneer het moment daar is, geen discussie over wie bij jouw organisatie de stekker eruit trekt [1]. En oefen dit. Papier is niet heilig en met papier alleen stop je een AI-aanval niet.

Namens Z-CERT veel lof aan het NCSC, Eye Security en de DIVD voor deze transparante kennisdeling!

[1] In het webinar werd gezegd dat het moed kost om bij een organisatie de stekker van het internet eruit te trekken, maar dat er niemand dood aan zal gaan. Direct daarna de relativering: voor een ziekenhuis ligt dit natuurlijk anders.