DIVD gehackt door autonome AI-agent: 'luid en heel, heel rommelig'

Het Dutch Institute for Vulnerability Disclosure (DIVD) is gehackt, en volgens de stichting zelf was de aanvaller grotendeels een autonoom werkende AI-agent. DIVD maakte het incident op 24 september bekend in een bericht op de eigen CSIRT-blog met de titel 'It was a matter of when, not if...'.

DIVD is een Nederlandse stichting van vrijwillige securityonderzoekers die het internet scant op systemen met bekende kwetsbaarheden, de eigenaren daarvan waarschuwt en uitlegt hoe ze het risico kunnen beperken. Na bijna zeven jaar zonder incidenten zijn de onderzoekers nu zelf slachtoffer. 'Security people always say it's not a matter of if, but when you get hacked', schrijft de organisatie. 'We're the hackers that got hacked.'

'Een modus operandi die we niet eerder zagen'

Wat het incident volgens DIVD bijzonder maakt, is niet dat het gebeurde maar hoe. 'Dit is een aanval die we niet eerder hebben gezien. Niet omdat het onze eerste is, maar omdat de modus operandi erop wijst dat dit een agentic AI-powered aanval is', aldus de stichting.

DIVD isoleerde zijn infrastructuur, blokkeerde toegang en startte een forensisch onderzoek met hulp van een extern incident-responseteam. Omdat nog niets kan worden uitgesloten, gaat de organisatie uit van een worstcasescenario en neemt ze aan dat er data is buitgemaakt tot het tegendeel is bewezen. Het incident is gemeld bij de Autoriteit Persoonsgegevens en het Nationaal Cyber Security Centrum, en DIVD heeft de opties met de politie besproken.

De agent maakte veel lawaai en fouten

In een vervolgupdate op maandag 28 september gaf DIVD meer details, die BleepingComputer optekende uit een bericht van de stichting op LinkedIn. 'De aanval zelf was luid en heel, heel rommelig', citeert de site. 'We konden de agent geautomatiseerd zien werken, omdat hij na elke actie zelf de volgende stap bepaalde, met de snelheid van het licht en slordige logica of patronen.'

De aanvaller misbruikte volgens DIVD een technische kwetsbaarheid in een systeem dat de stichting niet noemt. Wel zegt DIVD expliciet dat het niet om Citrix NetScaler ging, de kwetsbaarheid die deze week voor andere Nederlandse incidenten zorgde. Na dat eerste toegangsmoment nam de geautomatiseerde agent de post-exploitatie over.

Daarbij deed de agent volgens de onderzoekers 'een aantal behoorlijk domme dingen', waaronder het verstoren van zijn eigen adversary-in-the-middle-aanval door tegelijk aan password spraying te doen. De agent legde zijn eigen beslissingen ook uitgebreid uit in zijn commentaar. DIVD denkt dat de agent slecht getraind en geconfigureerd was voor dit soort operaties, en dat er juist daardoor genoeg sporen zijn achtergebleven om het incident te kunnen reconstrueren.

Rommelig maar snel

Daarmee laat het incident twee kanten van agentische aanvallen tegelijk zien. De agent werkte op machinesnelheid en besliste zelfstandig over elke volgende stap, maar hij was ook luidruchtig en inefficient, en liet een spoor achter dat forensisch onderzoek eenvoudiger maakt dan bij een geduldige menselijke aanvaller.

DIVD houdt details achter om het onderzoek niet te beinvloeden en om andere slachtoffers niet in gevaar te brengen. De stichting beloofde een uitgebreidere update op 1 oktober, en wil andere mogelijke slachtoffers van dezelfde kwetsbaarheid waarschuwen zodra dat kan. BleepingComputer vroeg DIVD om welk lek het ging en of er een patch voor beschikbaar was, maar had bij publicatie geen antwoord gekregen.