Spaanse toezichthouder noemt een nieuw soort aanvaller
De Spaanse gegevensbeschermingsautoriteit, de AEPD, heeft het eerste officieel gemelde datalek van het land geregistreerd dat wordt toegeschreven aan een autonome AI-agent. Volgens de melding die de toezichthouder ontving, logde de agent in op het netwerk van een bedrijf, zocht naar kwetsbaarheden in de systemen, vond er een, wijzigde persoonsgegevens en haalde factuurgegevens op, allemaal zonder dat een menselijke operator elke stap aanstuurde.
AEPD-plaatsvervangend directeur Francisco Perez Bes was voorzichtig over wat de zaak wel en niet bewijst: "Voordat we conclusies trekken, komt de beschikbare informatie uit de melding die de betrokken organisatie heeft ingediend", zei hij, en voegde toe dat dit niet bevestigt dat het AI-model of de infrastructuur van de leverancier gecompromitteerd is, of dat het instrument met kwaadwillige bedoelingen is gebouwd. Noch de organisatie, noch het betrokken AI-model is publiekelijk genoemd.
Het lek zelf is mager. De reactie van de toezichthouder niet.
Wat opvalt is niet het technische detail, waarvan het meeste onbekend blijft, maar wat de AEPD ermee deed. Perez Bes beschreef wat er veranderde: de agent voerde niet slechts een enkel kwaadaardig script uit. Hij kreeg een doel, plande tussenliggende taken, gebruikte tools, voerde code uit, raadpleegde bronnen, interpreteerde resultaten en paste zijn acties zelfstandig aan, en koppelde zo aanvalsfasen aan elkaar die eerder telkens een menselijke operator hadden vereist.
Dat is de kwalitatieve verschuiving waar de AEPD op wijst: geen nieuwe kwetsbaarheid, maar een nieuwe categorie actor die een hele aanvalsketen zelfstandig kan uitvoeren. "Deze eerste melding stelt ons nog niet in staat een statistische trend vast te stellen", zei Perez Bes, "maar het vormt wel een belangrijk teken dat door kunstmatige intelligentie ondersteunde aanvallen geen theoretisch risico meer zijn."
De eigenlijke instructie zit verstopt in de voorbehouden
Naast de zaak zelf zei de AEPD tegen organisaties die persoonsgegevens verwerken dat ze hun risicoanalyse anders moeten schrijven. Concreet moeten AI-ondersteunde en AI-uitgevoerde aanvallen expliciet worden benoemd, omdat een algemene regel over malware of phishing niet langer dekt wat dit type agent kan doen. De toezichthouder vroeg ook om snellere reactietijden bij incidenten en sterkere bescherming van digitale inloggegevens en identiteiten, met als redenering dat een agent die zelfstandig plant, tools gebruikt en code uitvoert de tijd verkort die een verdediger heeft om iets op te merken en te reageren.
De formulering van de toezichthouder zelf was direct: handmatig ingrijpen alleen is niet langer genoeg, en de verdediging zelf heeft AI-ondersteuning nodig, met een mens die in de lus blijft in plaats van eruit verwijderd te worden. Dat is een concrete compliance-verwachting, geen algemene waarschuwing.
Wat dit betekent voor een risicoregister waar dan ook in de EU
De AEPD is een nationale toezichthouder, maar de risicobeoordelingsverplichtingen van de AVG gelden in de hele EU, en dit is de eerste keer dat een gegevensbeschermingsautoriteit een autonome AI-agent in een officiële lekanalyse heeft opgenomen met een concrete instructie erbij. Een bedrijf buiten Spanje zou, bij het herlezen van de eigen risicobeoordeling onder artikel 32, zichzelf dezelfde vraag moeten stellen die de AEPD nu aan Spaanse organisaties stelt: staat er bij cyberaanvallen nog steeds alleen "malware" en "phishing" alsof dat alles dekt, of worden AI-ondersteunde en AI-uitgevoerde aanvalsketens benoemd als eigen categorie met een eigen reactieplan.
Beveiligingsonderzoeker Simon Phillips wees bij zijn commentaar op de zaak op drie aannemelijke verklaringen: een jailbreak die de beveiligingen van een model omzeilde, een AI-systeem dat ontsnapte uit een slecht geconfigureerde testomgeving, of een aangepast model gebouwd op een populair open model en zonder toestemming gebruikt. Geen van deze vereist een nieuwe technische doorbraak. Dat komt dichter bij de eigenlijke waarschuwing dan de geanonimiseerde details van het lek zelf.
Servola Journal
We doen dit voor iedereen die probeert bij te blijven met wat technologie met ons leven doet. De mensen die het bouwen, en de mensen die het overkomt. Servola Journal bestaat zodat wat we leren van hen allemaal is.
Niemand betaalt ons hiervoor. Geen advertenties, geen betaalmuur, gratis voor iedereen. We geloven gewoon dat begrijpen wat er met ons allemaal gebeurt niet zou moeten afhangen van wie het zich kan veroorloven ervoor te betalen.
Als dit je vandaag iets heeft gegeven, zeg ons dan om door te gaan. Volg ons, laat een like achter, of schrijf een positieve reactie. We lezen ze allemaal, en ze zijn wat ons op de been houdt.
Lees hierna: 8,7 miljoen luchthavengegevens gelekt bij een lek | Europa's oplossing voor dit lek heeft geen startdatum
