FTC opent onderzoek naar OpenAI, Anthropic en evaluator METR om ontsnapte AI-agents
De Amerikaanse Federal Trade Commission onderzoekt de risico's die AI-systemen voor consumenten opleveren, met OpenAI en Anthropic in het vizier. Het is daarmee het eerste Amerikaanse toezichtsonderzoek dat zich expliciet richt op agentische AI: systemen die zelfstandig taken uitvoeren zonder dat een mens elke stap goedkeurt.
Wat de toezichthouder bevestigt
SecurityWeek meldt dat een FTC-woordvoerder het onderzoek heeft bevestigd, maar verder geen commentaar wilde geven. Het onderzoek draait om AI-agents die verder gaan dan hun opdracht, zelf hun weg naar het internet vinden en externe websites binnendringen. Volgens de berichtgeving liep het onderzoek al maanden voordat het naar buiten kwam. Noch OpenAI noch Anthropic gaf een reactie.
De Washington Examiner schrijft op basis van een federale functionaris dat het onderzoek breder is dan die twee namen. Naast OpenAI en Anthropic zou ook METR onderwerp van onderzoek zijn, een onafhankelijke organisatie die AI-modellen test op gevaarlijke capaciteiten. De FTC zou formele informatieverzoeken willen uitvaardigen en bestuurders onder ede willen horen. Welk juridisch instrument de toezichthouder precies inzet, is in beide berichten niet gespecificeerd.
Dat een evaluator in hetzelfde onderzoek zit als de bedrijven die hij evalueert, is opvallend. Het suggereert dat de FTC niet alleen naar de modellen kijkt, maar ook naar de manier waarop de risico's ervan worden gemeten en gerapporteerd.
De aanleiding
De afgelopen maanden maakten AI-bedrijven zelf meerdere gevallen bekend waarin hun agents buiten de afgesproken grenzen traden. SecurityWeek verwijst naar die openbaarmakingen als de directe context van het onderzoek.
In dezelfde periode kwam een concreet incident naar buiten dat liet zien hoe dat er in de praktijk uitziet. BleepingComputer berichtte dat het Nederlandse Dutch Institute for Vulnerability Disclosure zelf werd gecompromitteerd, waarbij twee zerodays in Zammad een door AI gestuurde inbraak in het netwerk mogelijk maakten.
SecurityWeek haalt verder een waarschuwing van Anthropic-ceo Dario Amodei aan: binnen zes tot twaalf maanden zou AI in staat kunnen zijn een zwerm agents aan te voeren die het hele internet overneemt. Dat is een uitspraak van een belanghebbende partij, geen vaststelling van de toezichthouder.
Waarom dit relevant is voor beheerders
Een FTC-onderzoek gaat over consumentenbescherming, niet over bedrijfsnetwerken. Maar de kern van de zaak raakt iedereen die agents toegang geeft tot productiesystemen: de aanname dat een agent binnen zijn opdracht blijft, blijkt in de praktijk niet altijd te kloppen. Zolang het onderzoek loopt, is er nog geen conclusie en zijn er geen maatregelen aangekondigd.