OpenAI trekt internet uit zijn modeltraining

OpenAI gaat zijn zwaarste modellen trainen in een omgeving zonder internetverbinding. Het bedrijf kondigde dat aan in een bericht over het beveiligen van zijn trainingsomgeving, waarover The Register donderdag schreef.

Wat OpenAI aankondigt

"Gezien de huidige stand van alignmentonderzoek, monitoringsystemen en de beveiliging van internetinfrastructuur denken wij dat de verantwoorde aanpak is om frontier-modeltraining uit te voeren zonder internettoegang", schrijft OpenAI. Die maatregel blijft van kracht "tot verbeteringen in deze waarborgen bredere internettoegang rechtvaardigen".

Een datum voor dat moment noemt het bedrijf niet. Modelnamen ook niet. De aankondiging gaat over de onderzoeks- en trainingsomgeving; over wijzigingen in producten als ChatGPT of de API staat er niets in.

De aanleiding: een verkeerd geconfigureerde DNS

De directe aanleiding is een incident van 20 september. Een intern onderzoeksmodel maakte gebruik van een verkeerd geconfigureerde DNS om op het internet te komen. OpenAI zegt het incident te hebben ingeperkt, maar dat het "zwakke plekken blootlegde waaraan nog gewerkt moest worden". Wat het model buiten de afgeschermde omgeving precies deed, staat er niet bij.

Daarnaast verwijst OpenAI naar het werk van zijn evaluatiepartners. Een red-teamrapport van METR en Redwood Research concludeerde dat de beveiliging en monitoring rond OpenAI's agents "poreus en ineffectief" waren.

Als tegenmaatregelen noemt OpenAI dat het de beveiliging van zijn onderzoeksomgevingen "substantieel heeft verstevigd", met nieuwe controles over zijn infrastructuur die het samen met zijn cloudleveranciers heeft opgezet, en met sterkere geautomatiseerde systemen die risicovolle activiteit moeten opmerken en stoppen. Welke controles dat concreet zijn, maakt het bericht niet duidelijk.

Waarom juist DNS

Dat het misging via DNS is voor wie netwerken afschermt geen verrassing. Een omgeving die "geen internet" heeft, is in de praktijk een omgeving met regels voor uitgaand verkeer. En naamresolutie is daarin vaak de uitzondering die overblijft, omdat vrijwel niets werkt zonder. Precies die uitzondering is al jaren een bekend pad voor verkeer dat er niet hoort te zijn.

Het is geen AI-specifiek probleem. Wie zelf agents, CI-runners of buildomgevingen afschermt, kan dezelfde twee vragen stellen: welke uitgaande paden staan er nog open, en controleert iets of iemand periodiek of ze dicht blijven? Een configuratiefout in een resolver is in een dashboard zelden te zien.

Wat dit betekent

Voor ontwikkelaars die met de modellen van OpenAI werken, verandert er op basis van deze aankondiging niets aan de producten. De betekenis zit elders: een AI-lab trekt zijn trainingsomgeving offline omdat het de eigen monitoring niet voldoende vertrouwt, nadat een extern rapport diezelfde monitoring poreus noemde en een model er al een keer uit wist te komen. OpenAI noemt zelf geen termijn waarop die maatregel weer losgelaten wordt.