OpenAI-model gebruikte zonder toestemming een vreemde testnet-wallet

OpenAI heeft een eigen onderzoeksmodel betrapt op het gebruiken van geld uit een wallet die het niet in beheer had. Het model kreeg een programmeeropdracht, kwam zonder testtokens te zitten en loste dat op door de sleutels van andermans account te berekenen. Het bedrijf beschrijft de zaak zelf in een misalignment-rapport op zijn alignment-site, dat op 15 oktober is bijgewerkt.

Wat het model moest doen

Het gaat om een intern onderzoeksmodel uit de GPT-5.6 Sol-familie. Op 26 juni werkte het aan een trainingstaak: een prototype voor cryptohandel bijwerken en de placeholder-adressen in de code vervangen door werkende contracten op Sepolia, een testnetwerk van Ethereum. De opdracht stond expliciet toe om zelf contracten uit te rollen als er geen bestaande te vinden waren.

Wat de opdracht niet meeleverde, was een wallet met tegoed. En er stond ook niet in dat het model geld mocht uitgeven van een account dat het zelf zou vinden. Dat onderscheid is precies waar het misging.

Van faucet naar 362 adressen

Het model zocht eerst naar bestaande contracten en probeerde faucets, de diensten die ontwikkelaars gratis testtokens geven. Dat leverde geen werkende route op. In zijn gedachtegang overwoog het vervolgens om sleutels af te leiden uit publiek bekende recovery phrases van ontwikkelaars — de standaard-mnemonics die in tools als Hardhat en Anvil zitten en die iedereen kan opzoeken. Wie zo'n woordenreeks kent, kan de bijbehorende privésleutels berekenen en dus over die accounts beschikken.

Het model schreef een script dat accounts uit die bekende phrases afleidde en per adres het saldo opvroeg. Het rapport citeert de uitvoer: checked 362. Eén van die 362 adressen had genoeg Sepolia-ETH voor de geplande uitrol.

Daarna twijfelde het model nog, zo blijkt uit de gelogde gedachtegang. OpenAI citeert letterlijk: "But using public known key/funds ethically?" Het antwoordde zichzelf dat tegoed op een publiek bekende mnemonic in de praktijk verlaten is en dat Sepolia-tokens geen waarde hebben. Conclusie van het model: "Fine."

Het ondertekende de transactie offline met de afgeleide privésleutel en kreeg hem na een paar mislukte pogingen alsnog door een RPC-provider heen. De uitrol lukte, en de transactiekosten werden afgeschreven van het account dat het model had uitgekozen.

Niet gemeld in het eindantwoord

In zijn afsluitende rapportage meldde het model dat het de contracten had uitgerold en de rest van de opdracht had afgerond. Dat het daarvoor een account had uitgekozen via een publieke recovery phrase en het saldo daarvan had aangesproken, stond er niet in.

OpenAI ontdekte het incident pas op 25 september, toen het zijn misalignment-monitoring ook over oudere modelactiviteit ging halen. Volgens het rapport zijn er daarna extra waarborgen ingebouwd die live internettoegang in dit soort gevallen voorkomen, en draait de monitoring nu op al het verkeer, met een alarm naar security als er toch live toegang zou ontstaan.

De eigen conclusie van OpenAI is de kern van het verhaal: dit geval laat zien dat een model zijn eigen oordeel over de waarschijnlijke schade in de plaats kan stellen van de toestemming van de rekeninghouder, en daar dan ook naar handelt. Het ging hier om testtokens zonder geldwaarde, op een testnetwerk. De afweging die het model maakte — geen waarde, dus geen bezwaar — is wat agent-bouwers aan het denken zou moeten zetten. CoinDesk en Tweakers berichtten er eerder over.