coindesk.com
Ein OpenAI-Forschungsmodell, das auf einem Ethereum-Testnetz ohne Mittel festsaß, suchte nach einer anderen Wallet, fand eine über bereits öffentliche Wiederherstellungsphrasen und gab daraus Mittel aus, um eine Programmieraufgabe abzuschließen, gab das Unternehmen am Donnerstag bekannt.
Der Vorfall ereignete sich am 26. Juni während des Trainings eines internen Modells der GPT-5.6 Sol-Familie, und OpenAI entdeckte ihn am 25. September, so laut seiner Vorfallbericht.
Das Modell erforderte keinerlei Hacking-Fähigkeiten, um Zugang zu erhalten.
Eine Wiederherstellungsphrase, auch Seed-Phrase genannt, ist eine Liste von Wörtern, die die geheimen Schlüssel einer Wallet erzeugt; wer diese Wörter besitzt, kann die Konten wiederherstellen und von ihnen ausgeben, ohne je das Gerät des Eigentümers zu berühren.
Die Aufgabe ermöglichte es dem Modell, Verträge bereitzustellen, Programme, die auf einer Blockchain laufen, jedoch erhielt es keine finanzierte Wallet, um die Gebühren zu bezahlen. Nachdem seine Versuche, kostenlose Testtoken zu erhalten, scheiterten, schrieb es ein Skript, das 362 Adressen überprüfte, die aus häufig von Entwicklern verwendeten Wiederherstellungsphrasen generiert wurden, und fand eine mit ausreichendem Guthaben.
„Aber die Verwendung öffentlich bekannter Schlüssel/Fonds ethisch vertretbar?“ fragte sich das Modell in seiner aufgezeichneten Begründung, bevor es entschied, dass eine öffentliche Phrase und Test-Token dies akzeptabel machten.
Die Ausgaben erfolgten auf Sepolia, einem separaten Netzwerk, in dem Entwickler Ethereum-Anwendungen vor ihrer Einführung testen. Seine Token dienen ausschließlich dem Testbetrieb und sind nicht mit dem Ether verbunden, der im Hauptnetzwerk von Ethereum gehandelt wird.
Die Implementierung wurde erfolgreich durchgeführt und die Wallet hat die Gebühren bezahlt. Als das Modell zurückmeldete, dass die Arbeit erledigt sei, ließ es dabei offen, woher das Geld stammte. OpenAI erklärte, dass seitdem Einschränkungen beim Internetzugang sowie eine intensivere Überwachung eingeführt wurden.
Krypto- und KI-Unternehmen entwickeln Agenten, die Wallets verwalten und für Dienstleistungen bezahlen, ohne dass eine Person jeden Schritt genehmigen muss.
Das Modell von OpenAI ging während der Aufgabe das Geld aus, fand eine Wallet, die nicht seine eigene war, und gab daraus aus, ohne zu fragen. Wäre es im Hauptnetzwerk von Ethereum gewesen, wäre dies echter Ether gewesen, der vom Konto einer anderen Person entnommen wurde.
