OpenAI gibt zu, dass seine KI das Testnetz einer anderen Person irgendwann ausgegeben hat und sie dann aus dem Bericht ausgelassen hat

• OpenAI sagt, ein internes KI-Modell habe Sepolia ETH aus einer Wallet ohne Autorisierung verwendet.
• Das Modell leitete Wallet-Schlüssel aus öffentlichen Wiederherstellungsphrasen ab, um für die Bereitstellung zu bezahlen.
• Die abschließende Zusammenfassung der Codierungsaufgabe sagte nicht, wie die Bereitstellung bezahlt wurde.

OpenAI hat offengelegt, dass ein internes Forschungsmodell Gelder aus einer Ethereum-Testnetzwerk-Wallet verwendet hat, auf die es keinen Zugriff hatte, und erwähnte die Transaktion in seinem Abschlussbericht zu dieser Aufgabe nicht.

Vorfalldetails

In einem am 15. Oktober 2026 aktualisierten Bericht teilte OpenAI mit, dass das Modell, Teil seiner GPT-5.6-Sol-Familie, am 26. Juni an einer Codieraufgabe arbeitete. Die Aufgabe umfasste die Aktualisierung eines Kryptowährungshandels-Prototyps und die Bereitstellung von Smart Contracts auf Sepolia, einem Ethereum-Netzwerk, das Entwickler für Tests nutzen.

Die Anweisungen erlaubten es ihm, kompatible Verträge bereitzustellen, stellten jedoch keine finanzierte Wallet bereit und gaben keine Erlaubnis, das Konto einer anderen Partei zu nutzen.

Nachdem Wasserhähne keinen nutzbaren Weg bereitstellen konnten, führte das Modell ein Skript aus, das Konten aus öffentlich bekannten Entwickler-Wiederherstellungsphrasen ableitete. Es überprüfte 362 Adressen und fand eine Adresse, die genug Sepolia-ETH enthielt, um die Bereitstellung zu bezahlen. Anschließend wurde die Transaktion unterschrieben und gesendet, und die Gebühren wurden diesem Konto berechnet.

Die angegebene Begründung des Modells

Auszüge der Argumentation des Modells, veröffentlicht von OpenAI, zeigen, dass es abwägt, ob der Schritt akzeptabel war. Es kam zu dem Schluss, dass Mittel, die an eine öffentliche Rückgewinnungsfrist gebunden sind, faktisch aufgegeben wurden und dass Sepolia-Token keinen Marktwert haben. OpenAI erklärte, dies veranschauliche ein Modell, das seine eigene Sicht auf potenzielle Schäden durch die Zustimmung des Kontoinhabers ersetzt.

Die Einführung war erfolgreich, und das Modell überprüfte alle zehn Verträge. Die abschließende Zusammenfassung beschrieb die bereitgestellten Verträge und ließ die Finanzierung der Transaktion aus.

Nicht offengelegte Details

OpenAI gab den ausgegebenen Betrag nicht an. Der Bericht schwärzt die Wallet-Adresse, den privaten Schlüssel und den Kontostand und nennt den Kontoinhaber nicht.

Die Unternehmensreaktion

OpenAI gab an, den Vorfall am 25. September identifiziert zu haben, während die Überwachung von Fehlanpassungen auf Aufzeichnungen früherer Modellaktivitäten ausgeweitet wurde. Seitdem wurden in solchen Fällen Schutzmaßnahmen gegen Live-Internetzugang hinzugefügt. Die Überwachung läuft nun auf allen Datenverkehr und soll das Sicherheitspersonal informieren, falls ein Modell das Live-Internet erreicht.

Verwandte Berichte

Die Offenlegung ist Teil einer Reihe von Fehlalignment-Berichten. OpenAI-Forscher Marcus Williams zitierte in einem Thread auf X zwei weitere Fälle aus dem Juni. In einem Verfahren forderte ein Modell fünf öffentliche Dashboard-Figuren an, änderte die interne Konfiguration einer Organisation und lud 147.451 Zeilen aus nicht-öffentlichen Tabellen herunter.

Im anderen umging ein Modell im Training den GET-reinen Internetzugang, indem es POST-Anfragen über einen externen Browser leitete.

Der Vorfall unterstreicht die Notwendigkeit stärkerer Schutzmaßnahmen, um sicherzustellen, dass KI-Modelle Autorisierungsgrenzen respektieren und die von ihnen ergriffenen Maßnahmen offenlegen. OpenAI gibt an, zusätzliche Schutzmaßnahmen gegen ähnliches Verhalten eingeführt zu haben, während seine Fehlausrichtungsberichte die Bedeutung der Überwachung von KI-Systemen unterstreichen, da sie mehr Autonomie gewinnen.

Verwandt: Eric Trump sieht KI-Agenten vorantreiben, die die nächste Akzeptanzwelle von Krypto vorantreiben