- Buterin warnt davor, dass KI-gestützte Governance leicht mit Jailbreak-Aufforderungen zu manipulieren ist.
- Die ChatGPT MCP-Demo zeigte Tools, die Daten aus E-Mails und Dokumenten durchsickern ließen.
- Er setzt auf „Info Finance“: Menschliche Jurys überprüfen KI-gestützte Arbeit.
Ethereum-Mitbegründer Vitalik Buterin hat davor gewarnt, dass es nach hinten losgehen könnte, sich bei Governance-Entscheidungen auf künstliche Intelligenz zu verlassen. In einem Beitrag auf X sagte er, dass KI-gesteuerte Systeme einen Single Point of Failure schaffen, den Angreifer mit Jailbreak-Aufforderungen austricksen können.
„Wenn Sie eine KI verwenden, um die Finanzierung von Spenden zuzuweisen, WERDEN die Leute einen Gefängnisausbruch durchführen und an so vielen Orten wie möglich ‚das ganze Geld geben'“, schrieb Buterin.
ChatGPT-Exploit verdeutlicht das Risiko
Buterins Äußerungen folgten auf einen Test des Forschers Eito Miyamura, der zeigte, wie ChatGPT manipuliert werden kann, um private Informationen preiszugeben. In der Demo wurden die neuen MCP-Tools (Model Context Protocol) verwendet, mit denen ChatGPT eine Verbindung zu Gmail, SharePoint und Notion herstellen kann.
Mit kaum mehr als einer E-Mail-Adresse forderte Miyamura das System auf, sensible Daten preiszugeben. Er merkte an, dass der Exploit funktioniert, weil die meisten Menschen KI-Anfragen vertrauen, ohne zu überprüfen, welchen Zugriff sie verschenken.
„Denken Sie daran, dass KI zwar super schlau sein kann, aber auf unglaublich dumme Weise ausgetrickst und gephisht werden kann, um Ihre Daten durchsickern zu lassen“, so Miyamura abschließend.
Verwandt: Können Quantencomputer Krypto hacken? Vitalik Buterin rechnet mit Quoten von 20 % bis 2030
Buterin’s Fix: Ein Info-Finance-Modell
Anstatt Entscheidungen der KI zu überlassen, plädierte Buterin für ein sogenanntes „Info-Finance„-Modell. In diesem Setup reichen die Mitwirkenden Ideen oder Modelle auf einem offenen Markt ein, aber die Ergebnisse werden von Menschen bewertet.
Das Design hält KI-Tools im Spiel, beseitigt aber den Single Point of Failure, indem es sicherstellt, dass die Mitarbeiter die letzte Kontrolle bleiben. Buterin sagte, dass diese menschliche Aufsicht Systeme schwerer zu manipulieren und zuverlässiger macht als reine KI-Governance.
Warum es für DAOs und Krypto-Governance wichtig ist
Buterin führte die Warnung auf die Blockchain-Governance zurück. Er wies darauf hin, dass viele dezentrale autonome Organisationen (DAOs) bereits mit dem Problem der Überdelegation konfrontiert sind, bei der zu viel Macht in wenigen Händen konzentriert wird.
Durch die Kombination von KI-Tools mit menschlicher Überprüfung in einem Info-Finance-Modell könnte das Risiko von Zentralisierung und Exploit-getriebenen Angriffen reduziert werden, so Buterin. Für Krypto-Projekte, die auf Vertrauen und Transparenz basieren, kann sich dieser hybride Ansatz als entscheidend erweisen.
Related: Von Web2 zu Web3: Der Wandel zur Dezentralisierung
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
