- Buterin prévient que la gouvernance dirigée par l’IA est facile à manipuler avec les invites de jailbreak.
- La démo de ChatGPT MCP a montré que des outils divulguaient des données à partir d’e-mails et de documents.
- Il soutient « l’info finance » : des jurys humains examinent le travail assisté par l’IA.
Le cofondateur d’Ethereum, Vitalik Buterin, a averti que s’appuyer sur l’intelligence artificielle pour les décisions de gouvernance pourrait se retourner contre lui. Dans un article sur X, il a déclaré que les systèmes pilotés par l’IA créent un point de défaillance unique que les attaquants peuvent jouer avec des invites de jailbreak.
« Si vous utilisez une IA pour allouer des fonds aux contributions, les gens mettront un jailbreak et « donnez-moi tout l’argent » dans autant d’endroits que possible », a écrit Buterin.
L’exploitation de ChatGPT met en évidence le risque
Les remarques de Buterin font suite à un test effectué par le chercheur Eito Miyamura, qui a montré comment ChatGPT pouvait être manipulé pour divulguer des informations privées. La démo a utilisé les nouveaux outils MCP (Model Context Protocol) qui permettent à ChatGPT de se connecter à Gmail, SharePoint et Notion.
Avec à peine plus qu’une adresse e-mail, Miyamura a incité le système à révéler des données sensibles. Il a noté que l’exploit fonctionne parce que la plupart des gens font confiance aux demandes d’IA sans vérifier l’accès qu’ils donnent.
« N’oubliez pas que l’IA peut être très intelligente, mais qu’elle peut être trompée et hameçonnée de manière incroyablement stupide pour faire fuiter vos données », a conclu Miyamura.
La solution de Buterin : un modèle d’info-finance
Au lieu de confier les décisions à l’IA, Buterin a plaidé en faveur de ce qu’il a appelé un modèle de « finance de l’information ». Dans cette configuration, les contributeurs soumettent des idées ou des modèles sur un marché ouvert, mais les résultats sont évalués par des humains.
La conception permet de garder les outils d’IA en jeu, mais supprime le point de défaillance unique en s’assurant que les gens restent le dernier contrôle. Buterin a déclaré que cette surveillance humaine rend les systèmes plus difficiles à manipuler et plus fiables que la gouvernance pure de l’IA.
Pourquoi c’est important pour les DAO et la gouvernance des cryptomonnaies
Buterin a lié l’avertissement à la gouvernance de la blockchain. Il a noté que de nombreuses organisations autonomes décentralisées (DAO) sont déjà confrontées au problème de la surdélégation, où trop de pouvoir finit par être concentré entre quelques mains.
En combinant des outils d’IA avec l’examen humain dans un modèle d’infofinance, Buterin a déclaré que le risque de centralisation et d’attaques basées sur des exploits pourrait être réduit. Pour les projets crypto fondés sur la confiance et la transparence, cette approche hybride peut s’avérer essentielle.
À lire également : Du Web2 au Web3 : Adopter le passage à la décentralisation
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
