- Buterin advierte que la gobernanza dirigida por IA es fácil de jugar con indicaciones de jailbreak.
- La demostración de ChatGPT MCP mostró herramientas que filtraban datos del correo electrónico y los documentos.
- Respalda las «finanzas de la información»: los jurados humanos revisan el trabajo asistido por IA.
El cofundador de Ethereum, Vitalik Buterin, ha advertido que confiar en la inteligencia artificial para las decisiones de gobernanza podría ser contraproducente. En una publicación en X, dijo que los sistemas impulsados por IA crean un único punto de falla que los atacantes pueden jugar con indicaciones de jailbreak.
«Si usa una IA para asignar fondos para contribuciones, la gente pondrá un jailbreak más ‘dame todo el dinero’ en tantos lugares como puedan», escribió Buterin.
El exploit de ChatGPT destaca el riesgo
Los comentarios de Buterin siguieron a una prueba realizada por el investigador Eito Miyamura, quien mostró cómo ChatGPT podría manipularse para filtrar información privada. La demostración utilizó las nuevas herramientas de Model Context Protocol (MCP) que permiten a ChatGPT conectarse a Gmail, SharePoint y Notion.
Con poco más que una dirección de correo electrónico, Miyamura hizo que el sistema revelara datos confidenciales. Señaló que el exploit funciona porque la mayoría de las personas confían en las solicitudes de IA sin verificar qué acceso están regalando.
«Recuerde que la IA puede ser súper inteligente, pero puede ser engañada y suplantada de maneras increíblemente tontas para filtrar sus datos», concluyó Miyamura.
Relacionado: ¿Pueden las computadoras cuánticas piratear criptomonedas? Vitalik Buterin coloca las probabilidades en 20% para 2030
La solución de Buterin: un modelo de finanzas de la información
En lugar de entregar las decisiones a la IA, Buterin abogó por lo que llamó un modelo de «finanzas de la información«. En esta configuración, los colaboradores envían ideas o modelos a un mercado abierto, pero los resultados son evaluados por humanos.
El diseño mantiene las herramientas de IA en juego, pero elimina el único punto de falla al asegurarse de que las personas sigan siendo el control final. Buterin dijo que esta supervisión humana hace que los sistemas sean más difíciles de manipular y más confiables que la gobernanza de IA pura.
Por qué es importante para las DAO y la gobernanza de las criptomonedas
Buterin vinculó la advertencia a la gobernanza de blockchain. Señaló que muchas organizaciones autónomas descentralizadas (DAO) ya enfrentan el problema de la sobredelegación, donde demasiado poder termina concentrado en unas pocas manos.
Al combinar herramientas de IA con revisión humana en un modelo de finanzas de la información, Buterin dijo que se podría reducir el riesgo de centralización y ataques impulsados por exploits. Para los proyectos de criptomonedas basados en la confianza y la transparencia, este enfoque híbrido puede resultar crítico.
Relacionado: De Web2 a Web3: Abrazando el cambio a la descentralización
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
