- Buterin adverte que a governança liderada por IA é fácil de manipular com prompts de jailbreak.
- A demonstração do ChatGPT MCP mostrou ferramentas vazando dados de e-mail e documentos.
- Ele apóia o “financiamento da informação”: júris humanos revisam o trabalho assistido por IA.
O cofundador da Ethereum, Vitalik Buterin, alertou que confiar na inteligência artificial para decisões de governança pode sair pela culatra. Em um post no X, ele disse que os sistemas orientados por IA criam um único ponto de falha que os invasores podem manipular com prompts de jailbreak.
“Se você usar uma IA para alocar fundos para contribuições, as pessoas colocarão um jailbreak e ‘me dê todo o dinheiro’ em tantos lugares quanto puderem”, escreveu Buterin.
Exploração do ChatGPT destaca o risco
As observações de Buterin seguiram um teste do pesquisador Eito Miyamura, que mostrou como o ChatGPT poderia ser manipulado para vazar informações privadas. A demonstração usou as novas ferramentas do Model Context Protocol (MCP) que permitem que o ChatGPT se conecte ao Gmail, SharePoint e Notion.
Com pouco mais do que um endereço de e-mail, Miyamura solicitou que o sistema revelasse dados confidenciais. Ele observou que a exploração funciona porque a maioria das pessoas confia nas solicitações de IA sem verificar o acesso que estão dando.
“Lembre-se de que a IA pode ser super inteligente, mas pode ser enganada e roubada de maneiras incrivelmente para vazar seus dados”, concluiu Miyamura.
Relacionado: Os computadores quânticos podem hackear criptomoedas? Vitalik Buterin coloca probabilidades em 20% até 2030
Correção de Buterin: um modelo de finanças da informação
Em vez de entregar as decisões à IA, Buterin defendeu o que chamou de modelo de “finanças da informação“. Nessa configuração, os colaboradores enviam ideias ou modelos para um mercado aberto, mas os resultados são avaliados por humanos.
O design mantém as ferramentas de IA em jogo, mas remove o único ponto de falha, garantindo que as pessoas permaneçam na verificação final. Buterin disse que essa supervisão humana torna os sistemas mais difíceis de manipular e mais confiáveis do que a governança pura da IA.
Por que é importante para DAOs e governança de criptomoedas
Buterin vinculou o aviso à governança do blockchain. Ele observou que muitas organizações autônomas descentralizadas (DAOs) já enfrentam o problema da delegação excessiva, onde muito poder acaba concentrado em poucas mãos.
Ao combinar ferramentas de IA com revisão humana em um modelo de finanças da informação, Buterin disse que o risco de centralização e ataques orientados por exploração pode ser reduzido. Para projetos de criptomoedas baseados em confiança e transparência, essa abordagem híbrida pode ser crítica.
Relacionado: Da Web2 à Web3: abraçando a mudança para a descentralização
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
