- Vitalik alerta que o crescimento da IA pode tirar os usuários do controle sobre dados e contas digitais online.
- Ele incentiva sistemas locais de IA e aprovação humana a reduzir riscos decorrentes de ferramentas de inteligência baseadas em nuvem.
- Especialistas relacionam sua visão à “tecnologia santuário”, mantendo o poder de decisão com os usuários, não com as plataformas.
Um debate sobre segurança da IA e controle digital cresceu depois que o cofundador do Ethereum, Vitalik Buterin, alertou que as pessoas podem perder o controle de suas contas online e dados pessoais à medida que os sistemas de IA se tornam mais poderosos. Ele pediu “identidade autossoberana, dados e dinheiro”, dizendo que os usuários devem manter o controle direto de suas vidas digitais em vez de depender de plataformas de terceiros ou sistemas automatizados.
O alerta surge enquanto preocupações circulam online sobre ferramentas de IA lidando com funções sensíveis da conta. Um pesquisador conhecido como Impulsive alegou que o sistema de suporte de IA da Meta poderia alterar as configurações da conta do Instagram sem verificações de identidade adequadas.
Construindo IA em torno do controle do usuário
Em um post recente intitulado “Minha configuração de LLM auto-soberana / local / privada / segura”, Vitalik apresentou uma abordagem diferente para a inteligência artificial. Ele disse que muitos sistemas de IA focam na conveniência, deixando a privacidade e a segurança expostas. Ele também alertou que ferramentas baseadas em nuvem podem tornar normal que pessoas compartilhem dados pessoais sensíveis com grandes provedores centralizados.
Para reduzir esses riscos, Buterin descreveu uma configuração construída em torno de modelos locais de IA, armazenamento offline de dados e isolamento rigoroso do sistema. Ele apontou riscos como vazamentos de dados, prompts manipulados, backdoors de software ocultos e exposição acidental de informações privadas. Como resultado, ele afirmou que privacidade e segurança devem ser tratadas como requisitos básicos de design, não como recursos opcionais.
Relacionado: Michael Burry chama de ‘Fugazi’ o Acordo de GPU de US$ 5,4 Bilhões da Nvidia
IA Local e Confirmação Humana
Buterin também descreveu as ferramentas por trás de sua configuração, incluindo modelos de linguagem local, repositórios privados de dados e sistemas de sandboxing que limitam o acesso que agentes de IA podem acessar. Ele disse que também desenvolveu ferramentas de comunicação que permitem que a IA leia mensagens, mas exige aprovação humana antes de enviar qualquer coisa para outras pessoas.
Ele estendeu a mesma ideia para carteiras de criptomoedas. Nesse modelo, a IA poderia ajudar os usuários a prepararem transações, mas os humanos ainda aprovariam ações de maior risco. Ele resumiu essa abordagem dizendo: “a nova ‘confirmação de dois fatores’ é que os dois fatores são o humano e o LLM.”
Tecnologias Santuário para a Era da IA
O investidor Saito relacionou as opiniões de Buterin ao que ele chama de “tecnologias santuário”. Em uma discussão recente de podcast, Buterin disse que o maior risco da IA não é apenas falha técnica, mas sim pessoas que lentamente entregam decisões para sistemas administrados por empresas ou inteligência centralizada.
Ele disse que a tecnologia deveria expandir a escolha do usuário, e não substituí-la. Em sua visão, o Ethereum representa um sistema alternativo que as pessoas podem adotar ou abandonar à vontade. Ele também incentivou os desenvolvedores a criarem ferramentas que protejam a privacidade e mantenham a tomada de decisão nas mãos dos usuários.
Relacionado: Binance adiciona mais de 7.000 ações e ETFs dos EUA ao Financial Super App
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
