- Vitalik advierte que el crecimiento de la IA podría privar a los usuarios del control sobre los datos y las cuentas digitales en línea.
- Insta a los sistemas locales de IA y a la aprobación humana para reducir los riesgos de las herramientas de inteligencia basadas en la nube.
- Los expertos vinculan su visión con la «tecnología santuario», que mantiene el poder de decisión en manos de los usuarios, no de las plataformas.
El debate sobre la seguridad de la IA y el control digital ha crecido después de que el cofundador de Ethereum, Vitalik Buterin, advirtiera que las personas podrían perder el control de sus cuentas online y datos personales a medida que los sistemas de IA se vuelven más potentes. Pidió «identidad soberana, datos y dinero», diciendo que los usuarios deberían mantener el control directo de su vida digital en lugar de depender de plataformas de terceros o sistemas automatizados.
La advertencia surge mientras circulan en línea preocupaciones sobre herramientas de IA que gestionan funciones sensibles de la cuenta. Un investigador conocido como Impulsive alegó que el sistema de soporte de IA de Meta podría cambiar la configuración de la cuenta de Instagram sin comprobaciones de identidad adecuadas.
Construyendo IA alrededor del control del usuario
En una reciente entrada de blog titulada «Mi configuración de LLM autosoberana / local / privada / segura», Vitalik expuso un enfoque diferente de la inteligencia artificial. Dijo que muchos sistemas de IA se centran en la comodidad mientras dejan expuestas la privacidad y la seguridad. También advirtió que las herramientas basadas en la nube podrían hacer normal que las personas compartan datos personales sensibles con grandes proveedores centralizados.
Para reducir esos riesgos, Buterin describió una configuración basada en modelos locales de IA, almacenamiento de datos offline y un estricto aislamiento del sistema. Señaló riesgos como fugas de datos, prompts manipulados, puertas traseras ocultas de software y la exposición accidental de información privada. Como resultado, afirmó que la privacidad y la seguridad deberían tratarse como requisitos básicos de diseño, no como características opcionales.
Relacionado: Michael Burry califica la oferta de GPU de Nvidia de 5.400 millones de dólares como ‘Fugazi’
Confirmación local de IA y humanos
Buterin también describió las herramientas detrás de su configuración, incluyendo modelos de lenguaje local, almacenes privados de datos y sistemas de sandboxing que limitan a qué pueden acceder los agentes de IA. Dijo que también desarrolló herramientas de comunicación que permiten a la IA leer mensajes pero requieren la aprobación humana antes de enviar cualquier cosa a otras personas.
Extendió la misma idea a las carteras de criptomonedas. En ese modelo, la IA podría ayudar a los usuarios a preparar las transacciones, pero los humanos seguirían aprobando acciones de mayor riesgo. Resumió este enfoque diciendo: «la nueva ‘confirmación de dos factores’ es que los dos factores son el humano y el LLM.»
Tecnologías Santuario para la Era de la IA
El inversor Saito vinculó las opiniones de Buterin con lo que él denomina «tecnologías santuario». En una reciente discusión sobre un podcast, Buterin dijo que el mayor riesgo de la IA no es solo un fracaso técnico, sino que las personas van entregando lentamente las decisiones a sistemas gestionados por empresas o inteligencia centralizada.
Afirmó que la tecnología debería ampliar la elección del usuario en lugar de reemplazarla. En su opinión, Ethereum representa un sistema alternativo que las personas pueden adoptar o abandonar a voluntad. También animó a los desarrolladores a crear herramientas que protejan la privacidad y mantengan la toma de decisiones en manos de los usuarios.
Relacionado: Binance añade más de 7.000 acciones y ETFs estadounidenses a Financial Super App
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
