- Виталик предупреждает, что рост ИИ может лишить пользователей контроля над данными и цифровыми аккаунтами в интернете.
- Он призывает к локальным системам ИИ и одобрению человека для снижения рисков, связанных с облачными инструментами разведки.
- Эксперты связывают его взгляд с «технологиями убежищ» — сохранением власти принятия решений за пользователями, а не за платформами.
Дебаты о безопасности ИИ и цифровом контроле обострились после того, как соучредитель Ethereum Виталик Бутерин предупредил, что люди могут потерять контроль над своими онлайн-аккаунтами и личными данными по мере того, как системы ИИ станут более мощными. Он призвал к «самоуверенной идентичности, данным и деньгам», утверждая, что пользователи должны сохранять прямой контроль над своей цифровой жизнью, а не полагаться на сторонние платформы или автоматизированные системы.
Это предупреждение появилось на фоне распространения опасений в интернете по поводу того, что инструменты ИИ управляют функциями чувствительных аккаунтов. Исследователь по имени Impulsive утверждал, что система поддержки ИИ от Meta может менять настройки аккаунта Instagram без надлежащей проверки личности.
Создание ИИ вокруг управления пользователями
В недавнем блоге под названием «Моя самоуверенная / локальная / частная / безопасная LLM-система» Виталик изложил иной подход к искусственному интеллекту. Он отметил, что многие системы искусственного интеллекта ориентированы на удобство, оставляя при этом уязвимыми вопросы конфиденциальности и безопасности. Он также предупредил, что облачные инструменты могут сделать нормальным обмен чувствительными персональными данными с крупными централизованными провайдерами.
Чтобы снизить эти риски, Бутерин описал схему, построенную на локальных моделях ИИ, офлайн-хранении данных и строгой системной изоляции. Он указал на такие риски, как утечки данных, манипулируемые подсказки, скрытые программные бэкдоры и случайное раскрытие личной информации. В результате он отметил, что конфиденциальность и безопасность должны рассматриваться как базовые требования к дизайну, а не как дополнительные функции.
Связано: Майкл Берри назвал сделку Nvidia по GPU в 5,4 миллиарда долларов «Fugazi»
Локальный ИИ и подтверждение человека
Бутерин также описал инструменты, лежащие в основе своей системы, включая локальные языковые модели, частные хранилища данных и системы песочницы, ограничивающие доступ агентов ИИ. Он также разработал инструменты для коммуникации, которые позволяют ИИ читать сообщения, но требуют одобрения человека перед отправкой чего-либо другим людям.
Он распространил ту же идею и на криптовалютные кошельки. В этой модели ИИ может помогать пользователям готовить транзакции, но люди всё равно одобряют более рискованные действия. Он подытожил этот подход словами: «Новое ‘двухфакторное подтверждение’ — это два фактора — это человек и LLM.»
Технологии убежища для эпохи ИИ
Инвестор Сайто связал взгляды Бутерина с тем, что он называет «технологиями убежищ». В недавнем обсуждении подкаста Бутерин сказал, что больший риск от ИИ — это не только технические сбои, но и постепенная передача решений системам, управляемым компаниями или централизованным интеллектом.
Он отметил, что технологии должны расширять выбор пользователя, а не заменять его. По его мнению, Ethereum представляет собой альтернативную систему, которую люди могут принять или покинуть по своему желанию. Он также призвал разработчиков создавать инструменты, защищающие конфиденциальность и оставляющие принятие решений в руках пользователей.
Связано: Binance добавил более 7 000 американских акций и ETF в Financial Super App
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
