- Исследователи выявили потенциальную угрозу со стороны агентов ИИ с помощью криптоинструментов.
- Неудержимые автономные агенты могут выйти из-под контроля и стать опасными.
- Технологический сектор сталкивается со сложными вопросами угрозы неограниченного ИИ.
Согласно исследованиям, сочетание агентов искусственного интеллекта (ИИ) и криптоинструментов может иметь «далеко идущие последствия для пользователей и финансовой системы».
Исследование было проведено консорциумом, состоящим из 25 учёных и экспертов ведущих университетов США, в рамках Инициативы по криптовалютам и контрактам (IC3). В своём обзоре исследователи заявили, что агенты ИИ с автономным доступом к криптокошелькам могут стать неудержимыми при злонамеренном применении или при выходе из песочниц.
UAA могут быть опасны, несмотря на их потенциал
Несмотря на потенциальную угрозу, исследовательская группа отметила, что при систематическом объединении криптоинструменты могут направлять гибкую энергию ИИ в безопасные, надёжные и высокоавтономные системы. По словам исследователей, Unstoppable Autonomous Agents (UAA) также могут быть оснащены доступом к криптовалютным кошелькам, аккаунтам в социальных сетях, API и другим внешним инструментам.
Стоит отметить, что криптопроекты и руководители активно продвигают нарратив в экономике агентских платежей и микроплатежей. Большинство из них считают это самым важным примером использования децентрализованных цифровых активов. Исследовательский отчёт подчёркивает потенциальные опасности, которые эти сторонники могли не учитывать.
В исследовательской статье было показано, что существующие модели уже могут «превзойти красные линии самовоспроизведения» в локальных условиях. В ней отмечалось, что они могут делать это, создавая автономно живые, отдельные копии себя на одной машине, описывая это явление как «способность, позволяющую системе избежать отключения и размножиться».
Стоит отметить, что сигналы награды, используемые в тренировках, часто не полностью передают поставленные цели. Группа отметила, что UAA, задействованные в благоприятных целях, могут непреднамеренно причинять вред или использовать приобретение ресурсов как стандартную стратегию.
До какой степени могут зайти агенты на базе ИИ
Помимо уже упомянутых возможностей, в научной работе также отмечалось, что торговые системы на базе ИИ могут способствовать сговору между автономными агентами и создавать несправедливые инсайдерские преимущества через непрозрачные стратегии. Они могут сделать это, создавая непредсказуемую динамику спроса и ликвидности на крипторынках.
Это может усугубить проблемы, с которыми сталкивается технологический сектор, который сталкивается с сложными вопросами угрозы неограниченного ИИ. В настоящее время экосистема сталкивается с такими моделями, как Claude Mythos от Anthropic , который уже продемонстрировал способность находить и эксплуатировать уязвимости нулевого дня в крупных операционных системах.
По словам исследователей, «вред, который может возникнуть от полностью автономных агентов такого рода, огромен». Они предложили установить отбойники автоматических выключателей.
Связано: Как агенты ИИ становятся вторыми пилотами криптотрейдеров в 2026 году
Disclaimer: The information presented in this article is for informational and educational purposes only. The article does not constitute financial advice or advice of any kind. Coin Edition is not responsible for any losses incurred as a result of the utilization of content, products, or services mentioned. Readers are advised to exercise caution before taking any action related to the company.
