Anthropic утверждает, что ИИ однажды может создать своих собственных преемников

• Anthropic сообщает, что Claude теперь пишет большую часть кода, используемого для разработки собственных систем ИИ, что повышает продуктивность.
• Компания сообщает, что возможности ИИ растут быстрее, а сложность задач удваивается примерно каждые четыре месяца.
• Anthropic предупреждает, что ИИ со временем может помочь создать более качественный ИИ, что усложнит контроль и безопасность.

Компания Anthropic, занимающаяся искусственным интеллектом, заявляет, что ИИ развивается настолько быстро, что начинает помогать создавать следующее поколение систем ИИ. Компания предупреждает, что это в конечном итоге может усложнить человеку контроль над разработкой ИИ.

В новой научной статье Anthropic обсудил возможность «рекурсивного самосовершенствования». Это ситуация, когда системы ИИ проектируют, строят и обучают более продвинутые системы ИИ с минимальным участием человека.

Компания подчеркнула, что этого пока не произошло и, возможно, никогда не произойдёт. Однако она считает, что правительства, регуляторы и технологические компании должны начинать готовиться уже сейчас.

«Мы ещё не достигли этого, и рекурсивное самосовершенствование не неизбежно. Но это может случиться раньше, чем большинство учреждений готовы», — сказал Anthropic.

Клод играет большую роль в развитии ИИ

Anthropic заявляет, что их модель Claude AI значительно вышла за рамки базового ассистента по программированию.

Компания описала, как эволюционировали инструменты ИИ. Сначала инженеры писали код сами. Позже чат-боты помогли с небольшими задачами по программированию. Затем появились ИИ-агенты кода, которые могли самостоятельно редактировать файлы и управлять проектами.

Сегодня агенты ИИ могут писать и запускать код, выполнять задачи самостоятельно и даже назначать задачи другим агентам ИИ. По данным Anthropic, следующий шаг — это системы ИИ, которые активно помогают создавать и обучать будущие модели ИИ.

Компания сообщила, что теперь Клод пишет большую часть кода, используемого для разработки собственных систем ИИ Anthropic. В результате разработчики становятся гораздо продуктивнее. Anthropic отмечает, что средний инженер сейчас производит примерно в восемь раз больше кода в день, чем в 2024 году.

Связано: Президент Anthropic говорит, что рост стоимости обучения ИИ влияет на планы IPO

Возможности ИИ растут быстрее

Anthropic сообщает, что публичные тесты и внутренние исследования показывают, что возможности ИИ быстро развиваются. Компания утверждает, что продолжительность и сложность задач, которые ИИ может надёжно выполнять, удваиваются примерно каждые четыре месяца. Ранее этот темп роста был ближе к каждым семи месяцам.

Anthropic привела в пример прогресс своих моделей Клода. В марте 2024 года Claude Opus 3 мог выполнять задачи по разработке программного обеспечения, которые занимали бы у человека около четырёх минут. Год спустя, по сообщениям, Claude Sonnet 3.7 мог выполнять задачи, требующие около 90 минут человеческой работы.

К 2026 году, по сообщениям, Claude Opus 4.6 был способен выполнять задачи, эквивалентные примерно 12 часам человеческой работы.

Исследовательские способности Клода также улучшились. В одном из внутренних проектов агенты с помощью Клода решили почти всю крупную исследовательскую задачу.

Anthropic также сообщил, что успех Клода в сложных задачах по программированию достиг 76% в мае 2026 года, что является значительным улучшением по сравнению с шесть месяцами ранее.

Три возможных будущего для ИИ

Anthropic выделил три возможных направления развития ИИ. Первая — это замедление, когда прогресс становится всё труднее достичь со временем.

Второй — это будущее, в котором ИИ продолжит повышать продуктивность, а люди сохранят контроль над важными решениями и контролем.

Третий и самый драматичный сценарий — это когда системы ИИ начинают создавать своих преемников, что ведёт к гораздо более быстрому прогрессу.

Исходя из существующих данных, Anthropic считает второй сценарий наиболее вероятным. Однако компания отмечает, что всё ещё сохраняется неопределённость относительно того, насколько быстро могут развиваться возможности ИИ.

Человеческий контроль может стать самой большой проблемой

Anthropic отмечает, что у людей всё ещё есть важные сильные стороны, включая суждение, стратегическое мышление и умение решать, какие задачи стоит решать. Однако компания утверждает, что самой большой проблемой вскоре может стать человеческий контроль, а не само развитие ИИ.

По мере того как системы ИИ становятся более эффективными, людям становится всё сложнее проверять, проверять и безопасно контролировать свою работу.

В связи с этим Anthropic предлагает правительствам и ведущим компаниям в области ИИ разработать планы временного замедления разработки самых современных систем ИИ, если прогресс начнёт двигаться быстрее, чем общество может безопасно управлять.

Компания отметила, что любое значимое замедление, вероятно, потребует международного сотрудничества. Если только одна компания приостановит разработку, конкуренты смогут продолжать вперёд, снижая эффективность меры безопасности.

Пока что Anthropic утверждает, что рекурсивное самосовершенствование остаётся возможностью, а не гарантией. Но по мере того как Claude играет всё большую роль в создании будущих систем ИИ, компания считает, что обсуждения управления ИИ, надзора и безопасности должны начаться как можно скорее, чем позже.

Связанный: Убивает ли ИИ биткоин? Почему капитал сейчас переходит на технологии искусственного интеллекта