Машины создают машины: разработчики предупреждают о появлении полностью автономного ИИ

Скорость развития искусственного интеллекта стремительно растет, и вскоре нейросети смогут самостоятельно создавать свои улучшенные версии.

Об этом заявили сооснователь компании Anthropic Джек Кларк и глава The Anthropic Institute Марина Фаваро.

Если раньше возможности машинного разума удваивались каждые семь месяцев, то теперь это происходит раз в четыре месяца.

В марте 2024 модель Claude Opus 3 могла решать задачи, на которые у человека уходило четыре минуты.

Спустя год версия Sonnet 3.7 справлялась с полуторачасовыми заданиями, а представленная в 2026 Opus 4.6 автономно работает над проектами по двенадцать часов.

Эксперты ожидают, что в 2027 году нейросеть сможет за несколько часов выполнять работу, на которую живой специалист тратит недели.

Машинный интеллект быстро достигает потолка в бенчмарках SWE-bench и CORE-Bench, которые проверяют навыки написания программ и воспроизведения сложных научных исследований.

Прогресс отлично виден внутри самой корпорации Anthropic.

К маю 2026 искусственный интеллект пишет более 80% всего кода компании.

Благодаря этому инженеры выдают в восемь раз больше готовых решений, чем два года назад.

Качество машинного кода уже сравнялось с человеческим.

Теперь Claude сам проверяет работу программистов и находит до трети критических уязвимостей еще до релиза.

В одном из апрельских проектов ИИ самостоятельно исправил более восьмисот ошибок в API, на что у обычного сотрудника ушло бы около четырех лет.

В исследовательских задачах агенты работают быстрее и точнее людей, самостоятельно формулируя и проверяя гипотезы.

В недавних тестах по безопасности ИИ закрыл 97% проблемы за восемьсот часов работы, потратив 18 тысяч долларов на вычислительные мощности.

Для сравнения: два квалифицированных специалиста за неделю осилили лишь 23% работы.

Людям остается только задавать общее направление.

Авторы статьи выделяют три возможных сценария будущего.

В первом случае прогресс замедляется, но технологии все равно массово внедряются повсеместно. Во втором сценарии нейросети берут на себя всю рутину.

Компании из ста человек смогут легко выполнять объемы корпораций со штатом в сто тысяч сотрудников.

Однако общее ускорение неизбежно упрется в закон Амдала, при котором скорость работы ограничится узким местом в виде необходимости человеческих согласований.

Третий вариант предполагает полное рекурсивное самосовершенствование. ИИ начнет сам проектировать новые модели без участия человека.

Такой рывок может принести огромную пользу науке и медицине, однако риск потери контроля над системами многократно возрастет.

Экономика изменится до неузнаваемости, если человеческий труд перестанет быть конкурентоспособным.

Ученые уверены, что миру жизненно необходим надежный международный механизм контроля.

Он должен позволять разработчикам синхронно и прозрачно ставить обучение мощных моделей на паузу, чтобы общество и законы успевали адаптироваться.

Односторонняя заморозка проектов отдельными компаниями не даст результата, поэтому Anthropic планирует активно привлекать к обсуждению политиков и независимых исследователей.