Искусственный интеллект начинает играть все более заметную роль в разработке следующего поколения самого ИИ. Модель Claude уже берет на себя ведущую роль примерно в 26% исследовательских и инженерных задач внутри Anthropic, сообщает The Washington Post со ссылкой на внутренний анализ компании.
Под «ведущей ролью» Anthropic понимает ситуации, когда сотрудник ставит Claude общую задачу, после чего модель самостоятельно выполняет большую часть работы, а человек контролирует процесс и определяет направление. Темпы изменений особенно заметны: еще в феврале доля таких задач была практически нулевой.
При этом полностью самостоятельно Claude пока не ведет ни одного из проанализированных направлений. Однако более чем в 90% исследований и разработок Anthropic модель уже либо работает вместе со специалистами, либо берет на себя основную часть задачи.
В компании считают, что такая динамика может указывать на приближение к так называемому самоулучшению ИИ — сценарию, при котором искусственный интеллект помогает создавать все более совершенные версии систем при постепенно уменьшающемся участии человека.
Насколько современные модели близки к такому уровню, Anthropic не уточняет.
Масштаб использования ИИ внутри компании уже значителен. По данным Anthropic, в августе около 30 тыс. ИИ-агентов одновременно выполняли исследовательские и инженерные задачи на ее наиболее используемой внутренней платформе. Их действия контролируются специальными системами, которые должны выявлять потенциально проблемное поведение и передавать такие случаи людям для проверки.
Anthropic призывает другие ведущие компании в сфере ИИ также публиковать подобные показатели, чтобы исследователи, государства и общество могли понимать, насколько быстро технологии начинают участвовать в собственном развитии.
Данные появились на фоне новой дискуссии о безопасности искусственного интеллекта. Глава Anthropic Дарио Амодеи ранее призвал ведущих разработчиков согласовать замедление создания наиболее мощных моделей, чтобы получить больше времени для разработки мер безопасности.
