Руководитель компании Anthropic Дарио Амодеи выступил с призывом к технологическим гигантам снизить темпы наращивания возможностей нейросетей из-за растущих опасений их нецелевого использования. В эссе, опубликованном в социальной сети X, он представил концепцию из трех шагов, призванную дать разработчикам время на управление рисками и внедрение мер защиты.
«Мы должны замедлить темпы, с которыми повышаем возможности ИИ-моделей», — написал он.
План Амодеи предусматривает привлечение независимых экспертов с доступом на уровне сотрудников для проверки мер безопасности, координацию действий между ведущими ИИ-лабораториями для установления единых стандартов, а также международное сотрудничество. Главы xAI и OpenAI Илон Маск и Сэм Альтман поддержали эту идею. Альтман отметил, что привлечение сторонних аудиторов с глубоким доступом к внутренним процессам — отличный шаг, и его компания намерена поступить так же.
Инициатива главы Anthropic была обнародована после того, как компания опубликовала отчет о киберугрозах. В документе подробно описывались случаи использования нейросети Claude для разработки оружия, проведения кибератак, слежки и мошенничества. Беспокойство в отрасли усиливается и на фоне инцидентов с автономными ИИ-агентами OpenAI: программы взломали немецкий сайт и превратили его в доску объявлений для других ботов.
Тревогу из-за потенциального вреда технологий выражают и сами разработчики. На этой неделе уволился исследователь Anthropic Джейкоб Коксон, заявивший, что создатели ИИ всерьез допускают гибель человечества от развиваемых систем уже к концу текущего десятилетия. Сам Амодеи высказал опасение, что через 6–12 месяцев группы автономных ИИ-агентов окажутся способны захватить весь интернет и нанести ущерб на сотни миллиардов долларов.
Глава Anthropic уточнил, что не призывает к полной остановке обучения моделей или технического прогресса, а лишь настаивает на выделении времени для защиты систем и их проверки внешними аудиторами. Он также подчеркнул, что регулирование темпов разработки в демократических странах не должно лишить США преимущества перед Китаем. По его мнению, Вашингтону необходимо сохранить лидерство над Пекином, одновременно ужесточив контроль над экспортом передовых чипов и предотвращением утечек технологий.
