Искусственный интеллект все активнее пытаются использовать не только для мошенничества и кибератак, но и в проектах, потенциально связанных с созданием оружия. Компания Anthropic сообщила, что за последние восемь месяцев пресекла несколько случаев опасного применения своей модели Claude.
Наиболее серьезными компания назвала пять эпизодов, когда пользователи обращались к возможностям Claude таким образом, что полученная информация могла способствовать разработке биологического оружия.
В Anthropic подчеркнули сложность выявления подобных случаев: одни и те же научные сведения могут применяться как для создания биологического оружия, так и для разработки вакцин и методов лечения заболеваний.
«Биологическое злоупотребление» компания назвала одним из наиболее серьезных рисков передовых моделей искусственного интеллекта, предупредив, что без эффективных защитных механизмов последствия могут оказаться «катастрофическими».
Еще в шести выявленных случаях Claude использовали при разработке программного обеспечения для обычных вооружений — в том числе ракет, вооруженных беспилотников, бомб и других боеприпасов, а также систем наведения и управления.
Отдельное место в докладе занимают кибероперации. По данным Anthropic, инструменты компании использовали киберпреступники и связанные с государствами хакерские группы.
В частности, группа, чья деятельность, по оценке компании, соответствует российской Midnight Blizzard, предположительно использовала искусственный интеллект для создания системы, способной определять обнаружение вредоносного ПО средствами защиты и автоматически переписывать код, пытаясь обойти их.
В частности, Anthropic сообщила об активности Midnight Blizzard — российской хакерской группы, также известной как APT29 и Cozy Bear. Власти США и Великобритании связывают ее с российской Службой внешней разведки (СВР). Группировка специализируется на кибершпионаже и атаках на государственные учреждения, дипломатические структуры, аналитические центры и технологические компании в США и Европе.
Midnight Blizzard получила широкую известность после масштабной атаки через программное обеспечение SolarWinds, затронувшей американские государственные ведомства и крупные компании. Позднее группировка проникла в корпоративную почту Microsoft, а американское Агентство по кибербезопасности и защите инфраструктуры (CISA) сообщало о похищении переписки федеральных ведомств США.
Теперь, по данным Anthropic, связанная с Midnight Blizzard операция использовала Claude для создания системы, которая определяла, когда вредоносная программа обнаруживается средствами киберзащиты, и автоматически изменяла код, пытаясь избежать обнаружения.
Компания утверждает, что пресекала выявленные операции с декабря 2025-го по август 2026 года, а полученные данные использовала для усиления механизмов безопасности. В отдельных случаях информация передавалась властям и партнерам в технологической отрасли.
Доклад появился на фоне растущих опасений вокруг скорости развития искусственного интеллекта. Эксперты все чаще предупреждают, что возможности наиболее мощных моделей развиваются быстрее механизмов, призванных контролировать связанные с ними риски.
