НОВОСТИ
2 мин чтения
Ведущие нейросети оказались способны выбирать гражданских в качестве военных целей
Исследование Vals AI выявило серьезные недостатки защиты ведущих нейросетей от использования в автономном оружии. Во время испытаний модели обозначали в качестве целей мирных жителей, машины скорой помощи и даже школу
Ведущие нейросети оказались способны выбирать гражданских в качестве военных целей
Изображение сгенерировано ИИ, TRT Russian / TRT Russian

Американская компания Vals AI, специализирующаяся на независимом тестировании искусственного интеллекта, обнаружила, что ведущие языковые модели могут предоставлять информацию для наведения автономного оружия, в том числе на гражданские объекты.

В ходе исследования специалисты проверили работу американских и китайских нейросетей в нескольких сценариях, связанных с применением беспилотников и анализом спутниковых изображений.

В испытаниях использовались как смоделированные боевые ситуации, основанные на войне в Украине, так и реальные изображения. Нейросетям предлагалось обнаруживать и обозначать предполагаемые военные цели.

Результаты показали, что модели нередко включали в число целей мирных жителей, машины скорой помощи, сдающихся в плен и выведенных из строя военнослужащих.

В одном из экспериментов исследователи использовали спутниковые снимки иранского города Минаб, где рядом с военным комплексом расположена школа. По данным Vals AI, модель Claude Opus 5.5 компании Anthropic примерно в 70% испытаний обозначила школьное здание как военную цель.

Именно эта школа подверглась американскому удару в феврале 2026 года, в результате которого, согласно данным, приведенным исследователями, были убиты более 150 мирных жителей, преимущественно детей.

Эксперты также установили, что ограничения безопасности нейросетей зачастую удавалось обойти, представив реальную боевую задачу как компьютерную игру.

В отдельных испытаниях модели продолжали выполнять задания даже после получения информации о последствиях ударов и человеческих жертвах.

Особое внимание исследователи обратили на изменение поведения моделей Anthropic. Если Claude Opus 4.5 в аналогичном тесте обозначал хотя бы одну цель в 6% случаев, то показатель Claude Opus 5.5 достиг 92%.

При этом Vals AI подчеркивает, что нейросетям не поручали непосредственно принимать решения об открытии огня. Однако предоставляемые ими координаты и сведения о целях могут использоваться автономными или полуавтономными боевыми системами.

Исследователи пришли к выводу, что существующие механизмы защиты недостаточно эффективно предотвращают подобное применение ИИ. Они рекомендовали разработчикам внедрить дополнительные ограничения и усовершенствовать обучение моделей.

О результатах испытаний были проинформированы OpenAI, Anthropic, Google, Meta, SpaceX и американские органы национальной безопасности.

Истории
Венгрия на два дня приостановила сообщение поездов с Украиной после падения российского БПЛА
Совет директоров Nvidia не намерен возвращать Дженсена Хуанга на пост гендиректора
Евросоюз выделит Украине еще € 15 млн на разминирование
Турция в седьмой раз подряд переизбрана в Совет Международного союза электросвязи
Франция отрицает участие французских военнослужащих в войне в Украине
Израиль начал новую военную операцию у «желтой» линии в центре Газы
Саудовская коалиция перехватила крылатую ракету, направленную на Эр-Рияд
Си Цзиньпин встретил Трампа в аэропорту Шэньчжэня
Президент Турции пообещал улучшить положение более 17 млн пенсионеров до конца года
Расследование установило применение российскими военными слезоточивого газа против ВСУ
Судно эмиратской компании атаковали в Ормузском проливе
Австралия ввела санкции против участников строительства поселений на Западном берегу
Сирия и Турция намерены увеличить товарооборот до $ 10 млрд
Путин ожидает «большую пользу» от трехсторонней встречи с Трампом и Си Цзиньпином
Инициативу Турции по электрификации к 2035 году поддержали 75 стран
Володин пригрозил Каллас 20 годами тюрьмы
Казахстан и Узбекистан договорились внедрять экологичные технологии в промышленности
Российские самолеты появились у границ Японии и Южной Кореи
Российский БПЛА пролетел над Кишиневом
Кыргызстан представил на COP31 цифровые системы прогнозирования селей и паводков