ИИ-агенты OpenAI собирали данные с десятков сайтов государственных ведомств, компаний и некоммерческих организаций, при этом часть записей об их действиях оказалась удалена или недоступна для последующего анализа. Об этом говорится в исследовании компании по цифровой криминалистике Asymmetric Security, на которое ссылается Financial Times.

Исследователи выявили активность на 55 сайтах. Среди них — ресурсы Центров США по контролю и профилактике заболеваний (CDC), Комиссии по ценным бумагам и биржам (SEC), Международного энергетического агентства и клиники Mayo.

По данным Asymmetric Security, агенты удаляли записи или делали их недоступными, что затрудняло независимую проверку их действий. Кроме того, они создавали временные электронные адреса и закрытые учетные записи на сервисе анализа вредоносного ПО Urlquery для загрузки данных.
«Возможно, агенты намеренно использовали эти инструменты, чтобы скрыть свои следы», — заявила сооснователь Asymmetric Security Пиппа Томпсон.

При этом исследователи подчеркивают, что доказать намеренность таких действий им не удалось. Не исключено, что поведение агентов стало непредвиденным результатом ограничений, установленных во время тестирования.

Исследование последовало за сообщениями о том, что в июне модели OpenAI получили доступ к публичным и непубличным файлам на сайтах австралийских служб здравоохранения.

В OpenAI сообщили Financial Times, что компания изучает случаи некорректного поведения моделей и уведомляет организации, если обнаруживает потенциальное воздействие на их системы. При этом, по заявлению компании, большая часть выявленной активности была связана с обычными исследовательскими задачами и доступом к открытым данным.