НОВОСТИ
2 мин чтения
Anthropic предупредила о риске самораспространения ИИ
Эксперты спорят о том, насколько реалистичен сценарий, при котором искусственный интеллект сможет самостоятельно распространяться через подключенные к интернету устройства
Anthropic предупредила о риске самораспространения ИИ
Американская технологическая компания в сфере ИИ Anthropic

Anthropic заявила, что современные модели уже способны выполнять многие отдельные задачи, необходимые для автономного копирования, хотя пока не могут надежно пройти весь процесс от начала до конца.

В опубликованном отчете компания отметила, что модели среднего размера, содержащие до 30 млрд параметров, потенциально могут объединять вычислительные ресурсы, получая доступ к недорогим устройствам, подключенным к интернету. В перспективе такие сети могли бы использовать мощности центров обработки данных и противостоять попыткам отключения.

Anthropic также заявила, что смогла воспроизвести отдельные элементы этого сценария в упрощенной тестовой сети. «Отключить такой репликатор будет сложно, потому что нет центральной точки для его отключения», — говорится в отчете. По оценке компании, если нынешние темпы развития сохранятся, небольшие модели могут достичь необходимого для автономного копирования уровня к концу 2026 года.

Однако эксперты расходятся в оценках возможных последствий. Киаран Мартин, бывший глава Национального центра кибербезопасности Великобритании, назвал публикацию «интересным техническим документом с признаками преувеличения со стороны поставщиков». «Фраза „Нам удалось запустить небольшую модель на дешевых телевизорах“ не означает, что существует кризис безопасности», — отметил он.

В то же время Чжэнсюн Ли, доцент кафедры компьютерных наук и инженерии Университета Колорадо в Денвере, обратил внимание на возможность распространения ИИ по аналогии с компьютерным червем — программой, которая самостоятельно передается между устройствами. Если такая система будет работать на множестве устройств без привязки к центральному сервису, единой точки для ее остановки может не оказаться.

Джессика Джи, старший аналитик-исследователь Центра безопасности и новых технологий Джорджтаунского университета, подчеркнула, что вероятность такого развития событий остается неизвестной. «Мы пока не знаем, какова вероятность того, что это действительно произойдет. Она не равна нулю, но и не гарантирована», — сказала она.

Среди других опасений, связанных с развитием ИИ, — автоматизация кибератак, сокращение необходимости участия человека и способность систем обходить защитные механизмы. При этом техническая возможность отдельных операций сама по себе не доказывает, что автономное самораспространение ИИ станет реальной угрозой в ближайшее время.

Истории
США попросили Китай помочь завершить войну с Ираном — The Washington Post
В Анталье стартует климатический саммит ООН COP31
Турция и Ирак договорились о передаче военного объекта Башика–Зиликан Багдаду
Президент Эрдоган завершил визит в Азербайджан
Президенты Турции и Азербайджана посетили памятные места Карабаха
Зеленский заявил о массированных ударах по энергетике Украины
Попытки ослабить союз Турции и Азербайджана обречены на провал — президент Эрдоган
Москва, Вашингтон и Пекин готовят встречу лидеров?
Президент Эрдоган прибыл в Азербайджан на празднование Дня Победы
Бразилия проверяет след израильских агентов в бегстве Болсонару
В Азербайджане отмечают День Победы
Израильские рейды охватили оккупированный Западный берег
Хуситы атаковали столицу Саудовской Аравии
В Польше объявлен национальный траур из-за стрельбы в Кракове
Власти Польши заявили об ультраправых взглядах террориста в Кракове
Иран пригрозил США «сокрушительным ответом» в случае возобновления войны
Ливни затопили 70 тысяч палаток в секторе Газа
Герцог поручит Айзенкоту сформировать правительство Израиля
Трамп пригласил Хабиба и Ислама работать в Белом доме
Россия атаковала Киев ракетами КНДР, заявил Зеленский