«Мне крайне некомфортно от того, что люди пытаются приписывать моделям ИИ религиозную силу или отказываться от собственного суждения в их пользу. Я считаю, что это реальная проблема безопасности», — написал Альтман.

Заявление прозвучало на фоне дискуссии о возможном сознании искусственного интеллекта и его моральном статусе. По данным The New York Times, компания Anthropic проводила закрытые консультации с религиозными и философскими мыслителями, обсуждая, могут ли системы вроде Claude потенциально обладать сознанием и какую роль религиозные представления могут играть в формировании их поведения.

Anthropic также изучает так называемое «благополучие моделей» — в частности, вопрос о том, могут ли продвинутые системы ИИ обладать опытом, заслуживающим морального учета.

Схожие опасения ранее высказывал глава Microsoft AI Мустафа Сулейман. Он предостерегал от разработки систем, создающих впечатление обладающих сознанием, поскольку убеждение людей в наличии у ИИ субъективного опыта может породить новые риски.

Сулейман выступает за концепцию «гуманистического ИИ», при которой искусственный интеллект остается инструментом, служащим человеку, а не воспринимается как самостоятельная сущность со своими интересами.