Плохой хороший повод: со школьным шутингом в РФ решили бороться деньгами
После трагедии в Перми структуре Росмолодежи, которая ищет в сети подростков с депрессией и анархистскими взглядами, поручили создать софт по выявлению опасных учащихся. Программисты и психологи считают, что это – невозможно, адвокаты – опасно
(Others)

На прошлой неделе Россию потрясла новость об очередном шутинге в учебном заведении – на этот раз в университете Перми. Так как она пришлась на день, когда ЦИК после значимых для власти выборов в Госдуму производил последние подсчеты, то ей не уделили столько внимания, сколько подобной трагедии, произошедшей всего четыре месяца назад в Казани. Или как раз потому, что между трагедиями прошло всего ничего, новую стрельбу решили замять и даже «откупиться» от нее. Ведь, как стало известно 23 сентября, на выявление социально опасных учащихся будет выделено 1,6 миллиарда рублей. Причем организации, деятельность которой и так вызывает массу вопросов и которая прославилась финансовыми махинациями бывших руководителей.

Что за структура получит деньги?

1,6 млрд рублей может получить структура агентства Росмолодежь, которое с недавних пор возглавляет 30-летняя Ксения Разуваева с любопытной личной биографией и стремительным карьерным ростом. Но конкретно эти деньги пойдут подведомственной Росмолу автономной некоммерческой организации «Центр изучения и сетевого мониторинга молодежной среды», или сокращенно – АНО «ЦИСМ».

Фото: (Others)

Этот центр был создан в 2018 году по личному поручению президента РФ. Его возглавил Денис Заварзин – помощник бывшего главы Росмола Александра Бугаева, которого весной 2021-го отправили на пост первого заместителя министра просвещения.

Согласно официальному сайту АНО, задача ЦИСМ – выявлять в интернете контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями. Но также – предотвращать школьный шутинг, тем более что центр появился всего за день до страшной бойни в Керчи, когда студент политехнического колледжа расстрелял там 21 человека и ранил 68.

По сути, организация важная и нужная. Но, как отмечает Forbes, ЦИСМ славится все же не делами, а своей закрытостью и вливаемыми в него бюджетами. Так, на вопрос о штате сотрудников глава Центра Денис Заварзин ответил журналисту: «Давайте я не буду называть точную цифру. Скажем, более 40 человек». Правда, он уточнил, что программистов из них «львиная доля». Но при этом только в 2022–2023 центр запланированно получит 551,1 млн рублей и в 2024-м – 555,7 млн рублей. А дополнительные 1,6 млрд рублей из бюджета ему выделят в рамках федерального проекта «Социальная активность», что звучит в отношении малоизвестного и не самого активного проекта несколько парадоксально.

Чем занимается ЦИСМ?

Сейчас, по словам Заварзина, у центра есть своя нейросеть, которая отслеживает аккаунты, где публикуется суицидальный, депрессивный и другой подобный контент. Некоторые эксперты считают, что под «подобным контентом» имеются в виду посты о ныне осужденном оппозиционном политике Алексее Навальном. Когда активность таких учетных записей растет, продолжает Заварзин, информацию по ним отправляют в профильные службы, в том числе силовикам, «для организации профилактической работы» с их владельцами.

Но… оба стрелка, устроившие шутинги в этом году, заранее писали о нападениях и, соответственно, имели следы в интернете, которые обнаружили простые пользователи уже после трагедий.

Заварзин признал: «Аккаунт (пермского стрелка – прим. редакции) не находился на постоянном мониторинге». И даже объяснил почему: «Пользователь имел средний уровень сетевой активности, лайками отмечал публикации, связанные с международной военной повесткой. Характерных маркеров, указывающих на приготовление к совершению нападения, зафиксировано не было. К тому же страница была создана лишь за месяц до трагедии, 21 августа 2021 года. Аватар отсутствовал, сетевой профиль не проявлял аномальной активности».

Фото: (Others)

Обнаружению предупреждающей записи пермского стрелка, которая появилась за 30 минут до нападения, оказалось, помешало и то, что она была сделана с помощью функции отложенной публикации. «Поэтому мы, как и представители администрации социальной сети «ВКонтакте» и правоохранительных органов, могли увидеть ее лишь в моменте», – фактически «расписался в бездейственности» Заварзин. Кроме того, оказалось, что у ЦИМС «нет мониторинга мессенджеров», поэтому они не заметили сообщений казанского стрелка. «Если у человека страница закрыта, мы ее не видим», – также рассказал Заварзин.

Тогда еще более остро встает вопрос – зачем при таких ограничениях и такой слепоте в проект хотят влить еще большие деньги? Тем более, что получается: нынешний анализ нейросетей, по сути, работает против депрессии и анархизма, против тех же «навальнят».

Также нельзя не отметить, как всего за три года трансформировалась задача центра: изначально в интернете хотели «искать опасность для детей», а теперь там ищут опасных детей.

Какой софт собираются разрабатывать?

Как уже было сказано, 1,6 млрд рублей пойдут на разработку софта для анализа письменных работ учащихся. Система поможет выявлять у детей склонности к социально опасному и деструктивному поведению. Но как именно она будет работать, пока неизвестно.

Глава Liquid Studio Accenture в России Арсений Кондратьев предположил в разговоре с РБК, что от ведомства ждут разработку нейросети, обученной на текстах, которые написали люди с психическими или социальными отклонениями. Изучив такие тексты, программа сможет распознавать паттерны, анализируя образцы письменных работ учащихся. Работы с высоким процентом совпадения паттерна могут маркироваться соответствующим образом.

Фото: (Others)

Впрочем, эксперты Secretmag.ru отметили, для полноценной работы такой системы нужно не только встроить в ее алгоритм слова-маркеры, но и научить ее грамотно распознавать поведенческие отклонения и контекст.

Эту мысль подтвердил и доктор психологических наук, академик Российской академии образования Сергей Малых. Он категорично отметил: «Чтобы понять, как связано написанное ребенком с его состоянием, нужно проводить отдельное поведенческое исследование. Только на основании текста нельзя делать выводы о склонностях к преступлениям или суициду».

А директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин открыто заявил, что «сама по себе психолого-лингвистическая экспертиза – это очень мутное дело». «Там столько субъективизма, что разрушить молодому человеку всю последующую жизнь только из-за того, что он написал не то слово, можно по щелчку пальца, – отметил он порталу NEWS.ru. – Бездушная бюрократическая машина этого вообще не заметит, а у конкретного человека фактически не из-за чего будет сломана судьба. А с учетом того, какую депрессивную литературу дети изучают в школе, не приходится удивляться тому, какие сочинения они пишут после этого. Взять одно только «Преступление и наказание»».

Сейчас он уверен, что работать система, на которую возлагают наверняка и политические надежды, «будет кое-как, хотя если выделяют такие огромные деньги и дадут разработчикам достаточное количество времени, то, может быть, что-то получится». Для того чтобы создать действительно работающую систему, необходимо предварительно провести масштабную научно-исследовательскую деятельность, уверены он и разработчик поисково-аналитической системы Avalanche Андрей Масалович.

Масалович предупреждает и о том, что при создании софта нужно будет определиться даже с тем, переводить рукописный текст в машинописный или нет. «В рукописном тексте можно было бы проанализировать не только семантику, но и оценить почерк, понять индивидуальные особенности человека и таким образом распознать потенциальную склонность к тем или иным отклонениям».

А детский психиатр Европейского медицинского центра Павел Зайцев заявил Tjournal.ru, что в принципе не знает о существовании доказательного программного обеспечения по психологическому анализу письменных работ где бы то ни было в мире. Кроме того, опираясь на свой опыт работы, он считает, что анализ может дать эффект, только если тексты учащихся будут на свободную, а не на строго заданную тему.

Что с законом о персональных данных учащихся?

Но даже если такая программа будет создана, то как ее внедрить в жизнь, учитывая закон о персональных данных? Эксперты в один голос обращают внимание на то, что оценка текстов несовершеннолетних, как и сбор и обработка их данных, возможны в России только с согласия законных представителей, то есть родителей или опекунов.

Фото: (Others)

Разработчик Avalanche Андрей Масалович говорит, что в таком случае тексты учащихся должны быть обезличены, каждому подростку должен присваиваться индивидуальный идентификатор, который может декодировать только доверенная служба разработчиков программного обеспечения, например в системе правоохранительных органов. И в случае утечки данных ответственность за это будут нести именно они.

Этот момент, кстати, акцентируют многие специалисты, отмечая, что подобная программа и база данных могут быть сделаны только на основании государственной информационной системы, которая имеет аттестацию в ФСБ и ФСТЭК (Федеральной службе по техническому и экспортному контролю). Директор АНО «Инфокультура» Иван Бегтин говорит: «Создание такой системы на базе некоммерческой организации, пусть и с госучастием, – сомнительное мероприятие, так как неясно, как будет обеспечиваться защита и сохранность данных несовершеннолетних».

Адвокат Станислав Селезнев также указал, что, по крайней мере, на нынешнем этапе «невозможно утверждать, что данные (об учащихся – прим. редакции) не попадут никому, кроме психологов». И Роман Душкин подчеркивает, что «сложно сказать, где что будет использоваться и куда будет передаваться в нашем веке, который опутан цифровыми технологиями и когда создаются единые виртуальные цифровые пространства».

Но у этой «медали» есть еще одна сторона. Согласно расчетам «Новой газеты», с 2018 года силовики отчитались о предотвращении 69 случаев подросткового терроризма в России. За этот период совершено около 20 нападений в учебных заведениях, в том числе с холодным оружием. В некоторых делах о «предотвращенных» «Колумбайнах» адвокаты, правозащитники и журналисты находили признаки фальсификаций. Может быть, в этом и кроется причина вливаний?

TRT Russian