Автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды» (АНО «ЦИСМ»), созданная по поручению Владимира Путина, займется выявлением информации, которая может склонить детей к действиям, представляющим угрозу их жизни или жизни окружающих. Из федерального бюджета на это планируют выделить 1,6 млрд рублей, пишет РБК со ссылкой на проект трехлетнего бюджета.
В пояснительной записке к документу уточняется, что средства пойдут на разработку программного обеспечения для анализа письменных работ учащихся. Программа должна определять склонность к социально опасному и деструктивному поведению. Деньги будут выделять до 2024 года в рамках федерального проекта «Социальная активность». Исходя из данных Федерального казначейства, в 2021 году ЦИСМ уже были выделены почти 245 млн рублей на эти цели, но они еще не перечислены.
По словам экспертов, в основе такого ПО может лежать нейросеть, обученная на большом количестве текстов, написанных людьми с психическими или социальными отклонениями. Психологи должны указать разработчикам, какие именно слова или паттерны обычно указывают на девиантное поведение. При этом стоит определиться, машинописный или рукописный текст будет анализировать система. Во втором случае потенциальную опасность можно определить и через почерк, а не только через слова.
За исполнение проекта «Социальная активность» ответственна Росмолодежь. Там не ответили, как будет обеспечиваться защита персональных данных несовершеннолетних и будет ли информация о них поступать в правоохранительные органы.
«Создание такой системы на базе некоммерческой организации, пусть и с госучастием, — сомнительное мероприятие, так как неясно, как будет обеспечиваться защита и сохранность данных несовершеннолетних», — сказал директор АНО «Инфокультура» Иван Бегтин.
АНО «ЦИСМ» создали в 2018 году по поручению Владимира Путина после стрельбы в колледже в Керчи. На сайте центра сказано, что его задача — выявлять контент, «связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями». После шутинга в Пермском университете глава АНО «ЦИСМ» Денис Заварзин оценил количество аккаунтов в соцсетях, которые «хотя бы один раз касались» деструктивного контента, в 61 миллион.