Сквозь сито алгоритмов
Выявить юного несмысленыша, готового совершить опрометчивый поступок, который может стоить ему жизни, — таково назначение мониторинга, который сегодня проводят в социальных сетях сотрудники комитета по молодежной политике Ростовской области.
С подозрительным поведением
В 2023 году такой мониторинг стал возможным благодаря заключению соглашения о взаимодействии между правительством Ростовской области и Центром изучения и сетевого мониторинга молодежной среды.
Центр предоставил комитету по молодежной политике доступ к системе, в которую на основе разработанных алгоритмов автоматически поступают профили молодых людей «ВКонтакте», имеющие признаки деструктива. Ростовская область стала одним из первых регионов, кто поддержал эту инициативу, а всего с этой организацией сейчас сотрудничают 13 регионов.
Сегодня специалисты комитета отслеживают в Сети суицидальные настроения. Хотя у центра есть возможность отбирать также профили, где прослеживаются признаки экстремизма, скулшутинга (вооруженные действия на территории школ), по другим направлениям. Но пока что он не подключает к мониторингу таких явлений комитет по молодежной политике Ростовской области, желая для начала наладить работу со всеми регионами хотя бы по одному профилю.
Когда нужна помощь специалиста
На начало ноября 2024 года при мониторинге социальных сетей система выявила 491 профиль, из них в процессе ручной проверки специалистом отобраны с меткой «наличие деструктива» 50 (тематика всех сообщений — суицидальное поведение). Найдены они либо по ключевым словам, либо в профиле обнаружены выложенные снимки, намекающие на суицид, либо саундтреки с уж очень мрачными темами. Согласно разработанной методике специалист определяет, действительно ли у человека есть склонность к суициду. Совсем не исключено, что, скажем, строчка песни с соответствующей темой попала в аккаунт случайно. Поэтому из выявленных алгоритмами профилей специалистом-человеком и отобрана лишь десятая часть. И вот они-то, эти выбранные профили, и берутся в работу.
Список совершеннолетних передается в правоохранительные органы. Если обладателю профиля от 14 до 17 лет, на него обращают внимание донского министерства образования. И там проверяют, не состоит ли этот подросток на учете в комиссии по делам несовершеннолетних, каковы результаты его социально-психологического тестирования и так далее. Если его поведение офлайн не вызывает тревоги, то все может ограничиться профилактической беседой. Но были и другие случаи: например, в текущем году в психиатрическое отделение госпитализировали девочку, в аккаунте которой были обнаружены записи вроде «умереть я хочу в такое-то время» и так далее. Здесь понадобилась помощь серьезного специалиста.
Поддержка «Прорыва»
В работе специалистов молодежного комитета есть и такой пример: по содержанию аккаунта было понятно, что у подростка есть трудности в общении с внешним миром, и его направили в одну из смен профилактического лагеря «Прорыв». Лагерь работает для подростков из группы риска с 2015 года. Его формат — интенсивный образовательный процесс с мастер-классами, тренингами, получением при этом огромного багажа коммуникативного опыта, положительных практик и новых знакомств.
В этом году проводился День МВД, в ходе которого приехавшие полицейские разрешали пообщаться со служебными собаками, посидеть в патрульной машине, было продемонстрировано и служебное оружие. Словом, все было направлено на то, чтобы показать: правоохранители открыты для общения, они не те, кого нужно бояться.
Всего участниками смен лагеря «Прорыв» стали более 1000 ребят, а в 2024-м работали две его смены, на которые приехали по 150 подростков. Согласно статистике, около 30% подростков, прошедших «Прорыв», снимается со всех видов учета.
Не уличить, а помочь
Специалисты комитета по молодежной политике уже по своей инициативе решили промониторить и участников группы «ДонМолодой» в соцсети»ВКонтакте«, а потом групп «ВКонтакте» всех пабликов «молодежек» городов и районов Ростовской области опять же на предмет суицидальных настроений.
Центр помочь согласился, но схема оказалась немного другой: профили 37,5 тысячи подписчиков пропустили через определенные системы, которые проанализировали их индекс деструктива. То есть была автоматически проведена проверка, на какие группы подписан человек, его статусы, фотографии и так далее. Затем была сформирована таблица с красной, желтой и зеленой зонами согласно индексу деструктива.
В красной зоне тех, кто активничает в молодежных пабликах, не оказалось, но в желтой зоне присутствовали 527 их аккаунтов. Это не те люди, о которых надо серьезно тревожиться, но те, у которых что-то нашлось. Сотрудник молодежного комитета проанализировал вручную содержание их всех — все фотографии, статусы и так далее. И уже после ручной проверки были выявлены семь аккаунтов, обладателям которых, судя по всему, нужна помощь.
Автор благодарит комитет по молодежной политике Ростовской области, который предоставил информацию для публикации.
