Нейросети способны вычислять в Facebook и VK подростков, склонных к самоубийству. Но в России пока не работают над созданием таких систем

Социальные сети в России после волны самоубийств, спровоцированных группами смерти, научились качественно противостоять новым «синим китам». Только «ВКонтакте» ежедневно удаляет десятки тысяч публикаций по теме суицида и блокирует тысячи личных страниц и сообществ. Но выявить и остановить самоубийцу-одиночку гораздо сложнее.

Тело 15-летней школьницы нашли в туалете одной из школ Новосибирска. На прошлой неделе эту новость перепечатывали одно за другим и федеральные, и региональные издания. По версии прокуратуры, десятиклассница покончила с собой. На то, что произошло самоубийство, указывал и прощальный пост во «ВКонтакте».

Активность пользователей (в том числе и несовершеннолетних), задумывающихся о суициде, — это набор «маячков». Разобравшись в этих сигналах, можно предотвратить трагедию.

«Чуткие» сети

Daily Storm связался с сотрудниками крупных российских IT-компаний, чтобы узнать, существуют ли алгоритмы отслеживания пользователей с «неустойчивым отношением к возможности продолжения собственной жизни» и возможно ли их применять в рамках российского законодательства.

«Выявить людей, склонных к суициду, можно при помощи DPI (Deep Packet Inspection) и определенных алгоритмов поиска, — рассказал один из собеседников Daily Storm (из корпоративных соображений он просил не называть компанию, где он работает). — DPI — это технология накопления данных, способная проверять и фильтровать контент в зависимости от его содержимого».

По его словам, при выполнении задачи по поиску людей с растущими суицидальными наклонностями механизм выявления аккаунтов был бы схож с принципом работы таргетированной рекламы.

«Программа отслеживает интересы пользователей, их поисковые запросы и на основе этого выстраивает скоринг поведения и определяет степень риска, —продолжил IT-специалист. — Условно говоря, если человек ищет в поисковике способы самоубийства, зависает на тематических пабликах и слушает депрессивную музыку, то система, скорее всего, обратит на него внимание».

Однако вопрос, кто должен заниматься созданием таких «чутких» сетей, в России пока никак не отрегулирован и не решается.

По мнению источника, некоммерческие организации вряд ли справятся с такой задачей. Их шансы сделать обучаемый алгоритм с паттернами психологически типичного поведения — невелики: «Такая система должна быть разработана в коллаборации психологов, специалистов по нейросетям и машинному обучению, а также при участии экспертов по поведенческому анализу в Сети».

Политика «ВКонтакте» 

Похожая система существует во «ВКонтакте» и предназначена она для выявления контента, содержащего призывы к суициду. Готова ли соцсеть принять предложение ввести контроль за контентом извне (например, средствами Роскомнадзора) или она будет отслеживать вызывающие подозрения аккаунты самостоятельно, сообщать о подозрительных страницах в госорганы или родителям детей, на этот вопрос Daily Storm в компании не смогли дать четкого ответа.

Однако в пресс-службе «ВКонтакте» рассказали, как соцсеть отыскивает и блокирует посты, призывающие к суициду. 

Обнаружить опасный контент помогают либо жалобы пользователей, либо нейронные сети. В первом случае юзеры сами сообщают о неприемлемом, на их взгляд, контенте, во втором — анализ происходит автоматически. Ежедневно социальная сеть удаляет десятки тысяч публикаций по теме суицида и блокирует тысячи личных страниц и сообществ.

Поиск происходит по знакомому методу: «ВКонтакте» банит страницы, где встречаются хештеги или слова, связанные с призывами к суициду или с так называемыми группами смерти. При этом соцсеть призывает не увеличивать популярность последних даже в рамках борьбы с ними. С теми, кто ослушивается рекомендаций, дело обстоит серьезно.  

«Если же человек намеренно призывает людей участвовать в смертельных играх или пропагандирует суицид, его страница может быть заблокирована сразу и навсегда. Без возможности разблокировки», — пояснили в компании.

В целом же, по словам представителей пресс-службы, за несколько лет интерес к теме суицида несколько снизился. По результатам исследования ВЦИОМ, о пабликах, распространяющих материалы о самоубийствах, знают не более 16% взрослых респондентов и 18% подростков. Пользователи, которые не ищут такие группы, с ними не сталкиваются.

Для тех, кто оказался в трудной жизненной ситуации, «ВКонтакте» вместе с психологами подготовил раздел «Центр безопасности». В нем есть рекомендации о том, что делать, когда вам плохо, как вести себя, если ребенок подвергается травле или считает себя хуже других. 

Заветные слова 

Ради эксперимента мы решили проверить — легко ли нам самим отыскать пользователей, чьи публикации содержат намеки на суицид. 

Простой поиск во «ВКонтакте» по ключевым словам («смерть», «суицид», «самоубийство») выдает немало тревожного контента. Однако, по ощущениям, большая его часть — инфантильная попытка привлечь к себе внимание. 

На странице одной пользовательницы (девочка-подросток 2004 года рождения) мы нашли длинный пост, начинающийся со слов: «Ты стоишь на крыше <...> и смотришь на мир, простирающийся под тобой. Мир, который ты хочешь покинуть…» Завершается история очевидным исходом: «Твой класс теперь совсем не шумный. На уроках они совсем не разговаривают, на переменах тоже. Они до сих пор не могут поверить, что ты умерла».   

Пост появился вечером в четверг, 17 октября (в этот же день мы и наткнулись на страницу). В статусе у девушки — тоже настораживающее послание: «Сегодня в 00:00 моя жизнь изменится навсегда». В довесок — картинка из приложения «Тест на дату смерти». Его девочка проходила в сентябре.

На следующий день мы проверили аккаунт подростка, который, честно признаться, слегка нас напугал. Но, кажется, напрасно: пользовательница «была в сети восемь минут назад». В статуте — все то же предвкушение новой жизни, под «суицидной» публикацией — два лайка. В выходные статус девушки сменился на другую извечно подростковую цитату: «Пусть уж меня ненавидят за то, что я есть, чем любят за то, чем я не являюсь».  

Матвей Достоевский

Погибшая на прошлой неделе новосибирская школьница вела страницу во «ВКонтакте», где была зарегистрирована под именем Матвей Достоевский. В ночь перед предполагаемым самоубийством она написала у себя на стене: «Это конец». А затем обновила статус: «*произошла смерть*». 

Другие посты школьницы также указывают на тему смерти, но глубоко трагичными они не выглядят. Например, песня «Суицидальная» в исполнении Дарьи Ловать публикуется вместе с мемом «Я не могу снять джинсы» (отсылка к мужской моде на «узкачи»). А композиция «Похорони» от Сметаны band сопровождается подписью «Помойся с пивом…» и траурной картинкой с мультяшным оленем. 

Большинство сообществ, на которые подписана школьница (всего их 292), посвящены юмору, рисованию, аниме, рисованию аниме. Встречаются и странички на эротическую тематику, некоторые из них содержат ЛГБТ-контент. Предпоследняя публикация Матвея Достоевского — аудиозапись под названием «ОГЭ 2019 — Русский язык. Изложение — дружба. 61 регион». Правда, вместо учительской читки в ней женские стоны.