​Команда психологов, социологов, историков и программистов Томского государственного университета разработала алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом, это должно помочь выявлять пользователей, которым может быть необходима психологическая помощь. 


Ученые ТГУ разработали алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другим. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки российских школьников и студентов.

Согласно Федеральному закону "О защите детей от информации, причиняющей вред их здоровью и развитию", выделяется информация, запрещенная для распространения среди детей, и информация, распространение которой ограничено среди детей определенного возраста. Также есть третья категория – "преступный контент", размещение которого влечет уголовную ответственность.

"Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее – материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям... Контроль за распространением и потреблением вредного контента подростками является актуальной задачей для специалистов по профилактике правонарушений и психологической безопасности в образовательных организациях", - рассказал участник проекта, заведующий лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.

Отмечается, что первичный поиск сообществ с вредным контентом ученые провели при помощи системы мониторинга "Крибрум" с использованием лингвистических маркеров, так были выявлены 436 сообществ. Затем при помощи метода "снежный ком", когда за через администраторов и активистов таких сообществ выходят к другим потенциальным опасным группам, число было расширено до 3050 сообществ. В результате анализа групп ученые сформулировали 12 тематических направлений, среди которых "жесть" (кровь, избиение, эстетика безобразного в культуре), "национализм", "оружие" и другие.

Разработанный классификатор вредного контента можно использовать для обнаружения пользователей, которые предположительно нуждаются в психологической помощи. Для этого достаточно сравнить список подписок из профиля конкретного человека с со списком выявленных в ТГУ. Прототип диагностического инструмента для этого разработан участниками Университетского консорциума исследователей больших данных.

При помощи разработанного алгоритма ученые проанализировали около 60 тысяч пользователей "ВКонтакте" – это школьники 14-17 лет и группа в возрасте 18-23 года. Для сравнения степени интереса была рассчитана доля вредного контента. Индикатором интереса является подписка на одно сообщество из любой категории, если же число подписок превышает 10% от общего числа, то человеку может понадобиться психологическая помощь. 

"Потребления потенциально "вредного" контента пользователями в возрасте 14-23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14-17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются вредным контентом, чем юноши. В возрастной группе 18-23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает", - добавил Фещенко.

Разработанный инструмент представлен на портале Университетского консорциума исследователей больших данных и находится в открытом доступе.

Похожие новости

  • 03/07/2020

    Мегагранты: чем занимаются лаборатории, открытые в рамках программы

    Программа мегагрантов была запущена в 2010 году. Она подразумевает международное сотрудничество российских вузов и научных организаций с ведущими зарубежными учеными и научно-образовательными центрами в сферах науки, образования и инноваций.
    391
  • 19/03/2020

    ТГУ масштабирует электронное обучение с помощью зонтичной системы

    ​Томский государственный университет входит в число лидеров дистанционного образования РФ и уже более 20 лет развивает инструменты e-learning. В 2019 году ТГУ году ввёл на всех факультетах новую позицию – заместитель декана по электронному обучению (ЭО).
    320
  • 07/11/2019

    Более 30 студентов и аспирантов ТПУ получили стипендии Президента и Правительства РФ

    ​В числе стипендиатов Президента РФ — четыре студента и семь аспирантов Томского политехнического университета. Стипендию Правительства России будут получать 13 студентов и семь аспирантов. В течение учебного года, помимо основной, они ежемесячно будут получать дополнительную стипендию.
    691
  • 12/02/2018

    Ученые ТУСУРа научат компьютер более точно распознавать человеческую речь

    Ученые Томского государственного университета систем управления и радиоэлектроники исследуют малоизученную шепотную речь человека для создания алгоритмов по распознаванию речи человека с высокой точностью.
    1139
  • 21/02/2017

    Разработки ТПУ для имплантологии выходят на стадию клинических испытаний

    ​Биодеградируемые имплантаты Томского политехнического университета выходят на стадию клинических испытаний. Как сообщают ученые ТПУ, на стадии доклинических исследований эффективность томских изделий уже доказана, и сегодня некоторые биоразлагаемые имплантаты Томского политеха сегодня частично используются в медицинской практике в одном из ведущих ортопедических центров России - Центре Илизарова.
    2695
  • 12/04/2019

    Томич придумал браслет, который напомнит принять лекарство

    ​В областном центре прошел Tomsk Startup Day-2019 — конференция, где начинающие IT-предприниматели могли найти инвесторов и презентовать широкой аудитории свои проекты. В этом году на событии представили 26 идей, от ивент-площадки до автоматизированной системы управления аэропортами.
    967
  • 02/12/2019

    В ТГУ открыта лаборатория ИИ для решения задач «Индустрии 4.0»

    ​​В Институте прикладной математики и компьютерных наук ТГУ состоялось открытие лаборатории искусственного интеллекта и индустриальной аналитики, организованной совместно с IT-компанией «Атомик Софт». Исследователи вуза и промпартнер будут разрабатывать новые алгоритмы анализа big data и создавать эффективные решения в сфере «Индустрия 4.
    347
  • 24/04/2017

    В Томске объявлена аккредитация журналистов на форум U-NOVUS - 2017

    ​Для получения аккредитации журналистов на форум U-NOVUS - 2017 нужно заполнить регистрационную форму участника на сайте форума. Как сообщили НИА Томск в администрации Томской области, журналистам, планирующим освещать работу форума, при заполнении графы "Форма участия" необходимо выбрать категорию "СМИ" и указать наименование СМИ.
    2111
  • 14/01/2019

    Какие разработки томичей можно купить в магазине

    ​Томские инновации часто воспринимаются как нечто далекое от повседневных нужд. Но наши ученые успешно трудятся не только на оборонку, ракетно-космическую отрасль или, скажем, Большой адронный коллайдер, они также работают над созданием бытовой химии и косметики, лекарств и продукции для детей.
    1081
  • 14/09/2016

    Томский студент создал веб-сервис для работы с учебным расписанием

    ​Студент четвертого курса Института кибернетики ТПУ Александр Газизов создал веб-сервис, который позволяет импортировать учебное расписание в личный календарь Google и делает расписание более персонализированным.
    1404