​Команда психологов, социологов, историков и программистов Томского государственного университета разработала алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом, это должно помочь выявлять пользователей, которым может быть необходима психологическая помощь. 


Ученые ТГУ разработали алгоритм для выявления студентов и школьников, которые подписаны "ВКонтакте" на сообщества с потенциально опасным контентом: ненависть, насилие, экстремизм и другим. Они составили список из 3050 групп с подобным содержанием, а также проанализировали подписки российских школьников и студентов.

Согласно Федеральному закону "О защите детей от информации, причиняющей вред их здоровью и развитию", выделяется информация, запрещенная для распространения среди детей, и информация, распространение которой ограничено среди детей определенного возраста. Также есть третья категория – "преступный контент", размещение которого влечет уголовную ответственность.

"Доступ к обнаруженному запрещенному и преступному контенту оперативно блокируется, в отличие от вредного. Последнее – материалы ограниченного доступа, не являющиеся прямым нарушением норм права, но способные причинить вред пользователям... Контроль за распространением и потреблением вредного контента подростками является актуальной задачей для специалистов по профилактике правонарушений и психологической безопасности в образовательных организациях", - рассказал участник проекта, заведующий лабораторией компьютерных средств обучения Института дополнительного образования ТГУ Артем Фещенко.

Отмечается, что первичный поиск сообществ с вредным контентом ученые провели при помощи системы мониторинга "Крибрум" с использованием лингвистических маркеров, так были выявлены 436 сообществ. Затем при помощи метода "снежный ком", когда за через администраторов и активистов таких сообществ выходят к другим потенциальным опасным группам, число было расширено до 3050 сообществ. В результате анализа групп ученые сформулировали 12 тематических направлений, среди которых "жесть" (кровь, избиение, эстетика безобразного в культуре), "национализм", "оружие" и другие.

Разработанный классификатор вредного контента можно использовать для обнаружения пользователей, которые предположительно нуждаются в психологической помощи. Для этого достаточно сравнить список подписок из профиля конкретного человека с со списком выявленных в ТГУ. Прототип диагностического инструмента для этого разработан участниками Университетского консорциума исследователей больших данных.

При помощи разработанного алгоритма ученые проанализировали около 60 тысяч пользователей "ВКонтакте" – это школьники 14-17 лет и группа в возрасте 18-23 года. Для сравнения степени интереса была рассчитана доля вредного контента. Индикатором интереса является подписка на одно сообщество из любой категории, если же число подписок превышает 10% от общего числа, то человеку может понадобиться психологическая помощь. 

"Потребления потенциально "вредного" контента пользователями в возрасте 14-23 года является достаточно распространенным явлением, так как у 37% наблюдаемых людей в возрасте 14-17 лет встречаются подписки на сообщества с токсичным для психики содержанием. При этом девушки чаще интересуются вредным контентом, чем юноши. В возрастной группе 18-23 года 42% пользователей подписаны на опасные сообщества, и уровень интереса у девушек снижается, а у юношей, наоборот, возрастает", - добавил Фещенко.

Разработанный инструмент представлен на портале Университетского консорциума исследователей больших данных и находится в открытом доступе.

Похожие новости

  • 22/09/2020

    В ТГУ дрона-курьера учат прокладывать маршрут без помощи GPS

    ​ТГУ и ГК «Геоскан» заключили соглашение о сотрудничестве, в рамках которого ведущий университет России и один из крупнейших российских разработчиков БПЛА создают интеллектуальные системы управления для беспилотников.
    385
  • 30/10/2020

    Ректор ТГУ презентовал томскую модель развития университетских городов

    26-27 октября в онлайн-формате прошел XIX общероссийский форум «Стратегическое планирование в регионах и городах России: реальность 2020 и повестка десятилетия». Одним из мероприятий стал круглый стол «Стратегии развития университетских городов», где ректор ТГУ Эдуард Галажинский представил опыт томских университетов по развитию городской среды.
    345
  • 13/11/2020

    Губернатор Томской области: «Наука, инновации и университеты - это главный драйвер развития Томска»

    11 ноября губернатор Томской области Сергей Жвачкин провел в Москве рабочую встречу с министром науки и высшего образования России Валерием Фальковым. В ходе общения глава региона обсудил с министром обновляемую концепцию «ИНО Томск» и проект строительства многофункционального межуниверситетского кампуса на левом берегу Томи.
    371
  • 23/10/2020

    В Томске создали светодиодный прибор для лечения депрессии

    ​Специалисты Томского политехнического университета совместно с коллегами из НИИ психического здоровья Томского НИМЦ разработали уникальный прибор для лечения депрессии с помощью света.​Как передает пресс-служба Минобрнауки РФ, аналогов устройства в России нет.
    390
  • 19/03/2020

    ТГУ масштабирует электронное обучение с помощью зонтичной системы

    ​Томский государственный университет входит в число лидеров дистанционного образования РФ и уже более 20 лет развивает инструменты e-learning. В 2019 году ТГУ году ввёл на всех факультетах новую позицию – заместитель декана по электронному обучению (ЭО).
    471
  • 03/07/2020

    Мегагранты: чем занимаются лаборатории, открытые в рамках программы

    Программа мегагрантов была запущена в 2010 году. Она подразумевает международное сотрудничество российских вузов и научных организаций с ведущими зарубежными учеными и научно-образовательными центрами в сферах науки, образования и инноваций.
    1515
  • 26/11/2020

    Эксперты РФ и Евросоюза обсудили образование после COVID

    ​​24 ноября российские и европейские эксперты обсудили развитие системы образования в условиях пандемии на круглом столе «Новые образовательные модели и практики, включая интернационализацию образования, в эпоху после пандемии COVID-19», организованном Томским госуниверситетом.
    276
  • 21/02/2017

    Разработки ТПУ для имплантологии выходят на стадию клинических испытаний

    ​Биодеградируемые имплантаты Томского политехнического университета выходят на стадию клинических испытаний. Как сообщают ученые ТПУ, на стадии доклинических исследований эффективность томских изделий уже доказана, и сегодня некоторые биоразлагаемые имплантаты Томского политеха сегодня частично используются в медицинской практике в одном из ведущих ортопедических центров России - Центре Илизарова.
    3025
  • 26/10/2020

    Более 300 ученых обсуждают в ТПУ методы получения изотопной продукции

    ​26 октября в Томском политехническом университете стартовала VI Международная научная конференция молодых ученых, аспирантов и студентов «Изотопы: технологии, материалы и применение». В конференции принимают участие более 300 молодых ученых, аспирантов и студентов из России, Казахстана, Чехии, Китая, Беларуси.
    285
  • 17/11/2020

    Аспирант ТГУ «научит» нейросети распознавать болезни по ЭКГ

    ​Аспирант ИПМКН ТГУ Владимир Андрющенко разрабатывает методы и алгоритмы, которые позволят определять и прогнозировать изменение состояния пациента по медицинским сигналам. В рамках проекта, поддержанного РФФИ, учёный создаёт большую библиотеку медицинских данных, необходимую для машинного обучения компьютерной модели, которая будет верифицировать заболевания по сигналам ЭКГ.
    230