Виртуальное пространство в жизни множества людей занимает сегодня важнейшее место. Интернет «переваривает» огромное количество разнообразных сведений и служит для самовыражения и обсуждения массы волнующих тем. При этом мы мало задумываемся о том, кто генерирует потоки информации и как распространяет свой контент.  

Растут, скажем, цены на бензин. К этому малоприятному факту можно отнестись по-разному. Например, просто констатировать: мол, подняли цены в четвертый раз за год – надо что-то с этим делать. А можно – агрессивно: «Похоже, правительство держит нас за олухов! Они жируют, а мы…». И так далее.

Налицо различные цели подачи события, и, соответственно, четко определены формы воздействия на пользователей в Сети: это и враждебность, и призывы к резкой реакции, смешение и «выкручивание» фактов.

Профессионально изучает явления в виртуальном пространстве старший научный сотрудник Института проблем управления РАН, кандидат технических наук Анастасия ИСХАКОВА. Выпускница Томского государственного университета систем управления и радиоэлектроники, она почти десять лет занимается информационной безопасностью. Кандидатскую диссертацию посвятила интеллектуальному анализу и классификации электронных текстов. Теперь к этой теме добавила изучение интернет-контента для противодействия проявлениям враждебности и давления на пользователей. А когда Российский фонд фундаментальных исследований (РФФИ) объявил конкурс по теме решения проблем взаимодействия человека с интернет-пространством, не колеблясь, приняла в нем участие и выиграла грант.

– Сегодня общение в Сети оказывает на общество все большее влияние, – уверена Анастасия Олеговна. – Открытая брань, неприкрытые «наезды» отрицательно действуют на психологическое состояние пользователей. А подростки под впечатлением от определенных постов нередко совершают необдуманные, порой трагические поступки. Проблему негативного воздействия Интернета на общество в августе 2017 года обсуждал Совет безопасности РФ, посчитав это направление общественной жизни страны одним из приоритетных для изучения ученых. Все говорит о том, что виртуальные коммуникации, в частности, обмен информацией и мнениями, сегодня заняли ведущие позиции, пользуются бОльшим влиянием, чем раньше, и потеснили традиционные средства распространения информации.

Чаще всего пользователи выделяют явные формы проявления агрессии, в том числе прямые угрозы, оскорбления, примеры публичного унижения, травли и т.д. В то же время, как мы отмечаем, часть подобных материалов, умышленно негативно сказывающихся на психике, мышлении, настроении человека, пользователь не всегда может выделить и дать объективную оценку. В рамках работы над грантом РФФИ мы должны создать инструмент – программный продукт, который будет осуществлять мониторинг Сети и выявлять опасный контент. Проект – междисциплинарный, в нем участвуют ученые технического и физико-математического профилей, специализирующиеся на автоматизации, интеллектуальной обработке данных, создании киберфизических систем, разработке алгоритмов и методов принятия решений, а также медики, специалисты в области физиологии стресса, анализа воздействия шумов на самочувствие человека, выявления признаков подавления психологического и умственного состояний. Моя задача как руководителя группы – формализовать наработанный материал и создать математическую модель с четко определенными критериями, по которым можно в автоматическом режиме определить, является ли исследуемый контент вредным или нет.

– И как такая модель будет действовать?

– Мы формируем базу данных для ее последующей экспертной оценки. В базу входит разнородный контент – результат исследования массы тем, обсуждаемых в Сети.

– Какие темы встречаются чаще всего?

– На первом месте, пожалуй, низкий уровень жизни населения, проблемы социального неравенства. Данный посыл формируется в массу постов, видео, мемов, которые чаще всего используются для продвижения актуальных, горячих тем. Это проводимые реформы, общественные события, различные прецеденты… В мае, например, наблюдалась неприкрытая спекуляция на «привязке» ко Дню Победы. Наиболее распространенный посыл: «Наши деды воевали, теперь доживают свой век в нищете, а чиновники, между тем, живут как баре». Нельзя оставить без внимания откровенно опасный контент, адресованный молодежи, подчас с суицидальными мотивами. Проблемы закрытых сообществ и ресурсов затрудняют его выявление и блокировку. Среди актуальных, широко распространяемых и используемых для влияния на пользователей тем выделю политическую жизнь страны, внешнюю политику, поведение отдельных известных и публичных личностей.

– Как вы определяете границу дозволенного и недозволенного?

– Непросто ответить на ваш вопрос. Для автоматизации процесса мониторинга и выявления деструктивного контента систему необходимо «обучить». Так работают подобные схемы, связанные с автоматическим принятием решений: выделяются признаки, выявляются возможности проведения классификации на их основе, оценивается их эффективность. Система «обучается» на множестве известных данных, чтобы в дальнейшем принимать решения автоматически. Подбором необходимых признаков мы сейчас и занимаемся, их число строго не определено, но должно обеспечивать высокие показатели эффективности метода. Это, например, доля использования негативно окрашенных слов и словосочетаний в контенте (скажем, «арестовать», «грязь», «промывка мозгов», «стагнация» и т.д.). Уже можно говорить о влиянии присутствия или отсутствия слов с ярко выраженной окраской на направленность текста и степень его воздействия на пользователя. В постах агрессивного характера, способных вызвать стресс, доля негативно окрашенных лексем, как правило, значительно больше.

Контент классифицируется в зависимости от того, может ли он вызвать у пользователей стресс и состояние тревожности. Формализация данного критерия – задача непростая и многоступенчатая. Для определения уровня тревожности используются комплексная оценка состояния пользователей на основе анкетирования, а также исследования ряда физиологических параметров. Эта сложная работа обеспечивается взаимодействием ученых разных направлений. Думаю, в этом состоят ее главная научная ценность и социальная значимость.

– Журналы охотно берут статьи по этой тематике?

– По условиям гранта РФФИ в первый же год нам нужно опубликовать не менее шести статей. Треть их должна быть индексирована известными зарубежными базами цитирования. Проблем с публикациями у нас нет: ведущие иностранные журналы интересуются этой тематикой, по общему мнению, она является сегодня наиболее актуальной. Мы выступаем на конференциях и ощущаем заинтересованность коллег – сужу об этом в том числе по количеству задаваемых вопросов. Многие исследователи занимаются подобными темами, поэтому нам часто предлагают сотрудничество.

Этот интересный и важный проект дает мне возможность развивать свои знания и нарабатывать опыт.

Юрий ДРИЗЕ

Похожие новости

  • 03/06/2019

    Электроника должна быть экономной

    ​Потребитель высокотехнологичных товаров, будь то смартфоны или компьютеры, постоянно испытывает навязчивое желание купить что-нибудь более свежее и продвинутое. Это совсем неудивительно, ведь любой его каприз стремится удовлетворить огромный отряд самых разных специалистов, в том числе ученых.
    331
  • 22/10/2018

    Профессор Евгений Фейгин: математика - это попытка осмыслить, как устроено человеческое восприятие

    Что такое теория представлений и почему она относится не только к математике, надо ли думать о науке 24 часа в сутки и каково быть заместителем декана по науке факультета математики в Высшей школе экономики, в интервью Indicator.
    794
  • 25/10/2019

    ИНИОН РАН настроен строиться и развиваться

    ​Институт научной информации по общественным наукам РАН отмечает свой 50-летний юбилей в непростой обстановке. Общие для всех академических исследовательских институтов реформенные коллизии усугубились случившимся в начале 2015 года пожаром и связанной с ним потерей здания и части библиотечных фондов.
    423
  • 22/04/2019

    Новосибирские генетики изучают серотонин

    ​Современные реалии таковы, что получение гранта на поддержку проекта стало одним из важных залогов успешной работы для наших ученых. Руководитель лаборатории нейрогеномики поведения ФИЦ ИЦиГ СО РАН, д.
    506
  • 10/09/2018

    Судьба научных библиотек тревожит ученых

    Прошло пять лет с начала реформы РАН. От последовавших нововведений, неразберихи и некомпетентных решений лихорадило не только институты, но и другие академические структуры, в том числе научные библиотеки.
    1068
  • 23/05/2019

    Василий Лыкосов: климат - это статистический ансамбль

    ​Член-корреспондент РАН, главный научный сотрудник Института вычислительной математики им. Г.И. Марчука Российской Академии наук, заведующий лабораторией суперкомпьютерного моделирования природно-климатических процессов НИВЦ МГУ Василий Николаевич Лыкосов о прогнозе погоды, изменении климата и глобальном потеплении.
    534
  • 30/11/2018

    Исследователям надо рассказывать о Стратегии научно-технологического развития

    ​Сколько молодые ученые знают о Стратегии научно-технологического развития России, зачем вообще о ней нужно знать и почему магистрам и аспирантам рано общаться с представителями бизнеса, Indicator.Ru рассказала Анна Щербина, председатель Совета Российского союза молодых ученых.
    1400
  • 12/03/2019

    Российский генетик – о мутациях и суперинтеллекте

    ​Давно миновало время, когда генетику считали лженаукой, запрещали и не принимали всерьёз. В наше время именно она будоражит воображение - возможности генетики и геномики превосходят самые смелые ожидания.
    445
  • 18/01/2019

    Какое место отведено России в большой «лунной гонке»?

    ​В конце 2018 г. глава "Роскосмоса" Дмитрий Рогозин сообщил о новой концепции освоения Луны. По его словам, перед РФ стоит задача более масштабная, чем стояла перед США в 1970-е годы. По силам ли нам это? Легенда о "Барминграде".
    973
  • 07/08/2019

    Если в регионе нет науки, то эта территория превращается в колонию

    Директор Красноярского научного центра СО РАН НИКИТА ВОЛКОВ рассказал в интервью «Континенту Сибирь» об опыте интеграции академических институтов региона в рамках федерального исследовательского центра, о возможностях освоения арктических территорий Красноярского края, о перспективных исследованиях красноярских ученых, а также о причинах, которые сдерживают развитие научных центров по эту сторону Урала.
    374