Виртуальное пространство в жизни множества людей занимает сегодня важнейшее место. Интернет «переваривает» огромное количество разнообразных сведений и служит для самовыражения и обсуждения массы волнующих тем. При этом мы мало задумываемся о том, кто генерирует потоки информации и как распространяет свой контент.  

Растут, скажем, цены на бензин. К этому малоприятному факту можно отнестись по-разному. Например, просто констатировать: мол, подняли цены в четвертый раз за год – надо что-то с этим делать. А можно – агрессивно: «Похоже, правительство держит нас за олухов! Они жируют, а мы…». И так далее.

Налицо различные цели подачи события, и, соответственно, четко определены формы воздействия на пользователей в Сети: это и враждебность, и призывы к резкой реакции, смешение и «выкручивание» фактов.

Профессионально изучает явления в виртуальном пространстве старший научный сотрудник Института проблем управления РАН, кандидат технических наук Анастасия ИСХАКОВА. Выпускница Томского государственного университета систем управления и радиоэлектроники, она почти десять лет занимается информационной безопасностью. Кандидатскую диссертацию посвятила интеллектуальному анализу и классификации электронных текстов. Теперь к этой теме добавила изучение интернет-контента для противодействия проявлениям враждебности и давления на пользователей. А когда Российский фонд фундаментальных исследований (РФФИ) объявил конкурс по теме решения проблем взаимодействия человека с интернет-пространством, не колеблясь, приняла в нем участие и выиграла грант.

– Сегодня общение в Сети оказывает на общество все большее влияние, – уверена Анастасия Олеговна. – Открытая брань, неприкрытые «наезды» отрицательно действуют на психологическое состояние пользователей. А подростки под впечатлением от определенных постов нередко совершают необдуманные, порой трагические поступки. Проблему негативного воздействия Интернета на общество в августе 2017 года обсуждал Совет безопасности РФ, посчитав это направление общественной жизни страны одним из приоритетных для изучения ученых. Все говорит о том, что виртуальные коммуникации, в частности, обмен информацией и мнениями, сегодня заняли ведущие позиции, пользуются бОльшим влиянием, чем раньше, и потеснили традиционные средства распространения информации.

Чаще всего пользователи выделяют явные формы проявления агрессии, в том числе прямые угрозы, оскорбления, примеры публичного унижения, травли и т.д. В то же время, как мы отмечаем, часть подобных материалов, умышленно негативно сказывающихся на психике, мышлении, настроении человека, пользователь не всегда может выделить и дать объективную оценку. В рамках работы над грантом РФФИ мы должны создать инструмент – программный продукт, который будет осуществлять мониторинг Сети и выявлять опасный контент. Проект – междисциплинарный, в нем участвуют ученые технического и физико-математического профилей, специализирующиеся на автоматизации, интеллектуальной обработке данных, создании киберфизических систем, разработке алгоритмов и методов принятия решений, а также медики, специалисты в области физиологии стресса, анализа воздействия шумов на самочувствие человека, выявления признаков подавления психологического и умственного состояний. Моя задача как руководителя группы – формализовать наработанный материал и создать математическую модель с четко определенными критериями, по которым можно в автоматическом режиме определить, является ли исследуемый контент вредным или нет.

– И как такая модель будет действовать?

– Мы формируем базу данных для ее последующей экспертной оценки. В базу входит разнородный контент – результат исследования массы тем, обсуждаемых в Сети.

– Какие темы встречаются чаще всего?

– На первом месте, пожалуй, низкий уровень жизни населения, проблемы социального неравенства. Данный посыл формируется в массу постов, видео, мемов, которые чаще всего используются для продвижения актуальных, горячих тем. Это проводимые реформы, общественные события, различные прецеденты… В мае, например, наблюдалась неприкрытая спекуляция на «привязке» ко Дню Победы. Наиболее распространенный посыл: «Наши деды воевали, теперь доживают свой век в нищете, а чиновники, между тем, живут как баре». Нельзя оставить без внимания откровенно опасный контент, адресованный молодежи, подчас с суицидальными мотивами. Проблемы закрытых сообществ и ресурсов затрудняют его выявление и блокировку. Среди актуальных, широко распространяемых и используемых для влияния на пользователей тем выделю политическую жизнь страны, внешнюю политику, поведение отдельных известных и публичных личностей.

– Как вы определяете границу дозволенного и недозволенного?

– Непросто ответить на ваш вопрос. Для автоматизации процесса мониторинга и выявления деструктивного контента систему необходимо «обучить». Так работают подобные схемы, связанные с автоматическим принятием решений: выделяются признаки, выявляются возможности проведения классификации на их основе, оценивается их эффективность. Система «обучается» на множестве известных данных, чтобы в дальнейшем принимать решения автоматически. Подбором необходимых признаков мы сейчас и занимаемся, их число строго не определено, но должно обеспечивать высокие показатели эффективности метода. Это, например, доля использования негативно окрашенных слов и словосочетаний в контенте (скажем, «арестовать», «грязь», «промывка мозгов», «стагнация» и т.д.). Уже можно говорить о влиянии присутствия или отсутствия слов с ярко выраженной окраской на направленность текста и степень его воздействия на пользователя. В постах агрессивного характера, способных вызвать стресс, доля негативно окрашенных лексем, как правило, значительно больше.

Контент классифицируется в зависимости от того, может ли он вызвать у пользователей стресс и состояние тревожности. Формализация данного критерия – задача непростая и многоступенчатая. Для определения уровня тревожности используются комплексная оценка состояния пользователей на основе анкетирования, а также исследования ряда физиологических параметров. Эта сложная работа обеспечивается взаимодействием ученых разных направлений. Думаю, в этом состоят ее главная научная ценность и социальная значимость.

– Журналы охотно берут статьи по этой тематике?

– По условиям гранта РФФИ в первый же год нам нужно опубликовать не менее шести статей. Треть их должна быть индексирована известными зарубежными базами цитирования. Проблем с публикациями у нас нет: ведущие иностранные журналы интересуются этой тематикой, по общему мнению, она является сегодня наиболее актуальной. Мы выступаем на конференциях и ощущаем заинтересованность коллег – сужу об этом в том числе по количеству задаваемых вопросов. Многие исследователи занимаются подобными темами, поэтому нам часто предлагают сотрудничество.

Этот интересный и важный проект дает мне возможность развивать свои знания и нарабатывать опыт.

Юрий ДРИЗЕ

Похожие новости

  • 25/12/2017

    Гранты укажут на тренды

    ​Список зарубежных компаний-интеграторов научной информации, представленных в России, недавно расширился. Теперь наряду с Clarivate Analytics и Elsevier с их широко известными базами данных Web of Science и Scopus услуги по анализу глобальных трендов развития науки готова предоставить компания Digital Science, обладающая целым набором аналитических платформ.
    900
  • 03/12/2019

    Как взломать код природы

    ​В ноябре этого года в Москве проходил IV Национальный конгресс по регенеративной медицине. Ежегодно мероприятие собирает ведущих специалистов-медиков, которые обмениваются опытом в разных областях науки – от клеточной и генной терапии до тканевой инженерии.
    120
  • 23/11/2018

    Директор Фонда развития промышленности Роман Петруца - о том, как получить деньги на модернизацию

    ​Фонд развития промышленности (ФРП) недавно начал прием заявок на финансирование проектов цифровизации. В его распоряжении остается 10 млрд рублей для выдачи займов на льготных по сравнению с банковскими условиях.
    815
  • 28/11/2019

    Дмитрий Крюков: в цифровых технологиях времени ждать уже нет

    Сколько времени надо отводить на заполнение заявки, как поддержка предприятий поддерживает и отечественного разработчика и как выстраивается национальная шкала поддержки компаний, в интервью Indicator.
    200
  • 06/12/2018

    Василий Моргун: коммерциализация научных исследований неизбежна

    ​Около десяти лет назад в Красноярском крае был создан «Фонд поддержки научной и научно-технической деятельности». И сегодня наш гость - руководитель Экспертной комиссии фонда по естественным и техническим наукам, доктор биологических наук, директор «Государственного регионального Центра стандартизации, метрологии и испытаний в Красноярском крае, Республике Хакасия и Республике Тыва» Василием Моргуном.
    478
  • 12/03/2018

    Готово ли человечество к цифровому будущему?

    ​Человечеству предстоит жить в среде технологий, как рыбке в аквариуме, говорит наука. Но готово ли оно к этому? Для передовой современной науки цифровая экономика - это уже не завтрашний день. И даже не нынешний.
    463
  • 07/06/2019

    О соперничестве с Китаем и экспорте технологического суверенитета

    ​Человеческий страх — лучший контролер внедрения искусственного интеллекта, уверен специальный представитель президента по цифровому и технологическому развитию Дмитрий Песков. Однако пока ИИ слишком глуп, чтобы угрожать человечеству, насущный вопрос — кто будет в этой сфере, обгонит весь мир.
    254
  • 03/06/2019

    Электроника должна быть экономной

    ​Потребитель высокотехнологичных товаров, будь то смартфоны или компьютеры, постоянно испытывает навязчивое желание купить что-нибудь более свежее и продвинутое. Это совсем неудивительно, ведь любой его каприз стремится удовлетворить огромный отряд самых разных специалистов, в том числе ученых.
    362
  • 17/12/2018

    Новый конкурс выявил направления прорыва

    ​Увеличение доли междисциплинарных фундаментальных исследований было заявлено в качестве одной из основных целей произошедшего год назад присоединения к Российскому фонду фундаментальных исследований (РФФИ) Российского гуманитарного научного фонда.
    577
  • 27/04/2016

    Сергей Салихов: мы будем поддерживать участие российских ученых в международных проектах

    ​На заседании ресурсного комитета ЦЕРН ( CERN ), проходящего в эти дни, обсуждается и вопрос участия России в качестве ассоциированного члена. Накануне мероприятия корреспондент STRF.ru расспросил директора Департамента науки и технологий Министерства образования и науки Российской Федерации Сергея Салихова о том, как участие в проектах уровня megascience влияет на развитие отечественного научно-промышленного комплекса.
    1532