Поиск - новости науки и техники

Осторожно, сети! С агрессией в Интернете поборется специальная программа

31.08.19

Виртуальное пространство в жизни множества людей занимает сегодня важнейшее место. Интернет «переваривает» огромное количество разнообразных сведений и служит для самовыражения и обсуждения массы волнующих тем. При этом мы мало задумываемся о том, кто генерирует потоки информации и как распространяет свой контент. 

Растут, скажем, цены на бензин. К этому малоприятному факту можно отнестись по-разному. Например, просто констатировать: мол, подняли цены в четвертый раз за год – надо что-то с этим делать. А можно – агрессивно: «Похоже, правительство держит нас за олухов! Они жируют, а мы…». И так далее.
Налицо различные цели подачи события, и, соответственно, четко определены формы воздействия на пользователей в Сети: это и враждебность, и призывы к резкой реакции, смешение и «выкручивание» фактов.

Профессионально изучает явления в виртуальном пространстве старший научный сотрудник Института проблем управления РАН, кандидат технических наук Анастасия ИСХАКОВА. Выпускница Томского государственного университета систем управления и радиоэлектроники, она почти десять лет занимается информационной безопасностью. Кандидатскую диссертацию посвятила интеллектуальному анализу и классификации электронных текстов. Теперь к этой теме добавила изучение интернет-контента для противодействия проявлениям враждебности и давления на пользователей. А когда Российский фонд фундаментальных исследований (РФФИ) объявил конкурс по теме решения проблем взаимодействия человека с интернет-пространством, не колеблясь, приняла в нем участие и выиграла грант.
– Сегодня общение в Сети оказывает на общество все большее влияние, – уверена Анастасия Олеговна. – Открытая брань, неприкрытые «наезды» отрицательно действуют на психологическое состояние пользователей. А подростки под впечатлением от определенных постов нередко совершают необдуманные, порой трагические поступки. Проблему негативного воздействия Интернета на общество в августе 2017 года обсуждал Совет безопасности РФ, посчитав это направление общественной жизни страны одним из приоритетных для изучения ученых. Все говорит о том, что виртуальные коммуникации, в частности, обмен информацией и мнениями, сегодня заняли ведущие позиции, пользуются бОльшим влиянием, чем раньше, и потеснили традиционные средства распространения информации.
Чаще всего пользователи выделяют явные формы проявления агрессии, в том числе прямые угрозы, оскорбления, примеры публичного унижения, травли и т.д. В то же время, как мы отмечаем, часть подобных материалов, умышленно негативно сказывающихся на психике, мышлении, настроении человека, пользователь не всегда может выделить и дать объективную оценку. В рамках работы над грантом РФФИ мы должны создать инструмент – программный продукт, который будет осуществлять мониторинг Сети и выявлять опасный контент. Проект – междисциплинарный, в нем участвуют ученые технического и физико-математического профилей, специализирующиеся на автоматизации, интеллектуальной обработке данных, создании киберфизических систем, разработке алгоритмов и методов принятия решений, а также медики, специалисты в области физиологии стресса, анализа воздействия шумов на самочувствие человека, выявления признаков подавления психологического и умственного состояний. Моя задача как руководителя группы – формализовать наработанный материал и создать математическую модель с четко определенными критериями, по которым можно в автоматическом режиме определить, является ли исследуемый контент вредным или нет.
– И как такая модель будет действовать?
– Мы формируем базу данных для ее последующей экспертной оценки. В базу входит разнородный контент – результат исследования массы тем, обсуждаемых в Сети.
– Какие темы встречаются чаще всего?
– На первом месте, пожалуй, низкий уровень жизни населения, проблемы социального неравенства. Данный посыл формируется в массу постов, видео, мемов, которые чаще всего используются для продвижения актуальных, горячих тем. Это проводимые реформы, общественные события, различные прецеденты… В мае, например, наблюдалась неприкрытая спекуляция на «привязке» ко Дню Победы. Наиболее распространенный посыл: «Наши деды воевали, теперь доживают свой век в нищете, а чиновники, между тем, живут как баре». Нельзя оставить без внимания откровенно опасный контент, адресованный молодежи, подчас с суицидальными мотивами. Проблемы закрытых сообществ и ресурсов затрудняют его выявление и блокировку. Среди актуальных, широко распространяемых и используемых для влияния на пользователей тем выделю политическую жизнь страны, внешнюю политику, поведение отдельных известных и публичных личностей.
– Как вы определяете границу дозволенного и недозволенного?
– Непросто ответить на ваш вопрос. Для автоматизации процесса мониторинга и выявления деструктивного контента систему необходимо «обучить». Так работают подобные схемы, связанные с автоматическим принятием решений: выделяются признаки, выявляются возможности проведения классификации на их основе, оценивается их эффективность. Система «обучается» на множестве известных данных, чтобы в дальнейшем принимать решения автоматически. Подбором необходимых признаков мы сейчас и занимаемся, их число строго не определено, но должно обеспечивать высокие показатели эффективности метода. Это, например, доля использования негативно окрашенных слов и словосочетаний в контенте (скажем, «арестовать», «грязь», «промывка мозгов», «стагнация» и т.д.). Уже можно говорить о влиянии присутствия или отсутствия слов с ярко выраженной окраской на направленность текста и степень его воздействия на пользователя. В постах агрессивного характера, способных вызвать стресс, доля негативно окрашенных лексем, как правило, значительно больше.
Контент классифицируется в зависимости от того, может ли он вызвать у пользователей стресс и состояние тревожности. Формализация данного критерия – задача непростая и многоступенчатая. Для определения уровня тревожности используются комплексная оценка состояния пользователей на основе анкетирования, а также исследования ряда физиологических параметров. Эта сложная работа обеспечивается взаимодействием ученых разных направлений. Думаю, в этом состоят ее главная научная ценность и социальная значимость.
– Журналы охотно берут статьи по этой тематике?
– По условиям гранта РФФИ в первый же год нам нужно опубликовать не менее шести статей. Треть их должна быть индексирована известными зарубежными базами цитирования. Проблем с публикациями у нас нет: ведущие иностранные журналы интересуются этой тематикой, по общему мнению, она является сегодня наиболее актуальной. Мы выступаем на конференциях и ощущаем заинтересованность коллег – сужу об этом в том числе по количеству задаваемых вопросов. Многие исследователи занимаются подобными темами, поэтому нам часто предлагают сотрудничество.
Этот интересный и важный проект дает мне возможность развивать свои знания и нарабатывать опыт.

Юрий ДРИЗЕ

Нет комментариев