В России строят ИИ, который найдет в Сети незаконные карикатуры и фальсификацию истории и посоветует властям, как с ними быть

Власти хотят узнать, сможет ли искусственный интеллект выявлять информационные угрозы в интернете, в том числе распознавать смысл карикатур, фальсификацию исторических сведений и создание дипфейков, а также принимать решение о реагировании на них. Также власть интересуется способностью нейронных сетей находить провокационную и недостоверную информацию. Планируется, что ИИ будет сканировать сайты СМИ, соцсети и прочие источники с целью передачи информации в уполномоченные органы.

ИИ просканирует интернет

Власти России изучат возможности искусственного интеллекта (ИИ) по анализу интернета в части выявления нарушений законодательства. ИИ планируется поручить мониторинге соцсетей, сайтов СМИ и пр. для поиска провокаций, недостоверных сведений и информационных атак с целью передачи материалов в регулирующие органы. Также нейронная сеть сама будет принимать решение о реагировании на угрозы. Соответствующей научно-исследовательской работе присвоен шифр «Основа». Информация о ней опубликована на сайте госзакупок 15 сентября 2021 г. Заявки на участие принимаются до 27 сентября, итоги аукциона будут подведены 30 сентября. Максимальная цена контракта — 10 млн руб. Заказчиком выступает подведомственный Роскомнадзору «Главный радиочастотный центр» (ГРЦЧ).

Согласно тендерной документации, исполнитель в срок до 20 декабря 2021 г. должен исследовать возможности ИИ, машинного обучения и нейронных сетей. На основании полученных сведений исполнитель подготовит почву для создания автоматизированной системы «Вепрь» для раннего выявления угроз в информационной сфере и прогнозирования рисков их возникновения.

Систему «Вепрь» планируется запустить к 2024 г. Для этого исполнитель сформирует дорожную карту ее создания и развития, а также разработает техзадание, следует из документов. Как рассказали CNews представители Главного радиочастотного центра, размер финансирования данной системы также будет определен по ходу исследования.

Подробности исследования

Из тендерной документации следует, что среди приоритетных для проработки угроз — фальсификации исторических сведений, угрозы распространения противоречивого контента, способствующего возникновению социальной, расовой, национальной или религиозной розни, угрозы распространения дипфейков (синтезированный аудио- или видеоконтент), а также угрозы использования копий оригинальных социально значимых ресурсов.

В ходе проведения исследования исполнителем будут установлены критерии, по которым станут определяться информационные угрозы. Будут четко прописаны такие понятия как провокационная и недостоверная информация, смысловая копия или контекстная копия, а также информационная цель и атака.

Будет также исследована возможность выявления источников, способов создания и определения истории распространения недостоверной информации. В том числе, исполнители рассмотрят возможность применения ИИ, который сможет оценить степень значимости источника, темы или представленных лиц в мультимедийных объектах. Исполнитель также исследует способности ИИ в области обработки карикатурных изображений и комиксов.

Как будет работать система

Среди принципов работы системы «Вепрь» — поиск и сбор материалов в интернете, социальных сетях, СМИ, затем фильтрация полученных данных на основе заранее загруженных в систему сценариев развития рисковых ситуаций и реализации угроз для выявления точек информационной напряженности. На основании этих точек система сформирует прогноз развития ситуации и передаст ее на анализ операторам.

Также система разработает сценарии распространения точек напряженности и их превращения в информационную угрозу. После «Вепрь» должен передавать данные о выявленной информации в уполномоченные органы.

Комментарии экспертов

«Считалось что Китай это самое плохое, что может быть. Уже сейчас в сентябре 2021 г. можно констатировать, что интернет в России хуже, чем в Китае, — отметил в разговоре с CNews исполнительный директор “Общества защиты интернета” Михаил Климарев. — Проблема в том, что слишком много информации, и все не успевают читать, а пригрозить хочется. Робот будет обходить источники, которые в нем заложены, например, СМИ или аккаунты в соцсетях, которые попали на карандаш Правительства».

При этом такие понятия как провокационная и недостоверная информация можно трактовать совершенно по-разному и применять санкции тоже совершенно произвольными методами и по отношению к кому угодно, подчеркивает Климарев. «Контроль над информационными ресурсами все меньше поддается контролю со стороны общественности, — поясняет он. — Создается система произвола, и чем дальше, тем больше таких систем мы будем видеть».

Однако Павел Катков, владелец юридической компании «Катков и партнеры» (КИП), член Комитета ТПП по предпринимательству в сфере медиакоммуникаций отметил и плюсы такой инициативы. «Плюсы в том, что эффективность борьбы с реальными преступниками должна повысится, так как автоматизированная система тут будет точно эффективней человека», — говорит он. Но Катков указывает и на минусы, при которых «хватать будут всех подряд». Он подчеркивает, что теперь любой человек — это СМИ. Однако всех не лицензируешь и государство испытывает с этим трудности, говорит Катков.

«Речь идет о любых угрозах гражданам и государству, которые могут происходить из-за деструктивной активности в сети, — рассказали CNews представители Главного радиочастотного центра. — Сами термины угрозы и точки информационной напряженности описаны в разделе термины и определения. Например, это пропагандирующий самоубийство контент, который скоординированно распространяется среди подростков в открытых группах социальных сетей».