Роскомнадзор запустил систему поиска и классификации запрещенного видеоконтента

Мониторинг информационных ресурсов (информационная система)

Основная статья: Мониторинг информационных ресурсов (информационная система)

2023: Роскомнадзор запустил систему поиска и классификации запрещенного видеоконтента

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) запустил в эксплуатацию интеллектуальную систему отслеживания незаконного контента в интернете «Окулус». Об этом было объявлено 13 февраля 2023 года.

Как рассказал «Ведомостям» представитель ГРЧЦ, в январе 2023 года интеграция системы с другими инструментами мониторинга Роскомнадзора. Подробностей результатов тестирования, а также первых итогов ее работы собеседник издания не привел.

По его словам, система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др.

Главный радиочастотный центр запустил в эксплуатацию интеллектуальную систему отслеживания незаконного контента в интернете

В ГРЧЦ рассказали газете, что до внедрения «Окулуса» специалистам центра приходилось анализировать контент «преимущественно вручную». За день они обрабатывали более 200 фото и видео.

Информационная система "Окулус" уже запущена и выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах, — заявил представитель ГРЧЦ, добавив, что к середине февраля 2023 года прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий.

Необходимость использования автоматизированной системы в ведомстве объяснили растущим потоком запрещенных материалов в интернете, в том числе связанных с проведением военной спецоперации РФ на Украине.Дмитрий Бородачев, DатаРу Облако: Наше преимущество — мультивендорная модель предоставления облачных услуг

К рискам использования «Окулуса» гендиректор компании «Социальная лаборатория» Наталия Тылевич отнесла то, насколько корректно или некорректно осуществляется классификация изображений и видео и насколько корректно они будут в дальнейшем интерпретированы в связке с другими компонентами системы и человеком.^[1]

2022: Выбор подрядчика для реализации проекта - «Эксикьюшн Эр Ди Си»

В середине августа 2022 года стало известно о выборе подрядчика для реализации проекта по созданию системы «Окулус», которая на основе нейросетей будет анализировать фото, видео и тексты на сайтах, в соцсетях и мессенджерах на предмет запрещенной информации, в том числе пропаганды гомосексуализма, изготовления наркотиков и оружия.

Как пишет «Коммерсантъ» со ссылкой на информацию на сайте госзакупок, разработкой системы займется ООО «Эксикьюшн Эр Ди Си», которое получит от заказчика 57,7 млн рублей. «Окулус» должен быть создан к 12 декабря 2022 года. Вместе с тем источник газеты в крупной ИТ-компании счел, что реализовать такую разработку к обозначенной дате невозможно. Гендиректор компании Smart Engines Владимир Арлазаров также выразил удивление относительно срока создания «Окулуса», сочтя его недостаточным для такой системы.

Роскомнадзор создает систему для поиска запрещённого контента

Согласно технической документации, система будет в режиме реального времени на основе нейросетей анализировать изображения и видео, публикации каналов мессенджеров, URL-адреса и другие данные на предмет противоправной информации. В «Окулус» также должен быть реализован «функционал каталогов определяемой символики, сцен и действий, персоналий».

Исполнитель поставит размеченные наборы данных для обучения модели распознавания лиц «в объеме не менее 100». Предполагается, что в «Окулус» должен быть реализован «функционал каталогов определяемой символики, сцен и действий, персоналий». Мощность системы должна составить 200 000 изображений в сутки, то есть в секунду «Окулус» будет анализировать два кадра или картинки.

По словам Арлазарова, «на текущем уровне развития ИТ» заявленные задачи можно решать с качеством порядка 90%, то есть с 10% ошибок. Современные модели искусственного интеллекта, классифицирующие поведение человека в видеоряде, обычно обучаются на данных объемом около 1 млн роликов, добавил он. ^[2]

2021: Создание системы автоматического поиска запрещённой информации в фото и видео

20 сентября 2021 года стало известно о создании Роскомнадзором системы поиска противоправного контента в изображениях и видео в интернете. Она получит название «Окулус».

Как пишет «Коммерсантъ» со ссылкой на соответствующий тендер на сайте госзакупок, подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) готов заплатить 15 млн рублей за разработку технического задания для проекта. Предполагается, что новая система сможет выявлять распространение экстремистских материалов и порнографии, пропаганду наркотиков, призывы к массовым беспорядкам и самоубийству. Её запуск намечен на 2022 год.

В ГРЧЦ пояснили «Коммерсанту», что фото- и видеоматериалы в интернете превалируют над текстом и «именно в таком контенте появляется все больше запрещенной законами России информации».

Роскомнадзор создает систему автоматического поиска запрещённой информации в фото и видео

Разработка системы «Окулус» может стоить от десятков до сотен миллионов рублей, ее внедрение обойдется в миллиарды, а обслуживание — в десятки миллионов в год, оценил совладелец компании «Ланит-Терком» Владимир Уфнаровский. Реализовать такой проект в масштабах рунета будет проблематично, считает исполнительный директор Artezio (входит в группу «Ланит») Павел Адылин.

Нужно не только разработать систему мониторинга, но и обеспечить прохождение через нее всего интернет-трафика, — сказал он.

По его мнению, из-за внедрения подобной системы фильтрации фото и видео скорость доступа в интернет для пользователей существенно замедлится.

К сентябрю 2021 года ответственность за размещение в сети противоправных материалов варьируется от административной до уголовной. За возбуждение ненависти или вражды, унижение достоинства человека по признакам пола, расы и т. п. предусмотрен как штраф до 500 тыс. рублей, так и лишение свободы от двух до пяти лет, рассказал изданию руководитель направления фирмы «Рустам Курмаев и партнеры» Ярослав Шицле.^[3]

Примечания