Про подростков

Роскомнадзор запустил систему автоматического поиска запрещенного контента «Окулус». Об этом «Ведомостям» рассказал представитель подведомственного Роскомнадзору Главного радиочастотного центра (ФГУП ГРЧЦ), который выступал заказчиком по проекту.

«Информационная система «Окулус» уже запущена и выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах», – заявил «Ведомостям» представитель ГРЧЦ. По его словам, в декабре 2022 г. система была протестирована, а в январе 2023 г. началась интеграция системы с другими инструментами мониторинга Роскомнадзора. Подробностей результатов тестирования, а также первых итогов ее работы представитель ГРЧЦ не привел.

Главная задача системы – это выявление нарушений российского законодательства в изображениях и видеороликах, уточнил представитель ГРЧЦ. «Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и др.», – пояснил он.

«Окулус» – это система, которая предполагает выполнение задач по классификации изображений и видеороликов по заданным требованиям, включающим основные типы запрещенного контента, пояснила «Ведомостям» гендиректор компании «Социальная лаборатория» Наталия Тылевич. По ее словам, «Окулус» работает как классификатор с уже заданным набором источников информации, в которых анализируется контент на предмет соблюдения или несоблюдения требований закона. То есть задача «Окулус» – анализировать фото- и видеоконтент, собранный другими сервисами, обеспечивающими сбор данных с конкретных страниц сайтов или же пабликов и профилей в соцсетях. Программа не занимается сбором данных, она их классифицирует, отметила Наталия Тылевич.

До внедрения системы специалисты ГРЧЦ анализировали запрещенный контент «преимущественно вручную», отметил представитель подведомственного Роскомнадзору органа. «В среднем операторы обрабатывали 106 изображений и 101 видео в день. «Окулус» же будет анализировать более 200 000 изображений в сутки (около трех секунд на одно изображение). Система позволит автоматизировать и значительно ускорить мониторинг визуального контента», – продолжил представитель ГРЧЦ. Это, как рассчитывают чиновники, позволит «повысить эффективность выявления признаков нарушений».

В дальнейшем, до 2025 г., систему планируется усовершенствовать. «Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», – рассказал представитель. Система будет выявлять запрещенные материалы «на нескольких кадрах на видеофрагментах, в сложных рукописных текстах и рисованном контенте», добавил он.