«Документы российской цензуры»: Роскомнадзор пытается научить нейросети распознавать мемы и мониторит картинки с Путиным в образе краба

Новости

Роскомнадзор планирует устроить глобальную слежку за всем русскоязычным интернетом с помощью искусственного интеллекта, выяснили «Важные истории» (партнер OCCRP) в партнерстве с Süddeutsche Zeitung и другими российскими изданиями на основе утечки внутренних документов ведомства, опубликованной группой хакеров «Киберпартизаны». Из утечки, в частности, следует, что сотрудники ведомства ежедневно мониторят мемы про президента России Владимира Путина, сообщения о его заболеваниях или негативные комментарии местных жителей после его визитов в регионы.

February 8th, 2023

Утечка содержит более двух миллионов документов, изображений и внутренних электронных писем

Проект получил название «Документы российской цензуры» (RussianCensorFiles). Хакеры выбрали РКН для атаки потому, что ведомство — «важнейший элемент российской репрессивной машины».

Сотрудники ведомства ежедневно мониторят негативные высказывания о Путине

Внутри РКН есть государственное предприятие Главный радиочастотный центр (ГРЧЦ), в котором работает более тысячи человек, и каждый день они составляют отчеты о негативных публикациях о Путине в интернете. Все отчеты затем отправляются в администрацию президента и силовые ведомства. Сотрудники ГРЧЦ ежедневно ищут негативные публикации о Владимире Путине и ухудшении его здоровья, а также делают прогнозы о том, какое событие может вызвать рост критики в будущем. В число их анализа входят даже мемы.

Сотрудникам поручено выявлять изображения, которые относятся к категории «Оскорбление президента РФ»: например, изображения Путина в образе женщины, «гомосексуалиста», краба (прозвище Владимира Путина, появившееся после его фразы «я пахал, как раб на галерах». — прим.) или моли (по данным СМИ, в молодости у Путина была такая кличка. — Прим. ред.), с заменой носа на половые органы, на коленях в уничижительной позе, среди продуктов жизнедеятельности человека, в мусорном баке, рядом с экскрементами, запрещены и порнографические изображения президента.

Роскомнадзор планирует устроить глобальную слежку за всем русскоязычным интернетом с помощью искусственного интеллекта

Руководству Роскомнадзора не нравилось, что поиск вручную не достаточно эффективен, а Роскомнадзор всегда на несколько шагов позади и не успевает за скоростью публикаций в интернете. Так отдел анализа и прогнозирования Главного радиочастотного центра (ГРЧЦ) получил задание разработать несколько автоматизированных систем, которые бы в постоянном режиме следили за социальными сетями, СМИ и другими источниками информации.

Сотрудники ГРЧЦ предложили в качестве решения «автоматизированную систему комплексного анализа медиаматериалов и поиска точек информационной напряжённости в глобальной сети „Интернет“ „Вепрь“», или коротко — «АС Вепрь». Туда попадают тексты, аудио, изображения и видео из соцсетей, СМИ и поисковой выдачи. «АС Вепрь» с помощью нейросетей анализирует материалы, выявляет так называемые точки информационной напряженности, прогнозирует развитие ситуации, предугадывать сценарии распространения информации и передает данные в «уполномоченные органы».

Разработчики начали обучать нейросети искать оппозиционный контент. Специалисты отдела мониторинга размечали материалы, например с призывами к «беспорядкам», чтобы в последующем нейросеть сама могла находить подобные сообщения. Однако в утечке нет упоминаний успешности подобных экспериментов.

В планах у РКН обучить нейросеть распознавать «сложные мультимодальные медиаматериалы» — плакаты, комиксы и мемы, поскольку они могут содержать запрещенную информацию «как прямо, так и косвенно». Однако авторы признают, что это сложно, так как задание требует контекстного понимания интернет-культуры. ГРЧЦ планирует завершить исследования того, как искать нарушения в мемах, только в 2024 году.

Полностью расследования читайте на сайте «Важных историй»: о слежке за негативными публикациями о российском президенте, о роли искусственного интеллекта в слежке и о том, за кем Роскомнадзор следит персонально.