Исследователи НИУ ВШЭ обнаружили сеть из 60 YouTube-каналов и 3000 ботов, синхронно продвигавших антироссийские нарративы после атаки на Wildberries.

Исследователи Института гуманитарных и социальных технологий НИУ ВШЭ зафиксировали скоординированную информационную кампанию вокруг атаки беспилотников на распределительные центры Wildberries в ночь на 18 июля. Для анализа взята одна из выявленных учеными сетей, включающая 60 каналов и 3000 автоматизированных комментаторов.

Сеть YouTube-каналов, выявленная по итогам анализа открытых данных средствами искусственного интеллекта, отреагировала на событие в течение двух часов и использовала его для одновременного продвижения сразу нескольких антироссийских нарративов.

Каналы сети были выявлены с помощью семантического поиска и поиска по уникальным текстовым маркерам из ранее идентифицированных каналов. Алгоритмический отбор проверялся ручной контент-экспертизой, после чего каналы оценивались на предмет общих автоматизированных комментариев, нарративного содержания во времени, а также иных косвенных признаков.

За последние шесть месяцев активность каналов сети возросла кратно: количество публикаций сети выросло с 22 до 757 видео в месяц (рост в 34 раза), а объем комментариев — со 154 до 16 173 (рост в 105 раз). Сеть активизируется в ответ на отдельные события в России: Парад Победы, ПМЭФ, атаки БПЛА на Москву и дефицита бензина на юге России, предпринимая попытки представить эти события в гипертрофированно негативном ключе.

На примере изученной сети исследователи показывают, что в генеративный контент в настоящий момент может производиться и распространяться полностью автоматически. Злоумышленнику достаточно поставить задачу ИИ-агенту оркестратору, который перераспределяет задачи между отдельными автоматонами. Одни из них собирают информацию о пользователях, другие на ее основе генерирует неограниченное количество видео с «катастрофической» подачей информации, третьи управляют размещением в каналах и поведением ботов-комментаторов.

В исследованной сети каналы обладают признаками купленных (паузы в публикациях от года до семи лет с последующим взрывным ростом количества постов и подписчиков), а боты действуют шаблонно. Однако потенциал современных технологий искусственного интеллекта этим не исчерпывается, и вскоре мы можем столкнуться с более опасными сетями.