Член РАПК, директор АНО «Цифровые системы», эксперт по цифровизации Вячеслав Сатеев — о том, почему главная уязвимость ИИ в политике — не дипфейки, а сценарии.
«В наше время люди узнают о том, что они думают, по телевизору» — В.О. Пелевин
Вместо введения
В августе машину в политике искали трижды. А нашли лишь раз — и не там, где машина хоть что-то меняла.
Разберём три истории, которые показывают, как на самом деле работает ИИ в политической агитации — и почему наши инструменты поиска синтетики устарели.
История первая: YouTube-фабрика, которую приняли за иностранное вмешательство
С июня исследователи Riddance и штаб Ньюсома следили за сетью «новостных» каналов на YouTube. Смотреть было на что: десятки каналов, 45 млн просмотров, 90к
комментариев — больше вовлечения, чем у Washington Post и New Yorker. И каждый ролик про «крах синих штатов».
Искали и политзаказ, и русскую угрозу. В штабе губернатора так и считали — иностранное вмешательство.
Что нашли на самом деле.
2 сентября Semafor дошёл до источника. Это 25-летний выпускник Чикагского университета, ютубер со стартапом по раскрутке каналов для брендов. Весной он пробовал играть на другой стороне — ролик «Врачи выявили у Трампа деменцию» собрал 129к просмотров. Но гнев на Мамдани и Ньюсома зашёл лучше, и каналы начали выдавать его.
Внутренний дашборд сети с пометкой «anti-Dem»:
● аудитория — 80% мужчины старше 55 лет;
● производство — 2500 роликов в неделю;
● на этой машине продаются приложения: один из клиентов получил 2 млн долларов годовой выручки.
Первая инверсия в целях: искали политику — нашли бизнес. Политика была не смыслом, а самым дешёвым в стране сырьём.
Вторая инверсия — в кадре. Три года мир учился ловить машину, притворяющуюся человеком: дипфейки, синтезированные голоса, генерированные аватары. Всё наоборот — сценарии, заголовки и превью пишет модель, а читает их человек. Актер с фриланс-биржи Fiverr. 26 долларов за ролик, сутки на запись, свет свой. Кто платит, актеры не знают.
YouTube умеет маркировать синтетику, но человек, читающий машинный текст, синтетикой не является. Оператор ещё в августе хвастался и другим лупхолом: если 26 аккаунтов постят один хэштег за десять минут, алгоритм считает это breaking news.
Развязка: 25 августа, после запроса СМИ, сайты сети разом погасли. 3 сентября YouTube снял 20 каналов за спам и обманные практики. Не за ложь — проверки правды у платформы нет, только проверка происхождения. И сработала она уже после публикации, а не до.
История вторая: судебный иск против ИИ-картинок
10 августа Верховный суд снял список «Яблока» с выборов в Госдуму по иску «Родины». Претензии касались в основном авторских прав, и в одном ряду там
оказались голубь, кадры из фильмов, фраза «лишь бы не было войны» и «рисунки, созданные с помощью ChatGPT».
ИИ стал инструментом политической борьбы в форме юридической атаки на оппонента. И хотя ЦИК почти сразу признал, что нормы авторского права к ИИ-картинкам неприменимы, на результат это не повлияло: список уже был снят.
Подвести итог можно фразой из доклада ЦПК от 24 августа: «Впервые фактор ИИ оказал влияние на результат кампании».
Массового применения нейросетей в агитации не будет, «цена ошибки слишком высока» (Чеснаков). Но партии уводят ИИ туда, где их не видно — в черновики, аналитику и «неаффилированные аккаунты».
Вернёмся к первой истории: неаффилированный аккаунт, где человек произносит написанный машиной текст, — это и есть тот призрачный создатель с YouTube. Детектор ищет машину в картинке, а машина уже в сценарии.
История третья: китайская ферма, которую поймали… за что?
28 августа X отчиталась о находке фермы из 200к китайских аккаунтов. Две сотни из них постили созданные ChatGPT карикатуры против американских дата-центров — мол, из-за ИИ дорожает электричество.
Здесь детектор нашёл машину. Но именно машину, не ложь. Недовольство дата-центрами в США настоящее, боты лишь седлают его. Единственная пойманная сеть месяца — та, где нечего опровергнуть.
Выводы для цеха
Все ищут одно и то же: синтетику в кадре и заказчика за кадром. Теперь придётся искать, кто написал текст и нанял актёра (и есть ли там что-то, кроме рекламной сети).
1. ИИ в агитматериале — не инструмент, а уязвимость. Аудит на генерацию проводится до подачи списка, а не после иска.
2. Фабрика лиц против вашего кандидата может не иметь заказчика вовсе — только CTR. Ловить её нужно по паттерну: общая музыка, общие фразы, синхронный постинг — а не гадать, чьи деньги.
3. Будущее по-прежнему здесь и распределено неравномерно. И хотя это будущее с человеческим лицом, лицо это понятия не имеет, кто ему на самом деле платит.
