ШІ не створив фейки: він зробив їх бізнесом

Хто платить за дезінформацію: економіка ШІ-контенту

Влад Бундаш: Уявіть рекламний ролик стартапу. Молоді засновники, гарна графіка, впевнений голос за кадром. І текст: ми — єдина ботоферма в Америці з венчурними інвестиціями. Бо чому вся розвага має діставатись Росії та Китаю?

Це не пародія. Це промо реальної компанії. Клієнти платять їй кілька тисяч доларів на місяць за можливість прорекламувати свій продукт через ШІ-інфлюенсерів.

Закінчується ролик фразою «ласкаво просимо в мертвий інтернет».

Це «Згенеровано ШІ» на Громадському радіо, мене звати Влад Бундаш. Досі ми говорили про фейк як зброю. Сьогодні ж поговоримо про фейк як послугу. З підрядниками, тарифами і конкуренцією за клієнта

1. Прайс-лист

Почнемо з того, що ринок фейків і дезінформації набагато старший за ChatGPT.

У 2019 році аналітики Recorded Future провели простий експеримент. Вигадали компанію, якої не існує. І пішли з нею на російськомовні підпільні форуми – замовляти послуги з побудови репутації.

Спочатку замовили хороше. Згадки, коментарі, публікації. Отримали рахунок тисяча вісімсот п’ятдесят доларів.

Потім перейшли до цікавішого. Замовивши тій самій неіснуючій компанії послуги зі знищення репутації. Без проблем. З вас чотири тисячі двісті.

Обидва замовлення виконали. Ввічливо, з прикладами попередніх робіт і правками після фідбеку. Такий собі нормальний клієнтський сервіс. Із нормальним клієнтоорієнтованим прайсом. Наприклад, вісім доларів за один пост. Або 100 доларів за 10 коментарів під статтею. В 2019 здавалось, що це дешево.

Самі дослідники назвали це “disinformation as a service”. Дезінформація як послуга. І припустили, що з інструменту авторитарних держав вона стане послугою для всіх охочих. І, зрештою, стала. 

А тепер згадаємо як цю сферу прокачав генеративний ШІ. Раніше тексти писали люди, акаунти вели вручну, з редакціями домовлялись теж через особисті переписки.

ШІ не створив цей бізнес. Він прибрав з кошторису найдорожчий рядок. Людину.

2. Продавець без переконань

Тепер давайте перенесемось у вересень цього року.

Аналітики Molfar Intelligence Institute проаналізували звіт компанії Anthropic щодо експлуатації їхньої власної моделі різними гравцями на цьому ринку по всьому світові. І кейси там ну дуже характерні.

Візьмемо перший. Мережа приблизно з сімдесяти новинних сайтів. Виглядають як маленькі місцеві редакції зі всього світу: свої назви, своя тематика, свої автори з іменами й підписами. Щоправда, авторів не існує. Редакцій теж. Майже дев’ять тисяч статей, двадцятьма мовами. Всі згенеровані.

За всім цим — LKM Company. Французьке агентство цифрової реклами.

Тримали ці сайти без відвертої політичної позиції. Щоб легко її змінювати залежно від того, хто платить у конкретний момент. Часом одну й ту саму новину переписували в протилежних ідеологічних напрямках — щоб адаптувати для різних аудиторій.

Продавцю все одно. Переконання приносить клієнт.

Другий кейс ще більш промовистий. Стамбульська компанія продавала платформу для маніпуляції виборами. Назовні вона позиціонувалась як оборонний інструмент: кіберрозвідка і протидія дезінформації.

Всередині ж — близько тисячі фейкових акаунтів, імітація новинного видання і профілі виборців по всіх округах Малайзії. Профілі, до речі, вони створювали спираючись на переписи і виборчі дані. Щоб працювати по найчутливіших лініях суспільного розколу: раса, релігія, монархія.

У платформи був повзунок — скільки штучних переглядів має отримати конкретна ціль. Один із зафіксованих запитів: мільйон переглядів для акаунту чинного прем’єр-міністра Малайзії.

Тобто компанія, яка продавала захист від дезінформації, продавала такі самі послуги. Просто для інших замовників.

І зверніть увагу: часто такі послуги пропонують рекламні або маркетингові фірми — паралельно зі звичайною комерційною роботою.

Не під прикриттям. Паралельно. У вівторок просуваєш мережу кав’ярень, у середу — кандидата на виборах, у четвер знову кав’ярні.

3. Залізо

Повернемось до компанії з початку нашого випуску. Вона називається Doublespeed. І вона правда заслуговує на додаткову увагу.

Як мінімум тому що отримала мільйон доларів інвестицій від a16z — одного з найвідоміших венчурних фондів Кремнієвої долини. Їхній офіс — орендований будинок у Лос-Анджелесі, де засновники живуть разом із парою співробітників.

А в будинку — понад тисяча смартфонів. Справжніх.

Це ключова деталь. Дешевше було б запустити тисячу віртуальних телефонів на одному сервері. Але платформи навчились такі маніпуляції виявляти. Тому купують залізо: у кожного акаунта справжній пристрій зі справжніми технічними відбитками. Для алгоритму це людина з телефоном.

Акаунти спочатку «прогрівають». Кілька тижнів вони просто скролять, лайкають, коментують. Живуть звичайне життя. І лише потім починають продавати.

Минулої осені компанію зламали. Хакер отримав доступ до всієї адміністративної панелі — бачив телефони, акаунти, проксі та черги завдань. І передав журналістам 404 Media список акаунтів.

Завдяки цьому ми точно знаємо що продавали ці сотні ретельно створених ШІ-персонажів.

Застосунки для вивчення мов. Сервіси знайомств. Харчові добавки. Біблійний застосунок. І масажер.

Так, вам не почулось. Тисяча телефонів, венчурні гроші, інфраструктура для обходу модерації найбільших платформ світу — заради реклами масажера.

А тепер уявіть ту саму стійку з телефонами, але з клієнтом з-за порєбріка.

У квітні цього року СБУ разом із Нацполіцією затримали в Житомирі чоловіка, який торгував акаунтами. Реєстрував їх на українські мобільні номери і продавав на закритих майданчиках. Покупцем були російські спецслужби.

Три тисячі фейкових телеграм-сторінок щомісяця. Загалом заблокували близько двадцяти тисяч акаунтів.

При обшуку вилучили те, що можна купити в будь-якому магазині електроніки: комп’ютер, телефони, USB-хаби з модемами. 

А ще майже дві тисячі сім-картОк.

Різниця між ним і каліфорнійським стартапом — не в технології. І навіть не в масштабі. Різниця в тому, хто за ці послуги платить.

4. А тепер про тих, хто платить без замовлення

Але якщо ви думаєте, що такі компанії заробляють лише на замовленнях від клієнтів, то помиляєтесь.

Аналітики Molfar Intelligence Institute наводять яскравий приклад – сервіс Kapwing минулого року перебрав тисячі найпопулярніших ютуб-каналів світу. За їхніми результатами, від 20 до 30% стрічки Ютуб можуть складатись з ШІ-слопу чи різного генерованого сміття. Разом цей контент зібрав понад шістдесят мільярдів переглядів і, за оцінкою дослідників, близько ста сімнадцяти мільйонів доларів на рік.

Ці гроші платить не замовник. А рекламна система платформи.

Чи візьмемо платформи Meta. За внутрішніми документами, які отримали журналісти Reuters, компанія прогнозувала: близько десяти відсотків виручки за 2024 рік (а це близько шістнадцять мільярдів доларів) принесе реклама шахрайських схем і заборонених товарів. У компанії, звичайно, тоді відповіли, що активно з цим борються, а саму оцінку назвали приблизною й надто широкою. Але і втрачати десяту частину свого прибутку теж, певно, не дуже хочуть.

А отже щоб заробити на брехні замовник не обов’язковий. Достатньо системи, яка платить за кількість уваги яку вам вдалось зібрати, не питаючи, хто і як це зробив.

5. Чому паспорт не допоможе

Напрошується очевидне рішення. Хочеш зареєструватись на платформі – покажи документ.

Але чи можемо ми собі дозволити відмовитись від анонімності?

Анонімність — не привілей тролів. Це техніка безпеки. Для людей на окупованих територіях. Для військових. Для жінок, які тікають від насильства. Для джерел, які говорять із журналістами. Для активістів у країнах, де через допис можна потрапити за грати.

До того ж паспортизація не спрацює ідеально. Чоловік із Житомира реєстрував акаунти на справжні українські номери, куплені легально. Каліфорнійський стартап тримає тисячу справжніх телефонів саме тому, що платформи відстежують підробки. Ринок уже навчився купувати автентичність. Перевірка документів просто додасть йому ще один рядок витрат.

До того ж перевіряти треба не кожен окремий акаунт. А поведінку. Не «хто ти», а «чому тисяча акаунтів, створених в один тиждень, публікує одне й те саме з різницею у три хвилини». Це видно без жодного паспорта. Просто цього довго не хотіли бачити самі платформи, бо для них будь-яка додаткова активність – це гроші. 

Але тут же варто додати ще одне важливе уточнення. У тому ж звіті Anthropic вказують: більшість виявлених операцій так і не зібрала справжньої аудиторії. Те, що ринок великий, ще не означає, що він ефективний. 

І дезінформатори воюють за нашу увагу не лише між собою, але з якісним контентом. А ми робимо все, щоб такого контенту ставало більше.