ШІ-фейки стали великим бізнесом: хто на них заробляє?

Юлія Дукач: У фактчекерів Snopes є окрема рубрика. Називається «ШІ-згенеровані історії про тварин, які ми спростували». Серед них — чорний ведмідь, який заліз уночі в рибальський магазин, з’їв усю рибу з акваріума і заснув. Або пума, що залізла в зоомагазин по котячу м’яту. Мій же безумовний фаворит — кадри з чихуахуа, який прибився до зграї вовків і бігав із нею.

Під одним зі спростувань фактчекери навіть написали, що заздалегідь просять вибачення за те, що зіпсували всім свято. Бо історії ж класні. Хочеться, щоб вони були правдою.

Тільки от і ведмідь, і чихуахуа прийшли з однієї фейсбук-сторінки, яка публікує десятки таких історій щодня. І ні, це не креативний жарт однієї людини. Це конвеєр.

І крім того, що такі відео поступово спотворюють наше уявлення про природу — залишається питання. В чому сенс генерувати ведмедя? Чи кроликів на батуті, на яких торік повелась половина інтернету?

Це подкаст «Згенеровано ШІ» на Громадському радіо, я його ведуча Юлія Дукач. Сьогодні говоримо про економіку ШІ-фейків: хто, як і скільки на цьому заробляє грошей.

ШІ замість редакції

У квітні 2024 року редактор NewsGuard провів експеримент і описав його для Wall Street Journal. Він створив повністю автоматизований новинний сайт із політичним ухилом. Контент збирав, переписував і публікував ШІ — без участі людини. На все пішло два дні, 105 доларів і один пакистанський фрілансер, найнятий на біржі.

Але далі — найкраща частина цієї історії. Через три місяці фрілансер написав редакторові подяку. Так би мовити, від щирого серця. Бо після статті в WSJ попит на його послуги різко виріс, і він виконав річний план заробітку за 1 квартал.

Автор розслідування тоді зберігав оптимізм: мовляв, пояснити механіку важливіше, ніж ризикувати її популяризацією. Судячи з ринку — обидва ефекти спрацювали одночасно.

З 2024-го подібні практики розрослись настільки, що NewsGuard запустив окрему систему моніторингу ШІ-контент-ферм у реальному часі. Аналізують уже не окремі генеровані статті, а цілі домени.

Критерій у них доволі чіткий. Сайт вважається ШІ-контент-фермою, якщо збігаються три умови: значна частина матеріалів створена ШІ, читачам про це не повідомляють, а сайт оформлений так, щоб виглядати як робота живої редакції.

Тобто ключове тут — не автоматизація. Ключове — маскування. Помножена на дешевизну, швидкість і прибуток.

Гіл Варфоломєєв: Бізнес-модель таких сайтів проста: швидко створити сторінки, залучити трафік і продати якомога більше рекламних місць. За даними NewsGuard, у межах двомісячного моніторингу реклама 141 великого бренду з’являлась на ШІ-контент-фермах (1, 2). Один із таких сайтів одночасно показував рекламу відомих міжнародних брендів на кшталт Expedia, YouTube, Skechers чи GoDaddy — і публікував вигадану новину про Coca-Cola.

Механізм, який це уможливлює, називається програматична реклама. Рекламні місця купуються автоматично, в реальному часі, за аудиторією й контекстом, а не за конкретним сайтом. Бренди не обов’язково знають, поруч із яким саме текстом опиниться їхнє оголошення. Для них головне – потрапити на очі тій аудиторії, яка їх цікавить. А де це відбудеться – мало когось цікавить.

Іншими словами: цю екосистему фінансує звичайний рекламний ринок. Не спецслужби, не пропагандистські бюджети. Просто автоматична закупівля реклами, яка не вміє відрізнити справжнє онлайн видання від його імітації.

Юлія Дукач: І тут дві історії змикаються. З одного боку — росіяни, які отруюють мовні моделі своєю пропагандою, наприклад, через мережу «Правда», про що ми детально говорили раніше. Клікайте якщо не бачили. З іншого — люди, яким взагалі байдуже, про що текст, аби він приносив покази реклами. Або ж все разом – російська пропаганда, яка не проти ще трохи окупитись.

Результат для інформаційного простору доволі деструктивний. Особливо в довгостроковій перспективі. Інтернет заповнюється текстами, які ніхто не писав і ніхто не перевіряв.

І чим далі, тим ближче ми до втілення теорії мертвого інтернету. Компанія Graphite проаналізувала 65 тисяч англомовних сторінок і виявила: приблизно половина нових статей в інтернеті має ознаки машинної генерації. Причому ця частка вийшла на плато десь із 2025 року.

Але тут важливий нюанс, який часто губиться в заголовках. Йдеться про обсяг публікацій, а не про те, що люди реально читають. У тому ж дослідженні звертали увагу, що серед статей, які цитують чат-боти, більшість — усе ще написані людьми. Пошуковики теж ранжують згенероване нижче.

Результати можуть бути дуже різними для різних країн, мов і контекстів. Та все одно поки що це не «інтернет уже наполовину фейковий». Це «інтернету стало вдвічі більше, і половина цього приросту — сміття, яке ніхто не замовляв». І на якому вже тренуються великі мовні моделі.

Коли слоп стає небезпечним

Досі все звучало відносно нешкідливо. Ну, сміттєві сайти. Ну, реклама не там. Навіщо хвилюватись?
Але у цієї індустрії є напрямки, де ціна помилки трохи вища за зіпсовану стрічку новин.

BBC News у Бразилії виявили щонайменше 50 YouTube-каналів, які навчають людей створювати відео зі згенерованими лікарями. Не для розваги — для продажу.

Віртуальний лікар у халаті, впевненим голосом, рекомендує препарат чи процедуру. Або дає відверто шкідливі поради, які, тим не менше, добряче вірусяться бо працюють зі страхами користувачів. У деяких випадках такі лікарі є цілковитою вигадкою. В інших — штучний інтелект відтворює обличчя, голос або особу реальних медиків без їхньої згоди.

В Україні ШІ-лікарі поки що масово не засвітились. Але враховуючи, скільки в нас фейків навколо фуфломіцинів — і скільки з цих схем, як показували колеги з Texty, працюють за російськими шахрайськими лекалами — це радше питання часу.

Тим паче що інструмент уже випробуваний. Дипфейки відомих українських журналісток – це вже зброя не лише російської пропаганди, але і просування псевдоліків.

Типовий приклад експлуатації довіри, яка вже існує — до білого халата, до знайомого обличчя з телевізора. Бо створювати довіру дорого. Вкрасти чужу — набагато дешевше.

Оренда обличчя: інвестиційна версія

Ми всі хочемо бути здоровими. І заради цього часом готові на все – навіть повірити в силу магічних пігулок. А ще ми хочемо бути багатими. Бажано, без надмірних додаткових зусиль.

Тому шахраї активно беруть на озброєння такий собі універсальний рецепт: береш обличчя, якому довіряють у питаннях грошей. Клонуєш голос із годин публічних виступів. До речі, як працюють аудіодипфейки ми розбирали тут, якщо коротко, іноді достатньо пари десятків секунд запису. І генеруєш коротке відео, де ця людина радить вкласти гроші в криптовалюту чи платформу з «гарантованим прибутком». І запускаєш як рекламу.

Гіл Варфоломєєв: Аналітики Chainalysis, які відстежують криптотранзакції, описують окремий ринок: китайськомовні продавці в Telegram торгують софтом для підміни облич, дипфейк-інструментами й мовними моделями. Розраховуються криптою — тому самі покупки видно в блокчейні.

Логіка та сама, що з контент-фермами. Інструмент дешевий, поріг входу мінімальний, попит є. А наслідки найкраще видно в державній статистиці. Австралійський регулятор ASIC у серпні цього року звітував: за фінансовий рік дипфейкові «поради» від десятка найвпізнаваніших австралійців — від прем’єра Ентоні Албанезі до фінансових оглядачів — фігурували у зверненнях про втрату 7,4 мільйона австралійських доларів. Це лише те, про що люди повідомили самі.

За той самий рік ASIC видалив 19 400 шахрайських ресурсів — на 182 відсотки більше, ніж роком раніше. Серед них — сім тисяч фейкових інвестиційних платформ.

Юлія Дукач: Але абсолютний чемпіон цієї індустрії — Ілон Маск. Він – найчастіше використовувана знаменитість в подібних схемах. Багатий, публічний, асоціюється з криптою, і в мережі — тисячі годин його виступів. Сировини для клонування вдосталь.

У 2024 році дослідники DFRLab задокументували як шахраї захопили геймерський ютуб-канал із 420 тисячами підписників. Перефарбували його під офіційний канал Tesla, разом із логотипом і банером.

Галочка верифікації при цьому залишилась своя, справжня. Далі — запустили семигодинний лайвстрим, у якому зациклене відео зі згенерованим Маском обіцяло «автоматичне подвоєння» всім, хто швидко перекаже криптовалюту.

Коментарі працювали в режимі, де писати можуть лише допущені акаунти. Тобто попередити одне одного глядачі не могли. Зате активно дописував акаунт із ніком «Elon Musk», який повідомляв, що глядачам уже надіслали понад сімсот біткоїнів. За дві години схема зібрала близько 50 тисяч доларів.

Скільки такі схеми заробляють — точно невідомо, але оцінки варіюються в межах десятків мільярдів доларів щороку. Але всі експерти погоджуються в одному: з розвитком ШІ розвивається та дорожчає і цей ринок. А отже — ще більші суми заробляють шахраї, і ще більше людей втрачають свої заощадження.

Що з цим робити

Утім, не все аж так погано. По-перше, сфера потроху починає регулюватись. Із 2 серпня цього року в ЄС почали діяти вимоги AI Act щодо прозорості ШІ-контенту. Провайдери мають забезпечувати машинозчитуване маркування синтетичних матеріалів. Ті, хто публікує дипфейки — повідомляти, що зображення, відео чи аудіо створені або змінені за допомогою ШІ.

Платформи паралельно працюють над тим, щоб занижувати видачу й монетизацію ШІ-слопу — бо це вже й їхня проблема теж. Хоча насправді ШІ контент теж непогано утримує людську увагу, а отже я би не переоцінювала мотивацію платформ з цим боротись.

Погана новина в тому, що ідеального детектора ШІ не існує, особливо коли ми говоримо про текст. В більшості випадків відповідальність за маркування ШІ все ще перекладається на творців контенту. Та і чим більше матеріалів створено людиною разом із ШІ, тим важче провести чітку межу між згенерованим та створеним людиною.

Тому тут чарівної пігулки теж немає та не буде найближчим часом.

Гіл Варфоломєєв: Варто розуміти, що межа тут проходить не між «ШІ» і «не ШІ». Вона проходить між тим, хто відповідає за опублікований матеріал, і тим, хто не відповідає ні за що.

Українські редакції теж активно користуються ШІ інструментами. За дослідженням Media Development Foundation, 85% опитаних локальних українських редакцій використовують ШІ для роботи з текстами — коректури, заголовків, перефразування, редакційного доопрацювання. Найчастіше — для транскрибування, субтитрів і перекладу. Найрідше — для фактчекінгу й роботи з даними.

Але формат використання — допоміжний. Фінальна перевірка й відповідальність залишаються за людиною. Саме це відрізняє редакцію від контент-ферми.

Юлія Дукач: Тому і практичний висновок буде не про ШІ детектори, а про джерела звідки ми отримуємо інформацію та хто відповідає за її якість.

У медіа є редакція, вихідні дані, автор, якому можна написати. У контент-ферми немає нічого, крім рекламних місць.

І окремо — про гроші. Жодна реальна знаменитість не веде вас в інвестиційну платформу через відеорекламу.

Це просто не той формат, у якому працює справжній бізнес. Перевіряйте не в самій рекламі, а в офіційному джерелі: на сайті регулятора, у профілі компанії, зрештою — пошуком імені разом зі словом «дипфейк» чи «спростування». Більшість публічних осіб уже публічно відхрещувались від подібних відео.

Ми починали з питання, навіщо генерувати фейкові відео з чихуахуа. Тепер відповідь зрозуміліша. Наші час та увага коштують грошей. А обізнаність щодо технологій та критичне мислення допоможуть інвестувати їх в щось більш якісне та по справжньому корисне.