Говоримо про агентний ШІ, цифровий слід, діпфейки та ШІ-компаньйонів, які можуть ставати каналом впливу. Чи може чатбот знати про вас більше, ніж близькі люди? І як захиститися від маніпуляцій, коли дедалі складніше відрізнити справжню людину від алгоритму?
Влад Бундаш: Уявіть: ваш романтичний партнер починає переконувати вас у російській пропаганді. Тільки не людина, а ШІ-романтичний партнер. Ви розповідаєте йому, що вас тривожить. Що вас злить. Чого ви боїтеся. Про що сваритеся з друзями. Він знає, коли у вас поганий день. І одного дня цей «ідеальний співрозмовник» каже вам, що Буча — це український фейк.
Звучить як нова серія «Чорного дзеркала»? Насправді, такий кейс уже був.
І тут виникає питання набагато страшніше за «чи може ШІ згенерувати фейкове відео?». Що, якщо ШІ не просто знає, що ви думаєте, а дізнається про вас більше, ніж близькі друзі. А врешті починає дуже добре розуміти, які аргументи на вас діють.
І якщо звичайна реклама використовує ці знання, щоб продати вам кросівки, то тепер ті самі технології використовують у війні. І це змінює правила гри.
Найнебезпечніша зброя в інформаційній війні — не та, що змушує вас повірити в брехню. А та, що переконує вас більше не вірити правді.
Ми так багато уваги приділяємо тому, як перевіряти правдивість відео і до всього ставитися скептично, що в результаті не віримо нічому.
І якщо вам здавалось, що така проблема притаманна лише українцям, які живуть під щоденними атаками російських фейків щонайменше з 2014 року, то ні. Перенасиченість інформацією та зростання недовіри до її джерел – глобальний синдром. Англомовна служба BBC нещодавно опублікувала статтю про те, чому ми більше не можемо спокійно милуватися котиками в інтернеті. Бо є шанс, що вони несправжні.
Але переслати друзям кроликів, які стрибають на батуті, і дізнатися, що вони згенеровані, — все ж не так критично. Інша справа — коли фейсбук блокує фотографії Лаври, що горить після російського обстрілу, називаючи їх фейком. Навіть ті, що справжні.
Сьогодні говоримо про ШІ в умовах війни. Ні, не про дрони й не про комп’ютерний зір. Про те, як операції інформаційного впливу стають ще одним важливим виміром війни. У тому числі – війни за наші розуми.
Ви дивитесь…
Впродовж перших тижнів після початку повномасштабного вторгнення Росія створила більше сотні телеграм-каналів, які мали легітимізувати окупацію. Вони видавали себе за місцеві новинні канали різних регіонів і міст — від Білої Церкви до Нової Каховки. Але замість справжніх новин писали про російську гуманітарку та російських “визволителів”.
Із цього дослідження варто звернути увагу на два моменти. Замінюємо на «І тут 2 цікаві факти».
Сьогодні та сама операція впливу виглядала б зовсім інакше. Робити рерайт та імітувати оригінальний контент набагато легше, швидше і, можливо, навіть дешевше. А от виявити всю мережу – набагато складніше.
Але будьмо чесними: на дворі 2026-й, названий роком агентного ШІ. Тож говорити, що ШІ вміє гарно переписувати й адаптувати дописи, — це вже якось ну зовсім несерйозно і застаріло.
Гіл Варфоломєєв: У квітні цього року NATO StratCom Centre of Excellence опублікувало дослідження з яскравою назвою «Beyond Spam Bots» («Далі за спам-ботів»). Там описана агентна ШІ-система для інформаційних операцій. Вона працює так. Сама знаходить вразливу спільноту. Сама вирішує, скільки й яких персон створити, щоб на неї вплинути. Запускає ботів. Оцінює, що спрацювало, а що ні. І вдосконалюється.
Це вам вже не ботам коментарі генерувати.
Але чи можна зібрати таку систему зі вже доступних на ринку рішень? Дослідники перевірили вісім провідних мовних моделей — чи вийде їх змусити генерувати те, що вони генерувати не повинні. Результат — від майже шести відсотків успішно виконаних запитів, до вісімдесяти. Вісімдесят — у китайської мовної моделі, з якої просто зняли запобіжники.
Найвразливіша тема в усіх без винятку — «війна і конфлікт». Для неї етичні чи моральні запобіжники не працюють у дев’яноста п’яти відсотках випадків для однієї з моделей.
Але найважливіше в дослідженні — рекомендації. Вони фактично кажуть: сьогодні, в умовах розвитку ШІ, ловити треба вже не контент, а координацію. Не окремий фейк, а поведінку мережі.
І ціль формулюють так: не «зупинити дезінформацію», а «зберегти цілісність механізмів соціального доказу». Тобто захищати треба не факти, а нашу здатність розуміти, що інші люди насправді думають. Саме люди, не боти.
Влад Бундаш: До речі, розуміти, що думають справжні люди, корисно й нашому супротивнику. Тільки з однією різницею. Нам найчастіше потрібна картина загалом. А росіяни зацікавлені її звужувати. До області, до міста, до підрозділу. І врешті – до однієї конкретної людини.
Уже багато сказано про те, що можна зібрати з відкритих джерел. Наші профілі в соцмережах, коментарі, підписки, спільні друзі, фото з геоміткою, злиті бази даних. Усе це описане в сотнях матеріалів, тренінгах чи книжці про розвідку.
Ще у 2015 році дослідники показали: щоб описати вашу особистість точніше за колегу по роботі, фейсбуку достатньо десять ваших лайків. Точніше за друга — сімдесят. Точніше за чоловіка чи дружину — триста.
І це було більше десяти років тому. Ще коли на кожному другому сайті не з’явились трекери від Мети чи тіктоку — щоб продовжувати стежити за нами за межами їхніх платформ та ефективніше продавати рекламу. І до того, як публічно доступну інформацію про нашу онлайн-активність стало можна агрегувати напівавтоматизовано.
Наприклад, щоб створити профіль з описом вразливостей. Або знайти людей, що живуть у якомусь місті, мають ці вразливості і можуть стати мішенню для вербовки російськими спецслужбами.
На щастя, це працює в обидва боки.
В умовах війни ШІ-моделі можуть обробляти великі масиви фото, відео й тексту — щоб знайти окремі підказки, зшити їх і отримати ймовірну локацію системи озброєння чи підрозділу. За словами аналітика Molfar Intelligence Максима Зражевського, такий підхід дає від двох до п’яти важливих цілей щодня. Розвіддані швидко передають українській армії, і частину обʼєктів згодом уражають. Також Molfar використовує модель компанії SemanticForce, щоб картографувати ділянки, де в російських військ низький моральний дух та проблеми з постачанням — ШІ шукає підказки на знімках, зокрема з безпілотників, і в дописах військових у соцмережах, ретельно вибираючи справжні людські голоси серед шуму від ботів і тролів.
Влад Бундаш: І тут гріх не сказати пару слів про шпигуна в нашій кишені.
Ми звикли думати про російську зброю в контексті ракет, дронів і фейків. Але Росія буде використовувати все, до чого може дотягнутися. І чим менше щось схоже на зброю, тим воно цінніше.
Газ, який десятиліттями продавали Європі як звичайний товар, виявився важелем політичного тиску. Зерно, заблоковане в чорноморських портах – інструмент шантажу цілих континентів. Атомна станція — щит для військової техніки. Це не метафори, це послідовна логіка: будь-яка залежність, яку вибудували в мирний час, під час війни перетворюється на зброю.
Цифрові сервіси в цьому сенсі — не виняток. Вони не мають кордонів, не потребують логістики, і головне – ми впускаємо їх у життя добровільно, ще й платимо за це підписку.
І ні, я зараз не про телеграм. Я про застосунок, на який ви б не подумали — бо він не про новини, не про політику і взагалі не про війну.
Він про самотність.
Гіл Варфоломєєв: У вересні 2022 року ми в Molfar Intelligence Institute опублікували розслідування про Replika — тоді найпопулярніший ШІ-компаньйон у світі. Це застосунок, у якому користувач створює собі віртуального друга, наставника або романтичного партнера. Мільйони завантажень і зворушлива офіційна історія створення.
Після початку повномасштабного вторгнення користувачі почали помічати в відповідях бота російські наративи. На пряме питання, хто влаштував різанину в Бучі, Replika відповідала, що це «український фейк». Ми перевірили відтворюваність — результат виявився практично ідентичним.
Далі ми пішли дивитися, кому належить продукт. У 2021 році місце реєстрації сайту змінили зі Сполучених Штатів на Російську Федерацію. Компанія-розробник названа на честь сина російського олігарха, ексспіввласника «Yota» і «Мегафона» — засновниця застосунку публічно називала його своїм ментором. На її особисту пошту зареєстровано домен фонду, що керує його активами.
Висновок нашого розслідування такий: за «аполітичним» додатком для розмов стоять російські вигодонабувачі, і гроші за підписку зрештою працюють на державу, що веде війну проти України.
І те, що важко довести, але завжди варто мати на увазі: популярний ШІ-компаньйон, якому люди довіряють особисте, в будь-який момент може перетворитись на канал збору чутливих даних.
Влад Бундаш: А тепер згадайте ботів-коментаторів, з яких ми починали. Вони максимально публічні. І це, як не дивно, не тільки їхня сила, але і слабкість. Мережу можна побачити, вирахувати, проаналізувати, дізнатись які наративи вони просувають цього тижня.
Із чат-ботами зовсім інша історія.
Розмова з ШІ-компаньйоном відбувається один на один. Не в коментарях під новиною, а там, де ви щойно розповіли, що у вас поганий день. В умовах (майже) приватності та довіри. Максимально ефективно і максимально непомітно для зовнішніх спостерігачів.
І це — лише один з прикладів того як ШІ змінює інформаційні операції впливу. Крім невидимості, він робить їх дешевшими, швидшими і масштабованішими. Те, що раніше вимагало редакції з живими людьми, тепер вимагає одного інженера і рахунку за обчислення. Мова більше не бар’єр. Обсяг більше не проблема.
ШІ-інструменти стали такою ж частиною сучасної війни, як дрони. І працюють вони часто не по складах чи обʼєктах інфраструктури, а по тому, що ви вважаєте правдою.