«Приватність в онлайн-просторі майже припинила існувати»: як ШІ змінює права людини

Чи усвідомлюємо ми наслідки розвитку ШІ?

Максим Буткевич: Коли я потрапив до російського полону, про штучний інтелект (ШІ) лише говорили і писали, але масового використання ще не було. Коли ж мене звільнили — ШІ, здавалося, був уже всюди.

Наскільки кардинальними є зміни, які принесли технології ШІ? Чи повністю ми усвідомлюємо ці наслідки, чи цей процес усе ще триває і ми не знаємо, куди він нас приведе?

Тетяна Авдєєва: Я б сказала, що все ще перебуває в процесі. Причому ситуація дуже сильно відрізняється залежно від сфери, віку людей та того, наскільки галузь, у якій ми працюємо, є цифровізованою.

Наприклад, дітям, які змалечку користуються гаджетами, набагато легше адаптуватися до таких технологій, аніж людям передпенсійного віку, які продовжують працювати, але не звикли до подібних інструментів, через що їм набагато складніше перебудовуватися. Тобто тут усе дуже індивідуально.

Але, наприклад, навіть попри те, що я постійно працюю з цими темами та долучена до розробки законопроєкту про регулювання штучного інтелекту — тобто постійно перебуваю в цьому середовищі, — сама щодня відкриваю для себе якісь нові речі, як позитивні, так і не дуже.

Штучний інтелект і загрози правам людини

Максим Буткевич: Коли ми сьогодні говоримо про штучний інтелект, то маємо на увазі найрізноманітніші технології: від генеративних моделей до систем розпізнавання облич та алгоритмів, які допомагають ухвалювати рішення.

Якщо подивитися на це саме крізь призму прав людини: чи йдеться про появу якісно нових ризиків, чи радше про те, що класичні проблеми — як-от дискримінація, нерівність, тотальний контроль і маніпуляції — отримали набагато потужніший технологічний інструментарій?

Тетяна Авдєєва: Я б казала, що єдиним принципово новим ризиком є питання відповідальності.

Адже коли ми говоримо про дискримінацію, то інституційні упередження найчастіше просто перекочовують у набори даних для навчання моделей, якщо ці дані вчасно не збалансувати й не очистити. З персональними даними ситуація аналогічна: витоки інформації трапляються як у звичайному програмному забезпеченні, так і у системах, що працюють на базі штучного інтелекту. Тут різниця не є суттєвою.

Натомість із суб’єктністю та відповідальністю проблема значно глибша. Якщо ми використовуємо штучний інтелект винятково як інструмент і людина перевіряє абсолютно всі результати його роботи, тоді розподіл відповідальності зрозумілий: відповідає або конкретний користувач, який застосував ШІ в конкретній ситуації, або розробник (постачальник системи), якщо помилка виникла ще на етапі розробки й не була усунена компанією.

Проте коли ми говоримо про повністю автономне ухвалення рішень штучним інтелектом — виникає правова невизначеність. Якщо стається помилка, хоча розробник надає звіти про успішне проходження всіх перевірок, а ШІ раптово дав збій, згенерував галюцинацію, когось дискримінував або допустив витік даних — хто саме має відповідати?

Наразі міжнародне регулювання не має вичерпної відповіді на це запитання. Саме тому зараз фахівці застерігають великими червоними літерами: «Будь ласка, завжди перевіряйте результати роботи ШІ й не використовуйте його для ухвалення фінальних рішень, інакше виникнуть серйозні проблеми».

Як тренди та ШІ можуть загрожувати цифровій безпеці?

Дарʼя Бура: Окрім застережень про перевірку даних, постійно говорять і про небезпеку надання персональної інформації для ШІ. Де приховані найбільші ризики? Де звичайний користувач може припуститися критичної помилки?

Тетяна Авдєєва: Найголовніша небезпека для пересічного користувача — це завантаження конфіденційної інформації в системи загального доступу. У чому різниця? Існують програми з локальною версією, які ми самостійно наповнюємо даними; модель навчається на них і використовує їх лише на нашому пристрої — наприклад, на комп’ютері чи ноутбуці.

Натомість існують системи загального користування, як-от ChatGPT. Якщо завантажувати туди будь-які конфіденційні дані, вони, найімовірніше, осідають на серверах розробників. У разі хакерської атаки чи системного збою завжди існує ризик того, що ця інформація опиниться в чиїхось руках — можливо, просто інших пересічних користувачів (що менш небезпечно), а можливо, і в зловмисників. Останні можуть, наприклад, цілеспрямовано полювати на дані правозахисників, журналістів чи активістів, які випадково завантажили їх у мережу.

Як на мене, це найбільш тривожний сценарій, з яким необхідно працювати. Коли я проводжу тренінги з використання ШІ для громадського сектору чи медіа, завжди наголошую: має діяти презумпція того, що будь-яка інформація, завантажена в онлайн, може витекти. Це стосується всього: інтимних фотографій, які ми надсилаємо партнерам, конфіденційних договорів із постачальниками або робочих матеріалів журналістів-розслідувачів. Абсолютно все, що завантажується в мережу, потенційно може стати публічним. Тому слід бути вкрай обережними та зважувати ризики.

Дарʼя Бура: А люди ж обожнюють різноманітні тренди: наприклад, завантажити власне фото й подивитися, «як би я виглядав у 1930-х роках».

Тетяна Авдєєва: У мене є дуже показова і тривожна історія на цей рахунок. У Facebook ви могли бачити масові аватарки: портрети людей у військовій формі, у вишиванках, із прапорами чи віночками на голові. Тоді цим була заповнена чи не половина моєї стрічки новин.

Мені стало цікаво, за допомогою якого інструменту це створюється. Я відкрила цей додаток, який дуже агресивно рекламувався у Facebook. З’ясувалося, що він має російське походження. При цьому ніхто з користувачів навіть не намагався перевірити, що саме вони завантажують на свої пристрої. Більше того, застосунок завантажувався не через офіційні магазини (App Store чи Google Play Market), а за прямим посиланням із рекламного оголошення на сторонній сайт. Людина переходила за лінком, інсталювала програму на телефон і надавала їй доступ до камери та галереї — оскільки для створення аватарки обов’язково потрібно було завантажити своє фото.

Моторошно було усвідомлювати, що на цю російську вудочку масово попалися представники нашого громадського сектору та медіа. Люди взагалі нічого не перевіряли — на це повелися навіть професійні фактчекери, які щодня працюють із викриттям подібних речей. Тому вкрай важливо пам’ятати про правила базової цифрової гігієни та безпеки в повсякденному житті.

Дарʼя Бура: Окрім фотографій, із телефона ж можна витягнути й інші масиви даних?

Тетяна Авдєєва: Абсолютно. Навіть самих фотографій часто достатньо. Наприклад, людина може фотографувати на телефон робочі документи, щоб потім оцифрувати їх за допомогою локального конвертера. Я переконана, що люди, які постійно працюють із текстами, тримають у гаджетах напівконфіденційну інформацію. І якщо давати таким сумнівним додаткам повний доступ до галереї, це створює колосальні безпекові ризики.

Чи залишилося місце для приватності в цифрову епоху?

Максим Буткевич: Штучний інтелект вимагає колосальних масивів даних. Він на них навчається, постійно їх використовує та збирає. Пересічні користувачі цифрових сервісів часто навіть не замислюються про свій цифровий слід і про те, які саме дані й кому стають доступними.

Коли ми про це не думаємо, чи не наближаємося ми до ситуації, коли людина взагалі втрачає контроль над тим, що система про неї знає, з якою метою ця інформація використовується та які висновки робляться? Чи не втрачаємо ми приватність як таку?

Тетяна Авдєєва: Певною мірою так. Чесно кажучи, поняття приватності останнім часом суттєво розмилося.

Тут варто виходити з презумпції: будь-яка інформація, яку ми поширюємо в інтернеті потенційно може бути скомпрометована чи оприлюднена. Навіть переписки в месенджерах чи соцмережах можуть потрапити до рук зловмисників. Наприклад, якщо людина відкриває фішинговий лист, шахраї отримують доступ до акаунту й усіх робочих чи особистих матеріалів.

Тому традиційна концепція приватності в онлайн-просторі, на жаль, майже припинила існувати. Нам потрібно на всіх рівнях вкрай уважно ставитися до власних дій у мережі. З погляду цифрової безпеки не варто надавати додаткам за замовчуванням дозволи на доступ до систем пристрою — галереї, контактів чи геопозиції. Також категорично не можна розкривати конфіденційні дані в чатах із ШІ. Особливо це стосується публічних осіб: надмірна відвертість у мережі згодом може бути використана проти них.

Ситуація ускладнюється тим, що більшість провідних технологічних компаній є американськими, що створює серйозні виклики для демократичного регулювання. Україна не має юрисдикції над цими корпораціями. Навіть якщо завтра наша держава ухвалить закон про регулювання штучного інтелекту чи цифрових платформ, ключовою проблемою стане його практична імплементація.

Платформи можуть просто ігнорувати українські вимоги. У такому разі перед державою постане дилема: або визнати власне безсилля й відсутність механізмів впливу, або вдатися до блокування сервісів на території України, що вже має чіткі ознаки цензури та недемократичних кроків. У аналогічному становищі перебуває більшість країн поза межами Європейського Союзу, зокрема Молдова.

Усі ці проблеми комплексно накопичилися й наклалися одна на одну, пересунувши центр відповідальності за приватність безпосередньо на самих громадян. Поки інші актори — держави чи корпорації — не спроможні захистити наші персональні дані, ми мусимо дбати про власну приватність самостійно настільки, наскільки це можливо.

Дискримінація через ШІ: хто нестиме відповідальність

Максим Буткевич: Є поширена думка, що алгоритм, на відміну від людини, позбавлений упереджень. Проте це твердження хибне: алгоритми навчаються на рішеннях людей. І якщо вхідні дані містили людські упередження, дискримінаційні практики автоматично переносяться в рішення алгоритму.

Звідси постає запитання: якщо алгоритм ухвалив дискримінаційне рішення, що завдало шкоди людині (відмова в роботі, ненадання кредиту тощо), хто нестиме за це відповідальність? Велика мовна модель (LLM) чи алгоритм ШІ не є суб’єктами права. А якщо не вони — то хто, якщо людина не була залучена до процесу напряму?

Тетяна Авдєєва: Відповідатиме або розробник, або впроваджувач, або конкретний працівник — залежно від того, на якому етапі виникла помилка. Звісно, доведення вини є складним процесом, який найчастіше відбуватиметься в судовому порядку.

• Відповідальність розробника: настає у випадку, якщо компанія не очистила датасет від упереджень і не встановила необхідних запобіжників ще на етапі проектування системи. Показовими є приклади з США, коли системи рекрутингу автоматично відсіювали резюме жінок, які перебували у декретних відпустках. Згодом з’ясувалося, що алгоритм бракував кандидатів через наявність перерви у трудовому стажі. Якщо такі ризики не були передбачені розробником — відповідає він.
• Відповідальність впроваджувача: якщо система надалі донавчалася на внутрішніх даних конкретної установи чи підприємства, які й занесли дискримінаційну складову, відповідальність лягає на структуру, що впровадила цей алгоритм.
• Відповідальність працівника: для високоризикових рішень нормативно передбачено обов’язковий перегляд результатів ШІ людиною. Якщо працівник не проаналізував зміст запропонованого алгоритмом рішення, а формально поставив підпис чи штамп, він підлягає дисциплінарній відповідальності за неналежне виконання посадових обов’язків.

Отже, ми маємо багатошарову систему відповідальності з багатьма змінними. Головна проблема полягає саме в тому, щоб точно встановити, на якому саме етапі закралася помилка. Без чіткого регулювання існує ризик, що цей процес перетвориться на постійне перекладання відповідальності між розробниками, роботодавцями та посадовцями.

Матеріал підготовлено за підтримки Міжнародного фонду «Відродження». Матеріал представляє позицію авторів і не обов’язково відображає позицію Міжнародного фонду «Відродження».  

Повністю розмову слухайте в доданому аудіофайлі