«Фабрика з сексуалізації жінок»: що відомо про стартап із «роздягання» жінок на фотографіях

Гостя — головна редакторка видання SPEKA.media Юлія Даниленко. Говоримо про стартап Makenude.ai, який «роздягає» жінок на фотографіях за допомогою штучного інтелекту. Більше про нього читайте на сайті SPEKA.media.

Про стартап Makenude.ai

Юлія Даниленко: Ми не пробували платити гроші цьому стартапу, але ми отримали можливість подивитися його роботи через інших людей. Оскільки платити проєкту, який займається тим, що без згоди роздягає людей за допомогою штучного інтелекту, — неетично.

• Стартап просто використовує без згоди завантажені фото жінок. У них на головній сторінці навіть є рекомендації, як правильно вкрасти фото іншої жінки в інстаґрамі без отримання згоди й без втрати якості. Цей стартап пропонує за пакети від 10 доларів можливість роздягнути будь-яку жінку.

Чим ця технологія відрізняється від діпфейку? Останній, як би жахливо це не звучало, мабуть, не такий поганий, як цей стартап. Тому що діпфейк ліпить вашу голову до чужого тіла. А алгоритм цього стартапу вивчає фотографію і домальовує закриті одягом частини тіла в анатомічній подібності й фотографічній якості. Тому таким способом форма плечей буде ваша, форма торса буде ваша.

«Стартап роздягає тільки жінок»

Юлія Даниленко: Стартап роздягає тільки жінок. Для того, щоб алгоритм зміг з фотографічною якістю роздягати людей на світлинах, його треба спершу, як будь-яку нейромережу, натренувати. Тобто завантажують велику кількість реальних одягнених і оголених фото, і алгоритм вчиться переводити одне в інше. Але цей алгоритм, імовірно, навчали тільки на жінках. І якщо спробувати завантажити чоловіче фото, то він просто поламається і підставить йому рандомне жіноче тіло. Це говорив сам засновник в інтерв’ю нашим колегам. Він це пояснює тим, що нібито немає попиту: жіночі оголені фото хочуть бачити, а чоловічі — набагато менше.

Про етичні аспекти цього стартапу важко говорити. По-перше, це виходить справді несправедливо. Це просто така собі фабрика з сексуалізації жінок. Найцікавіше, що найдорожчий їхній пакет за 300 доларів дає обробити 3000 зображень. Вибачте, але навіщо така кількість навіть дуже захопливій людині?

• Є велике побоювання, що це можуть використовувати для створення порноконтенту і його викладання.

Читайте також: Гендерна рівність в Україні може бути в тренді завдяки європейській інтеграції — Неллі Яковлєва

Моніторинг використання стартапу

Юлія Даниленко: Засновники сервісу кажуть, що в них є команда, яка 24/7 займається моніторингом того, щоб не завантажували фото відомих людей, підлітків, вагітних жінок, політичних і релігійних діячів. Але команда стартапу, за словами самого ж засновника, 14 людей. А налаштування алгоритму так, щоб він одразу блокував підозрілі зображення — це набагато більша робота.

Є набагато більш відомий і етичний стартап — Reface. Він займається підставлянням облич людини в гіфки, відео тощо. Цей проєкт має цілу команду, яка займається тим, що тренує алгоритми, блокує можливість вставляти обличчя людей в порногіфки, порновідео. Тобто це прямо окремий напрямок. Тож, що можуть зробити 14 людей в такій ситуації? Нічого.

Різні точки зору на стартап 

Юлія Даниленко: Ми зверталися не тільки до психологів і юристів, а й говорили з представниками ринку. Зокрема, засновник стартапу 3DLOOK Вадим Роговський, який займається підбором одягу за допомогою штучного інтелекту, має дві точки зору на Makenude.ai.

Як підприємець, він стверджує, що схожі проєкти вже є. Не такі, звісно, але аналогічні. Можна десь спробувати наліпити порнокартинку з тіла і голови, яка цьому тілу насправді не належить. Бізнес-модель, на його думку, не етична, але оскільки законодавчо це знаходиться в сірій зоні, то не є прямо нелегальним. 

• Він вважає, що немає нічого поганого, якщо Makenude.ai не залишаться працювати тільки з цим стартапом, а перейдуть до якихось більше соціально і суспільно корисних проєктів.

В Україні були кейси, коли стартапи починали з сірої зони, а потім прийшли до чогось хорошого. Ми, звісно, включили цю думку у матеріал для рівномірності. Але, з іншого боку, Вадим сказав, що як батько він би не хотів, щоби його дочка ходила до школи, а її однокласники мали б змогу роздягнути її фото таким чином.

Читайте також: На доньку більше впливає не школа, а бабусі — Євгеній Стасіневич про гендерні стереотипи

Що каже закон

Юлія Даниленко: Зона штучного інтелекту дуже слабо врегульована і в Україні, і у світі. Тому зараз про ШІ говорити із законодавчої точки зору дуже важко. 

Проте, все ж таки, закон може захистити людину, яка стала жертвою такого стартапу. По-перше, все залежить від експертизи. Як розказав нам Максим Носарев, засновник та CEO компанії Tretten Lawyers, один з наших юридичних консультантів у матеріалі про Makenude.ai, спершу експертиза має визначити, чи є зображення порнографічним. Якщо експертиза визнає це порнографією (а зараз, за законодавством, порнографією може бути визнане не тільки пряме фото, але оброблене або згенероване), то тоді стартап і замовник цього фото можуть понести повну відповідальність за Кримінальним кодексом. Це стаття 301. До того ж зараз розглядається внесення змін до ККУ, саме до цієї статті. Як розказує Максим, якщо ці зміни внесуть, то в статті з’являться особливі уточнення щодо використання згенерованих зображень саме для комерційної вигоди. Тоді під удар потраплять саме засновники стартапу і ті, хто надає таку послугу — не тільки замовники.

Крім того, можна захиститися, подавши в суд за розповсюдження особистої інформації. Оскільки всі ці фото беруть й обробляють без дозволу, то таким чином можна аргументувати, що ваше право на конфіденційність порушили. Вашу подобу використали для не надто гарних цілей. 

Читайте також: Набув чинності закон про заборону сексизму і гендерної дискримінації у рекламі. Що зміниться?

Нагадаємо, влітку 2022 року петиція із закликом легалізувати еротику та порно на території України набрала необхідні 25 тисяч підписів на сайті Офісу президента. Згодом представники «Офісу ефективного регулювання BRDO» опублікували відкрите звернення, у якому також виступили за декриміналізацію порно. Звернення підписали 91 громадська організація та фізична особа.

15 серпня 2023 року стало відомо, що у Верховній Раді розпочався збір підписів під законопроєктом про декриміналізацію порнографічного контенту. Сам документ зареєстрували на сайті ВР вже 18 серпня. 

Законопроєкт пропонує переглянути дію двох статей Кримінального кодексу: 301-ої, яка стосується ввезення, виробництва та поширення порнографії, а також 302-ої, яка стосується організації «місць розпусти». Так, зокрема, статтю 301 пропонують викласти у новій редакції, яка передбачатиме покарання лише за поширення порнографічного контенту без згоди особи, яка у ньому зображена, або за поширення порнографії серед неповнолітніх. Статтю 302 пропонують скасувати взагалі.

Раніше про декриміналізацію порно ми говорили з Ярославом Юрчишиним, нардепом, першим заступником голови Комітету з питань антикорупційної політики.

Повністю розмову слухайте у доданому аудіофайлі