Є кілька пересторог, коли йдеться про подібні системи — юристка Лабораторії цифрової безпеки» про Вікторію ШІ від МЗС

Міністерство закордонних справ України презентувало Вікторію ШІ — цифрову особу, згенеровану за допомогою штучного інтелекту. Вона має надавати консульську інформацію. Зовнішність Вікторії ШІ скопійована з української співачки та інфлюенсерки Розалі Номбре за її згодою. Які ризики має таке нововведення МЗС?

Про це в етері Громадського радіо розповіла Тетяна Авдєєва, старша юристка «Лабораторії цифрової безпеки».

«Такий цифровий аватар є не новою практикою. Вони використовуються, наприклад, щоб замінити ведучих новин або щоб представляти компанії, які, зокрема, є розробниками штучного інтелекту. Але у мене є кілька пересторог, коли йдеться про використання подібних систем», — говорить Авдєєва.

Читайте також: До 30% українців використовують ШІ у побутових або професійних потребах — юристка «Лабораторії цифрової безпеки»

На її думку, надання консульських послуг передбачає активний діалог. Люди можуть звертатися з різними, зокрема нетиповими, запитаннями. Наразі ми не знаємо, чи зможе система давати на них якісні відповіді.

«Тут одразу постає запитання щодо ефективності цієї системи, чи здатна вона адекватно забезпечити такий діалог. Наприклад, розпізнавати запитання, коли йдеться про громадян, які звертаються до МЗС за кордоном для отримання консульських послуг. Якщо у громадян будуть якісь нетипові запитання, чи зможе система ефективно надати на них відповідь, чи все ж доведеться отримувати послуги особисто. Якщо так — питання в тому, щоб цю систему адекватно доопрацювати», — говорить старша юристка «Лабораторії цифрової безпеки».

За її словами, додаткові труднощі можуть виникнути через використання цифрової особи, зовнішність якої скопійована з реальної людини.

«Завжди буде питання відрізняти на практиці реальну співачку і цифровий аватар, який доносить інформацію від МЗС. Враховуючи, що у нас ця інформація поширюється не тільки на офіційних каналах міністерства, але й у соціальних мережах і медіа, то дуже важливо відрізняти це і не плутати меседжі та зображення», — каже Авдєєва.

Звернення Вікторії ШІ також мають містити QR-код з посиланням на сайт МЗС, де озвучена інформацію буде продубльована в текстовому форматі. На думку Авдєєвої, це теж може стати нагодою для шахраїв.

«Остання проблема — це фішинг, тобто спроби шахраїв в інтернеті отримати персональні дані особи або виманити кошти за рахунок різних маніпуляцій. У мене зразу виникає запитання, чи не зможуть шахраї підробити відео і розмістити QR-код, який веде на їхній вебсайт», — говорить старша юристка «Лабораторії цифрової безпеки».