Один із «хрещених батьків» штучного інтелекту заявив про стурбованість через стрімкий розвиток технології

Один із так званих «хрещених батьків» штучного інтелекту (ШІ) (Artificial Intelligence (AI) заявив, що він віддав би перевагу безпеці над корисністю, якби усвідомлював темпи, з якими ця технологія розвиватиметься.

Про це у своїй статті пише ВВС.

Професор Йошуа Бенжіо розповів журналістам, що почувається «загубленим» у справі свого життя.

Коментарі комп’ютерного вченого з’явилися після того, як експерти з ШІ заявили, що розвиток цієї технології може призвести до вимирання людства.

Професор Бенжіо, який приєднався до закликів до регулювання штучного інтелекту, сказав, що не вважає, що військовим слід надавати повноваження на застосування штучного інтелекту.

Він є другим із так званих трьох «хрещених батьків» штучного інтелекту, відомі як першовідкривачі в цій галузі, який висловив занепокоєння щодо напрямку та швидкості його розвитку.

---

Читайте також: Сканування мозку і штучний інтелект допомогли «прочитати» думки людей — дослідження 

---

В інтерв’ю ВВС професор Бенгіо сказав, що робота його життя, яка дала йому напрямок і відчуття ідентичності, більше не була йому зрозумілою.

«Це складно, з емоційної точки зору, для людей, які працюють у [сфері ШІ]», — сказав він.

«Можна сказати, що я почуваюся загубленим. Але ти маєш продовжувати, і ти маєш залучати, обговорювати, спонукати інших думати разом із тобою».

Канадець підписав дві останні заяви, в яких закликає бути обережними щодо майбутніх ризиків ШІ. Деякі науковці та експерти галузі попереджають, що темпи розвитку можуть призвести до того, що зловмисники розгорнуть штучний інтелект для активного заподіяння шкоди або зроблять так, щоб він міг вирішити заподіяти шкоду самостійно.

Підприємець Ілон Маск також висловив свою стурбованість, пише ВВС.

«Я не думаю, що штучний інтелект намагатиметься знищити людство, але він може поставити нас під суворий контроль», — сказав він нещодавно на заході, організованому Wall Street Journal.

«Існує невелика ймовірність того, що це знищить людство. Близька до нуля, але не неможлива».

Другий «хрещений батько» доктор Джеффрі Гінтон також підписав ті самі попередження, що й професор Бенгіо, і нещодавно пішов з Google, заявивши, що шкодує про свою роботу.

Професор Бенгіо сказав BBC, що всі компанії, що створюють потужні продукти ШІ, повинні бути зареєстровані.

«Уряди повинні відстежувати, що вони роблять, вони повинні мати можливість перевіряти їх, і це лише мінімум того, що ми робимо для будь-якого іншого сектора, наприклад, створення літаків, автомобілів або фармацевтичних препаратів», — сказав він.

«Нам також потрібно, щоб люди, які близькі до цих систем, мали певний сертифікат… нам тут потрібна етична підготовка. До речі, комп’ютерники зазвичай цього не отримують».

Але не всі в цій галузі вірять, що штучний інтелект стане крахом людства.

Третій «хрещений батько», професор Янн ЛеКун, який разом із професором Бенжіо та доктором Гінтоном отримав престижну нагороду Тюрінга за новаторську роботу, сказав, що апокаліптичні застереження перебільшені.

Інші стверджують, що існують більш невідворотні проблеми, які потребують вирішення.

---

Читайте також: Яку загрозу вже зараз становить людству штучний інтелект і як можна її усунути?

---

Доктор Саша Лучіоні, наукова співробітниця фірми Huggingface, що займається штучним інтелектом, сказала, що суспільство має зосередитися на таких питаннях, як упередженість щодо штучного інтелекту, інтелектуальна поліція та поширення дезінформації чат-ботами, які, за її словами, є «дуже конкретною шкодою».

«Ми повинні зосередитися на цьому, а не на гіпотетичному ризику того, що ШІ знищить людство», — додала вона.

Уже є багато прикладів того, як ШІ приносить користь суспільству. Минулого тижня інструмент штучного інтелекту виявив новий антибіотик, і паралізований чоловік зміг знову ходити, просто думаючи про це, завдяки мікрочіпу, розробленому за допомогою штучного інтелекту.

Але це супроводжується побоюваннями щодо далекосяжного впливу ШІ на економіку країн. Компанії вже замінюють людський персонал інструментами штучного інтелекту, і це є чинником нинішнього страйку сценаристів у Голлівуді.

«Ніколи не пізно вдосконалюватися», — говорить професор Бенжіо про поточний стан ШІ. «Це точно як зміна клімату».

«Ми помістили багато вуглецю в атмосферу. І було б краще, якби ми цього не зробили, але давайте подивимося, що ми можемо зробити зараз».

---

Підтримуйте Громадське радіо на Patreon, а також встановлюйте наш додаток:

якщо у вас Android

якщо у вас iOS