Project Debater (проєкт «Дебатер»/«Сперечальник») – це робот, розроблений IBM. Унікальний він тим, що він може дискутувати з людьми на складні теми.

Дебати проходили в Cambridge Union – це відомий майданчик для дискусій у Кембриджі (Англія). Тут виступали видатні діячі з різних сфер суспільного життя: Далай-лама, Рональд Рейган, Білл Гейтс, Стівен Гокінг, Вінстон Черчилль, Маргарет Тетчер, Берні Сандерс, Стівен Фрай та інші. Цього разу тема звучала так: чи буде штучний інтелект завдавати більше шкоди, аніж приносити користі?

Розпочалися дебати з короткої промови провідного інженера проєкту Ноама Слоніма. Він пояснив, що система використовує різноманітні методи, щоб передбачити можливі доводи опозиції. 

ШІ не є ідеальним, але він рухається в правильному напрямі

Своїм синтезованим голосом зі спокійним тоном ШІ наводив різні аргументи як на свій захист, так і на противагу. Коротко кажучи, діяв за принципом деяких депутатів Верховної Ради: то переходив в опозицію, то виходив із неї.

робот

Перед самими дебатами роботу надали доступ до понад тисячі записів з аргументами, які були попередньо підготовлені людьми. З 1100 заяв ШІ класифікував:

  • 570 як «проти ШІ»
  • 511 як «за ШІ»
  • решту відсіяв, бо вони не стосувалися розглянутих питань

Технологія змогла виявити расистські, нецензурні чи інші негативні коментарі та відкинути їх, позначивши як «такі, що не відповідають темі дебатів». Усі в залі з великим захватом спостерігали, як робот вправно, не зупиняючись, аналізував коментарі та озвучував найґрунтовніші.

робот

ШІ збирає всі аргументи > аналізує їхню якість > прибирає помилкові > групує думки у конкретні теми > послідовно структурує їх > презентує обидві сторони

Аргументи «проти»

Монотонним голосом робот довів, що ШІ може лише погіршити ситуацію, закріпивши упередження, до яких схильне людство:

ШІ може завдати великої шкоди, бо не зможе ухвалити рішення, яке є морально правильним, оскільки мораль властива людям. Компанії, що працюють над розробкою ШІ, все ще не знають, як правильно відфільтрувати упередження. 

Також робот додав, що він обмежений у своїх можливостях. Бо може ухвалювати лише попередньо запрограмовані рішення, а ось люди готові до будь-якого розвитку подій без усілякого програмування.

Ну й куди ж без проблеми зайнятості — через ШІ люди втрачають роботу! Тут робот похизувався сумішшю хитрості та почуття гумору: запевнив, що його співпраця з IBM нікому не загрожує.

Цікавим було й твердження «якщо технологія готова, це ще не означає, що суспільство до неї готове».

Аргументи «за»

У цьому ж виступі ШІ монотонним голосом заперечував вищезазначені вислови: 

Штучний інтелект — це технологія майбутнього, яку вигадали люди

Він може робити якісь нудні та буденні справи замість людей. Плюс, може усунути людські помилки у деяких завданнях і полегшити їхнє виконання. І ми вже маємо тому практичний приклад — безпілотні автомобілі. Чи голосові помічники, в яких ви щоранку запитуєте, яка ж там погода за вікном. 

ШІ відбере роботу у декого, але водночас створить чимало нових вакансій. Щонайменше — новий вид роботи для людей, які піклуватимуться про ШІ. А до того ж, розвиває і прискорює виробництво, бо машини не втомлюються, працюють 24/7 і рідше помиляються.

Суспільство має з того користь у різних сферах: від медицини до поліції. Наприклад, технологія розпізнавання облич точно стане у пригоді поліціянтам для затримання злочинців.

Ну й найголовніше — ШІ нешкідливий, адже керується законами, які захищають людство та існує виключно задля покращення якості життя людей.

У дискусії брали участь і люди

Пізніше до дебатів приєдналися люди. 

Гендеристка Шарміла Пармананд виступала проти штучного інтелекту. Вона застерегла, що технологія відбирає роботу в людей та посилює наявну нерівність у суспільстві (про це ми вже згадували раніше). Бо у світі, де розвивається ШІ, існує чимало ієрархій та слабке регуляторне середовище. Тому цей контекст потребує ретельного аналізу.

А от Сільві Делакруа, професорка права та етики, підкреслила, що розвиток ШІ викликає в людства необґрунтовану параною. Вона порівняла цей страх з людьми, які боялися електроенергії чи автомобілів. Зараз цей страх розвіявся, але ж самі інструменти можуть і досі бути використані для вбивства людей: 

Ми маємо розглядати ШІ як особливий інструмент, завдяки швидкості розвитку якого людство також швидко трансформується

Вона визнала, що штучним інтелектом можна маніпулювати, але також підкреслила, що технологія може бути надзвичайно корисною.

робот

Ніл Лоуренс, професор машинного навчання, завершив дискусію з поганим передчуттям, що 

Впродовж наступних 10 років ми перебуватимемо у ризикованій подорожі, яка може підірвати сутність людства

Він, як і Сільві Делакура, звернув особливу увагу на небезпеку маніпулювання статистикою та іншими даними. Тому підкреслив необхідність запобіжних заходів:

Ми мусимо постійно зважати на те, що ШІ може заподіяти шкоду, бо це найкращий спосіб вберегти людей від цієї шкоди

Дебати завершилися промовою Гаріша Натараджана, керівника відділу аналізу економічних ризиків, який висловив думку про те, що будь-яка критика щодо упередженості штучного інтелекту є недоречною:

Адже когнітивні упередження існують з обох боків: люди мають безліч упереджень у своїй взаємодії

Він запевнив скептиків, що «користь від демократизації ШІ буде величезною» у світі, який потребує деяких вдосконалень.

Результати

Під кінець провели опитування аудиторії, результати якого дуже нагадують голосування за вихід Британії з ЄС: «за» ШІ (твердження «принесе більше користі, аніж шкоди») проголосували 51,2 % виборців. «Проти» проголосували 48.17%. Інші — утрималися.

Однією з цікавих точок дискусії стало питання про безпілотні автомобілі. Начебто ми вже бачимо від них чимало користі. Але якщо ШІ не властива мораль, то й автомобілі, керовані ШІ, не можуть ухвалювати рішення, засновані на моралі. Правильно ж?

А який потенціал?

Величезний! У компанії IBM працюють над Project Debater вже понад 6 років. І робот таки припускався помилок: повторював одні й ті самі твердження кілька разів й іноді змішував аргументи «за» та «проти». Розробники збираються виправити ці нюанси, але мети на кшталт «остаточно перехитрити та перемогти людей» точно немає. Навпаки, технологія покликана допомогти нам знаходити рішення шляхом швидкої обробки величезної кількості інформації.

Критичне мислення, зв’язування різних думок, розуміння контексту та передбачення можливих контраргументів опонента (і підготовка відповідей на них) – це надзвичайно цінні навички, необхідні для дебатів. Люди можуть практикувати та вдосконалювати їх, але ШІ має велику перевагу у швидкості поглинання та аналізу інформації.

Project Debater програв у дебатах, що відбулися у лютому цього року. Змагався він із найвидатнішими сперечальниками планети, тож це не дивно. Але вже тоді він використовував технологію IBM «Cloud Computing Infrastructure». З її допомогою ШІ читав сотні мільйонів документів та вибирав із них ґрунтовні докази для своїх аргументів. 

Ноам Слонім вважає, що Debater може використати уряд. В позитивному сенсі! Наприклад, уряд хоче почути відгук від громадян про нововведену політику.

Ця технологія може встановити ефективний канал зв’язку між особою, яка ухвалює рішення [напр., парламент та президент] та людьми, на яких це рішення вплине [напр., громадяни]

На нашу ж думку, відповідь на питання «чи буде штучний інтелект завдавати більше шкоди, ніж приносити користі?» доволі просте, але складне в реалізації. Для більшої ясності проведемо паралель:

Що краще харчується людина (корисною, а не шкідливою їжею) – то здоровішою вона буде.

Приблизно те ж саме зі штучним інтелектом:

Годуватимемо його корисною інформацією та використовуватимемо з добрими намірами — отримаємо «здоровий» результат. 

Будемо чинити навпаки — отримаємо на горіхи від нашого технологічного творіння.

І взагалі, ви тільки уявіть: робот може дискутувати на абсолютно різні, нерідко складні теми! Далеко не всі люди можуть похизуватися цим…

Підтримайте Токар
50 грн.

10% середньостатистичної статті,
або ж пів дня роботи нашого сервера

Підтримати
Ось вона, нагода стати причетним до розвитку незалежних медіа!
Коменти