Тільки-но презентована користувачам бета-версія нейромережі від стартапу ElevenLabs, вже стала об’єктом зламу. Наразі розробники збирають інформацію щодо зловживань та працюють над пошуком шляхів захисту сервісу Voice Lab від інтернет-хуліганів.

Справа в тому, що нейромережу, що може озвучити текст з максимальною подібністю до будь-якого голосу, використовують для підробки голосів знаменитостей. Саме їх голосами були озвучені образливі, расистські та гомофобні гасла, що з’явилися на скандально відомому ресурсі 4chan, пише Engadget.

Видання посилається на такі приклади, як кліп з голосом, схожий на голос Емми Вотсон, що читає уривок із «Майн Кампф». Крім кіношної Герміони сумнівні меседжі озвучували  «Квентін Тарантіно» та «Джордж Лукас».

Для захисту сервісу Voice Lab від голосових хуліганів, ElevenLabs планує запровадити додаткову перевірку облікових записів.Також стартап вимагатиме, щоб користувачі підтвердили право власності на голос, що клонують. Для цього їм доведеться начитати наданий зразок тексту.

Насамкінець компанія може відмовитися від сервісу Voice Lab. Тоді користувачам доведеться надсилати запити на клонування голосу, що будуть перевірятися в ручному режимі.

Нагадаємо, вчені з університету Міннесоти доручили штучному інтелекту ChatGPT підготувати відповіді для випускних іспитів за чотирма дисциплінами. За результатами дослідження з’ясувалося, що ChatGPT без допомоги людини не в змозі досягти успішних результатів.

Коменти