Віртуальний рекрутер Amazon виявився сексистом

Те, що великі корпорації використовують штучний інтелект, аби пришвидшити та покращити пошук нових працівників, — вже не новина. Таким шляхом пішла не лише компанія Unilever, про досвід якої ми вже писали, а й Amazon. Та остання зіткнулася з несподіваною проблемою — її ШІ виявився сексистом.

Відомо, що команда працювала над відповідною програмою з 2014 року. Головне, чого хотіли досягти розробники, це повної автоматизації, яка дозволить домінувати у галузі е-комерції. Бо взагалі йшлося про організацію роботи всередині компанії, а згодом і про ухвалення рішень щодо ціноутворення.

Експериментально-віртуальний рекрутер використовував ШІ, аби оцінювати здобувачів за шкалою від однієї до п’яти зірок — так само, як покупці оцінюють товари Amazon.

Це святий Грааль і всі його хочуть. Ти завантажуєш до програми 100 резюме, вона роздає п’ятірки і ти наймаєш потрібних людей

— каже один зі співрозмовників Reuters.

Та 2015 року у компанії зрозуміли, що їхня нова система має упереджене ставлення до жінок, які претендували на посади розробників програмного забезпечення та інші технічні вакансії.

Річ у тім, що комп’ютерний алгоритм мав перевіряти здобувачів, аналізуючи закономірності їхніх резюме за 10 років. Більшість кандидатів були чоловічої статті, і це відображало чоловіче домінування у технологічній галузі. Тому система й зробила висновок, що краще обирати кандидатів-чоловіків. Тому й відкидала резюме, де зустрічалося слово «жіночий». Наприклад, «капітан жіночого клубу шахів».

Зазначається, що у програму внесли відповідні правки. Однак гарантій того, що в майбутньому ШІ не зробить інших дискримінаційних висновків, не було.

Анонімні джерела видання зазначають, що рекомендації ШІ не були пріоритетними під час пошуку працівників, і рекрутери ніколи не покладалися лише на його зірочки.

В Amazon відмовилися від коментарів з цього приводу.