Те, що великі корпорації використовують штучний інтелект, аби пришвидшити та покращити пошук нових працівників, — вже не новина. Таким шляхом пішла не лише компанія Unilever, про досвід якої ми вже писали, а й Amazon. Та остання зіткнулася з несподіваною проблемою — її ШІ виявився сексистом.
Відомо, що команда працювала над відповідною програмою з 2014 року. Головне, чого хотіли досягти розробники, це повної автоматизації, яка дозволить домінувати у галузі е-комерції. Бо взагалі йшлося про організацію роботи всередині компанії, а згодом і про ухвалення рішень щодо ціноутворення.
Експериментально-віртуальний рекрутер використовував ШІ, аби оцінювати здобувачів за шкалою від однієї до п’яти зірок — так само, як покупці оцінюють товари Amazon.
Це святий Грааль і всі його хочуть. Ти завантажуєш до програми 100 резюме, вона роздає п’ятірки і ти наймаєш потрібних людей
— каже один зі співрозмовників Reuters.
Та 2015 року у компанії зрозуміли, що їхня нова система має упереджене ставлення до жінок, які претендували на посади розробників програмного забезпечення та інші технічні вакансії.
Річ у тім, що комп’ютерний алгоритм мав перевіряти здобувачів, аналізуючи закономірності їхніх резюме за 10 років. Більшість кандидатів були чоловічої статті, і це відображало чоловіче домінування у технологічній галузі. Тому система й зробила висновок, що краще обирати кандидатів-чоловіків. Тому й відкидала резюме, де зустрічалося слово «жіночий». Наприклад, «капітан жіночого клубу шахів».
Зазначається, що у програму внесли відповідні правки. Однак гарантій того, що в майбутньому ШІ не зробить інших дискримінаційних висновків, не було.
Анонімні джерела видання зазначають, що рекомендації ШІ не були пріоритетними під час пошуку працівників, і рекрутери ніколи не покладалися лише на його зірочки.
В Amazon відмовилися від коментарів з цього приводу.
В очередной раз бред, про сексизм и прочую ерунду в духе экстра-толернатности … Да, из девушек выходят лучшие мастера ногтевого сервиса, да у мужчин зачастую развито другое полушарие и гармонально они выстраивают приоритеты иначе … к чему здесь прям такой скандал? Да просто опыт и всё.