Те, що великі корпорації використовують штучний інтелект, аби пришвидшити та покращити пошук нових працівників, — вже не новина. Таким шляхом пішла не лише компанія Unilever, про досвід якої ми вже писали, а й Amazon. Та остання зіткнулася з несподіваною проблемою — її ШІ виявився сексистом.

Відомо, що команда працювала над відповідною програмою з 2014 року. Головне, чого хотіли досягти розробники, це повної автоматизації, яка дозволить домінувати у галузі е-комерції. Бо взагалі йшлося про організацію роботи всередині компанії, а згодом і про ухвалення рішень щодо ціноутворення.

Експериментально-віртуальний рекрутер використовував ШІ, аби оцінювати здобувачів за шкалою від однієї до п’яти зірок — так само, як покупці оцінюють товари Amazon.

Це святий Грааль і всі його хочуть. Ти завантажуєш до програми 100 резюме, вона роздає п’ятірки і ти наймаєш потрібних людей

— каже один зі співрозмовників Reuters.

Та 2015 року у компанії зрозуміли, що їхня нова система має упереджене ставлення до жінок, які претендували на посади розробників програмного забезпечення та інші технічні вакансії.

Річ у тім, що комп’ютерний алгоритм мав перевіряти здобувачів, аналізуючи закономірності їхніх резюме за 10 років. Більшість кандидатів були чоловічої статті, і це відображало чоловіче домінування у технологічній галузі. Тому система й зробила висновок, що краще обирати кандидатів-чоловіків. Тому й відкидала резюме, де зустрічалося слово «жіночий». Наприклад, «капітан жіночого клубу шахів».

Зазначається, що у програму внесли відповідні правки. Однак гарантій того, що в майбутньому ШІ не зробить інших дискримінаційних висновків, не було.

Врешті-решт на початку 2017 року команду цього проекту розпустили, бо керівництво компанії втратило надію, що система запрацює як належить. 

Анонімні джерела видання зазначають, що рекомендації ШІ не були пріоритетними під час пошуку працівників, і рекрутери ніколи не покладалися лише на його зірочки.

В Amazon відмовилися від коментарів з цього приводу.

↑ Тисни «Лайк», щоб читати нас у Фейсбуці

Закінчив журфак у славному місті Запоріжжя. Сім років працював за фахом у місцевих газетах. 2013 року переїхав до не менш славетного міста Лева. Але це була не єдина зміна у житті – з того часу Інтернет став мені і за редакцію, і за газетні шпальти

Коменти
Anton

В очередной раз бред, про сексизм и прочую ерунду в духе экстра-толернатности … Да, из девушек выходят лучшие мастера ногтевого сервиса, да у мужчин зачастую развито другое полушарие и гармонально они выстраивают приоритеты иначе … к чему здесь прям такой скандал? Да просто опыт и всё.