Facebook, Google та Twitter, опинилися в центрі скандалу, пов’язаного з расизмом. Це явище в США особливо не люблять, тому гіганти індустрії вже працюють над тим, щоб змінити алгоритми, щоб уникнути такого у майбутньому.
У чому суть
Ці компанії надають можливість купувати рекламу і показувати її певній аудиторії за ключовими словами та фразами. Наприклад, рекламну аудиторію пропонується фільтрувати за такими фразами, як:
- «ненависні євреї»,
- «Гітлер все зробив правильно» (у випадку Fb),
- «єврейський паразит»,
- «злий єврей»
- «чорні руйнують все» (у випадку Google та Twitter).
Цікаво, що спочатку викрили лише Facebook. Та вже наступного дня долю Fb розділили колеги.
Bloomberg повідомляє, що компанія Цукерберга тимчасово вимкнула функцію таргетування для рекламодавців. Слабке місце знайшли експерти з ProPublica, які досліджували рекламну систему Facebook. Вони й виявили, що можна таргетувати рекламу за расистськими фразами і виразами. Дуже часто автоматизована система Fb при таких словах-позначках, як «єврей» або «Гітлер», пропонувала категорії «навчання» та «посада».
«Коли я побачила ці пошукові слова, мені стало огидно. Я розчарувалась від того, що наша система може дозволити подібне… Ми й гадки не мали, що нас можна використати таким чином. Це наша помилка», — висловила своє обурення Шеріл Сендберг, операційний директор Fb.
Що стосується Google, то антисемітські погляди у його штучному інтелекті виявили журналісти BuzzFeed. Вони зазначають, що рекламна платформа компанії навіть запропонувала потенційним рекламодавцям власні варіанти ключових фраз.
Наприклад, коли дослідники ввели фразу «євреї контролюють банки», у відповідь отримали варіант «чому євреї руйнують все». Більше того, кореспонденти BuzzFeed замовили рекламу за цими ключовими словами, попередивши про це Google. Ті негайно видалили кілька ключових слів.
Приклади расистських виразів, що їх пропонує Google рекламодавцям.
За Twitter взялося видання The Daily Beast, яке також запустило власну рекламну кампанію для тестування інструментів соцмережі. Дослідники стверджують, що 18,6 млн акаунтів пов’язані зі словом «нацист».
Вони спробували замовити рекламу, використовуючи кілька слів та фраз мови ворожнечі, і їм це вдалося. Згодом у Twitter запевнили, що помилки виправили.
