Якщо ваша стрічка рекомендацій рясніє відвертими фотографіями напівголих дівчат, не бийте на сполох. З вами все нормально, на відміну від алгоритмів соцмережі Інстаграм, які, згідно з новим дослідженням, надають пріоритет показу незвичайних фотографій.
Такий висновок зробили вчені з AlgorithmWatch та European Data Journalism Network. Вони поспілкувалися з власниками бізнес-сторінок в Instagram та дослідили те, наскільки схожим є зміст стрічки нових користувачів соціальної мережі.
Команда дослідників запропонувала 26 учасникам експерименту встановити додаток до браузера, який автоматично відкривав би домашню сторінку Instagram з певним часовим інтервалом, водночас записуючи екран. Після цього учасники підписалися на бізнес-профілі людей, чия діяльність в соцмережі має рекламний характер, тобто спрямована на пошук нових клієнтів.
Загальна кількість світлин запропонованих бізнес-акаунтів – 2400. З них 362 (21%) – фото напівоголених чоловіків або жінок у купальниках. Якби алгоритм Instagram не надавав перевагу зображенням такого типу, 26 учасників експерименту побачили б абсолютно різні фотографії у своїх стрічках. Але цього не сталося.
На противагу цьому, публікації зі знімками їжі чи пейзажів на 60% рідше з’являлися у стрічках.
Алгоритми соцмережі базуються на загальних вподобаннях постійних користувачів. Для більшості юзерів Instagram – безкоштовне джерело порнографічних зображень. Їхні запити, ймовірно, обробляють та поширюють системи ML, а оголені зображення з’являються у всіх користувачів у порочному циклі.
Ніколас Кайзер-Бріл, репортер AlgorithmWatch
On the technical side of things, what we found is probably similar to the issue of offensive suggestions by search engines. A minority of Instagram users see the platform as a free source of soft porn images…
— Nicolas Kayser-Bril (@nicolaskb) June 15, 2020
Показ певних зображень підписникам залежить не тільки від загального вподобання Instagram-спільноти. Ми бачимо публікації, які соціальна мережа вважає найпривабливішими для інших користувачів платформи.
Цей алгоритмічний недолік може спонукати творців контенту – особливо жінок – до розміщення відвертих фотографій, щоб залучити більше глядачів. Це також має всі шанси вплинути на світогляд 1 мільярда користувачів Instagram.
Нотки дискримінації
Оголення тіла обох статей, як ми вже побачили, досить успішне для залучення нової аудиторії з комерційними цілями. Щоправда, алгоритм активно просуває світлини з напівголими дівчатами, що створює додаткові виклики для бізнесвумен. Дискримінація за гендерною ознакою заборонена Хартією основних прав Європейського Союзу, але наразі не існує жодних юридичних інструментів для притягнення Instagram до відповідальності. Специфіка підприємництва в соціальних мережах у законодавстві не закріплена.
Європейське антидискримінаційне законодавство стосується майже виключно трудових відносин. Самозайняті особи, як-от власники згаданих нами бізнес-акаунтів, не захищені законом.
Деякі групи борються за права незалежних творців у соціальних медіа. IG Metall, найбільше в Європі об’єднання, підтримує колективні дії ютуберів, вимагаючи більшої чесності та прозорості від Google (власника YouTube) у разі демонетизації. Вони не планують поширення своєї програми захисту творців контенту в Instagram чи на інших платформах.
Що далі?
Вчені додали, що конкретні висновки без доступу до внутрішніх серверів даних власника Instagram – Facebook зробити неможливо. Тож поки дослідники планують провести ще кілька експериментів, набравши більше добровольців для встановлення додатку моніторингу.
Цей експеримент є багато в чому невірогідним. Він показує нерозуміння функціонування Instagram. Ми класифікуємо пости у вашій стрічці на основі змісту облікових записів, до яких ви виявили зацікавленість, а не за довільними факторами, як-от наявність напівоголеної людини в купальнику.
Заяви представників Facebook
Автори дослідження з цим не погоджуються. Вони зазначають, що публікація Facebook, котра демонструє, як стрічка новин може автоматично обирати зображення, що показуватимуться в стрічках новин, серед пріоритетних факторів конкретно вказує “оголення” («state of undress»).
Це свідчить про те, що Instagram може не лише формувати стрічку на основі вподобань користувача; він також вибирає зображення, які, на думку компанії, користувач хоче побачити.
