Алгоритмы Twitter обвинили в расизме. О чем речь?

В их работу закралась ошибка

Пользователи твиттера заметили, что соцсеть довольно странно выбирает часть фотографии, которая отображается в качестве превью для длинных и больших снимков. Если на фотографии изображены два человека — один с белым цветом кожи, а второй с темным — то алгоритмы посчитают лицо белого «более интересной» частью снимка.

Первым эту странную работу алгоритмов заметил разработчик Тони Арчиери. В своем твиттере он решил провести эксперимент и выложить длинную фотографию с Бараком Обамой и сенатором Митчем Макконнеллом.

Так выглядели две фотографии целиком

Результат был на лицо — твиттер показал на превью именно Макконнелла и не помогла даже перестановка их местами.

А так их показал Twitter

К эксперименту подключились и другие пользователи. Вот так выглядят оригинальные фотографии — на обоих изображены афроамериканец и белый мужчина.

А в превью твиттер показывает только белого.

Неважно, сколько темнокожих и белых людей в кадре — алгоритмы всегда центрируют на превью только людей со светлым цветом кожи.

Оригинальные фотографии
Что показывает Twitter

Самое интересное, что тоже самое происходит даже с нарисованными персонажами. 

Оригинальные картинки
Превью

А еще такая странная работа алгоритмов распространяется и на животных со светлой и темной шерстью.

Оригинальные снимки
Что выдает превью

На эти эксперименты обратили внимание официальные представители Twitter. Они извинились за недоразумение и пообещали улучшить работу алгоритмов.

Автор материала: Вероника Ёлкина

Поделитесь с друзьями: