Алгоритм Facebook позволял таргетировать рекламу на антисемитов

Татьяна Новак

Журналисты портала ProPublica 14 сентября обнаружили, что рекламный алгоритм Facebook позволял таргетировать объявления по антисемитским фразам, таким как «евреененавистник», «как сжечь евреев» и «история о том, как евреи разрушают мир».

Вначале журналисты узнали, что «евреененавистник» (Jew hater) действительно является категорией для таргетинга, однако объединяет всего лишь 2747 человек. Этого недостаточно, чтобы запустить объявление, поэтому алгоритм предложил добавить другие категории: «как сжечь евреев» и «история о том, как евреи разрушают мир». Однако их аудитория тоже оказалась крайне мала — 1 и 2 человека соответственно. Ещё 15 человек оказались в категории «Гитлер не сделал ничего плохого» — эту категорию алгоритм предложил по ключевому слову «Гитлер», которое ввели журналисты. Тогда журналисты нашли ещё две категории: «German Schutzstaffel» ( СС) с охватом 3 194 пользователей и «Nazi Party» (нацистская партия) — 2 449 пользователей. Интересно, что обе эти категории были помечены как группы «работодателей». К этой аудитории авторы добавили людей, интересующиххся Национальной демократической партией Германии — ультра-правой партией. Их оказалось 194 600 человек.

После этого алгоритм Facebook одобрил три рекламных публикации от ProPublica, однако заменил главную категорию «евреененавистник» (Jew hater) на «антисемитизм».

После того, как издание сообщило об этом в Facebook, соцсеть удалила антисемитские категории. Как объяснил директор по управлению продуктами в Facebook Роб Койнн, данные категории были созданы не людьми, а алгоритмом. Он пообещал, что компания найдёт варианты решения проблемы — например, ограничит количество доступных категорий или запустит предварительную их проверку модераторами.

Загрузить еще