В США разработали алгоритм для автоматического удаления пропаганды ИГ

Татьяна Новак

Американская некоммерческая организация Counter Extremism Project (CEP) создала алгоритм для автоматического удаления из соцсетей экстремистских материалов. Об этом пишет The Verge.

Алгоритм под названием eGLYPH разработал профессор компьютерных наук Хани Фарид. В 2008 году он совместно с Microsoft написал программу PhotoDNA для борьбы с распространением порнографических изображений детей. PhotoDNA использует технологию «надежного хеширования» (robust hashing) и распознаёт фотографию, даже если автор публикации изменил её размер или обработал в графическом редакторе. По словам Фарида, новый алгоритм является улучшенной версией PhotoDNA — он может узнавать и автоматически удалять из соцсетей при повторной загрузке все материалы, которые однажды были помечены как экстремистские, в том числе видеоролики и аудиодорожки. Похожим образом ContentID YouTube удаляет видео, нарушающие авторские права, когда их выкладывают повторно.

По словам генерального директора CEP Марка Уоллеса, программное обеспечение eGLYPH находится на завершающей стадии тестирования и компания уже ведёт переговоры с Facebook и Youtube. Тем временем правозащитники опасаются, что внедрение подобных алгоритмов приведет к ужесточению цензуры в соцсетях. «Действительно ли необходимо фильтровать и сканировать каждую загрузку от каждого отдельного европейца, чтобы убедиться, что она законна? Если даже Европа вводит тотальный контроль за тем, что публикуют её граждане, то как могут надеяться на открытый и демократичный интернет люди в других странах мира?», — пишет в своём блоге организация European Digital Rights.

«Никто не утверждает, что нужно разрешить в сети видео с отрезанием головы, — говорит Джон Хорган, профессор психологии в Университете Штата Джорджия. — Тем не менее, остаётся много вопросов по поводу того, что именно является экстремистским контентом». В отличие от детской порнографии, которую несложно определить, экстремистская пропаганда является более абстрактным понятием, и законы, регулирующие ее распространение, в разных странах отличаются.

Фарид признаёт, что на начальном этапе eGLYPH, возможно, будет удалять не только экстремистскую пропаганду, но и контент мировых СМИ, которые используют отрывки из видеороликов ИГИЛ (террористической организации, запрещённой на территории России) в целях информирования. Разработчик говорит, что этот побочный эффект со временем можно будет устранить, постепенно добавляя проверенные издания в «белый список».

В июле Институт стратегического диалога опубликовал доклад, согласно которому Twitter, Facebook и Alphabet используют технологии целевой онлайн-рекламы, чтобы противодействовать распространению экстремистской пропаганды.

Загрузить еще