Американские учёные обманули систему распознавания лиц с помощью очков

Татьяна Новак

Учёные из Университета Карнеги — Меллон и Университета Южной Каролины научились обманывать систему распознавания лиц с помощью очков с цветной оправой. Они применили этот метод для взлома коммерческой системы распознавания лиц Face ++, которую используют крупные компании, такие как Lenovo, Intel и Alibaba, сообщает Quartz.

«В то время как наша зависимость от технологий растёт, мы часто забываем, что они могут ошибаться. В некоторых случаях эти ошибки могут быть опасными. Наша работа показывает, что как минимум один алгоритм распознавания лиц на основе глубоких нейросетей может быть введён в заблуждение злоумышленником, незначительно изменившим внешний вид», — пишут авторы. Исследование опубликовано в сборнике Proceedings of the 2016 ACM SIGSAC Conference on Computer and Communications Security.

Чтобы обмануть систему распознавания лиц, учёные использовали очки с разноцветной оправой. Фото: Carnegie Mellon

Для создания очков, способных обмануть систему, учёные использовали результаты предыдущих исследований Google, OpenAI и Университета штата Пенсильвания, которые обнаружили уязвимость в нейронных сетях глубинного обучения. При распознавании программа опирается на определённые паттерны лица, в основном — на форму бровей и носа. Эксперимент показывает, что очки тоже считываются как часть лица, и это вызывает сбой программы. На изготовление очков из глянцевой фотобумаги учёные потратили 22 цента.

Очки заставили систему распознавания лиц идентифицировать мужчину как Миллу Йовович с достоверностью 87,7%. Фото: Carnegie Mellon

Ранее исследователи из Университета Северной Каролины создали программное обеспечение, способное обмануть биометрическую систему распознавания лиц в смартфоне с помощью проекции анимированного трёхмерного изображения лица в виртуальную реальность. Для построения трёхмерной модели лица учёные использовали фотографии добровольцев, выложенные на Facebook.

Загрузить еще