Программа Fawkes искажает изображения для защиты от распознавания лиц

0   110   0

15.03.2020 07:44


Представленная исследователями из США система обмана алгоритмов видеослежки может оказаться самой эффективной на данный момент

Поделиться c друзьями:  


5e6dcee503b1e0000108d7f7

Fawkes – программа, разработанная учеными из Чикагского университета на основе предыдущей работы группы исследователей Google. Последние изучали глубокое обучение нейронных сетей. Их доклад за 2014 год показал, что еле заметные искажения изображений делают лица и другие объекты неузнаваемыми для машин. Открытие породило волну исследований, посвященных обходу систем распознавания лиц с помощью состязательных атак (обман нейросетей путем введения нестандартных данных).

Новая программа получила название в честь печально известного английского революционера Гая Фокса (Guy Fawkes), чье лицо изображено на масках членов протестного движения Anonymous. Программа работает следующим образом: она добавляет к изображению небольшое количество пикселей. Эти изменения незаметны для человеческого глаза, а системы распознавания лиц их замечают, но классифицируют неправильно. Замаскированные Fawkes изображения успешно обманывали системы распознавания Amazon, Microsoft и Megvii в 100% тестов.

Fawkes позволяет пользователям «в любое время сделать себе прививку против неавторизованных моделей распознавания лиц без заметного искажения своих фотографий», – говорят создатели программы.

Однако команда разработчиков заявила, что Fawkes – далеко не идеальное решение. У большинства людей есть десятки, если не сотни, собственных фотографий, размещенных в интернете, которые системы распознавания уже могли бы извлечь. По данным исследования, успешность Fawkes падала до 39%, когда обучающий набор алгоритма включал менее 85% замаскированных фотографий для конкретного человека.

Fawkes – уже не первая попытка создать инструмент противодействия распознаванию лиц. В 2018 году группа инженеров и технологов из Гарвардского центра «Интернет и общество» имени Беркмана Кляйна обнародовала EqualAIs — онлайн-инструмент, который использовал аналогичный метод.

Подробнее можно прочитать здесь.

  0  

Источник: roskomsvoboda.org

Поделиться c друзьями: