В России разворачивают системы распознавания лиц. Камеры будут не просто смотреть на вас, но и знать, кто вы и куда пошли. «Афиша Daily» попросила юриста и специалистов по искусственному интеллекту объяснить, как работает распознавание лиц, удастся ли его обмануть и можно ли данные машины использовать в суде.

Распознавание лиц в России

Где и зачем это хотят применять

Массовые мероприятия

Компания NtechLab разработала систему камер, которые ставят на рамки металлоискателей и полицейские машины. Она распознает нарушителей и отправляет их фотографии полицейским. Еще у полиции появятся ручные камеры, чтобы фотографировать подозрительных людей, распознавать их лица и узнавать по базам данных, кто они такие.

Метро

В московском метро тестируют камеры с распознаванием лиц. Они просматривают лица 20 человек в секунду и сверяют их с базами данных людей в розыске. Если есть совпадение, камеры отправляют данные полицейским. За 2,5 месяца система обнаружила девять человек, которые были в розыске. Известно, что такие камеры есть на станции метро «Фрунзенская», но, возможно, их установили и на других станциях.

Аэропорты

Аэропорт Домодедово протестировал и планирует запустить на постоянной основе систему распознавания лиц для поиска правонарушителей. Она работает как система в метро: сравнивает лица пассажиров с лицами в розыске.

Улицы

Те же камеры, которые NtechLab разработала для массовых мероприятий, используются на московских улицах. В конце 2017 года сообщалось, что к системе подключили 160 тысяч камер.

Банки

Банк «Открытие» в начале 2017 года запустил систему распознавания лиц в трех отделениях. Она сравнивает лицо посетителя с фотографией в базе данных. Система нужна, чтобы обслуживать клиентов быстрее, как именно — не уточняется. В будущем «Открытие» хочет использовать систему для удаленной идентификации. В 2018 году подобная система, но разработки «Ростелекома» должна появится в других российских банках.

Стадионы

Екатеринбургский стадион «Уралмаш» заказал систему распознавания лиц. Она будет не только узнавать лица, но и сохранять их в отдельной базе.

Главное — алгоритм

Какая технология позволяет машинам узнавать лица

Сергей Миляев
Ведущий исследователь компании VisionLabs, которая занимается компьютерным зрением

Компьютерное зрение — это алгоритмы, позволяющие получить высокоуровневую информацию из изображений и видео, тем самым автоматизируя некоторые аспекты зрительного восприятия человека. Компьютерное зрение для машины, так же как и обычное зрение для человека, это средство измерения и получения семантической информации о наблюдаемой сцене. С его помощью машина получает информацию о том, какого размера объект, какой он формы и что из себя представляет.

Камера с алгоритмом компьютерного зрения OpenCV следит за детьми на игровой площадке

Все работает на основе нейросетей

Как именно устроено распознавание лиц, с примером

Сергей Миляев: Наиболее эффективно машины делают это на основе машинного обучения, то есть когда они принимают решение на основе некоторой параметрической модели без явного описания всех необходимых правил принятия решения программным кодом. Например, для распознавания лиц нейронная сеть извлекает признаки из изображения и получает уникальное представления о лице каждого человека, на которое не влияет ориентация его головы в пространстве, наличие или отсутствие бороды или макияжа, освещение, возрастные изменения и так далее.

«Компьютерное зрение не воспроизводит зрительную систему человека, а только выполняет моделирование некоторых аспектов для решения различных задач»
Сергей Миляев
Ведущий исследователь компании VisionLabs

Наиболее распространены сейчас алгоритмы компьютерного зрения на основе нейронных сетей, которые с ростом производительности процессоров и объема данных продемонстрировали высокий потенциал для решения широкого круга задач. Каждый фрагмент картинки анализируется с помощью фильтров с параметрами, которые нейросеть применяет для поиска характерных признаков изображения.

Подробности по теме
А что такое машинное обучение и нейронные сети?
А что такое машинное обучение и нейронные сети?

Пример

Слои нейронной сети последовательно обрабатывают изображение, причем на каждом последующем слое вычисляются все более абстрактные признаки, а фильтры на последних слоях могут видеть все изображение целиком. При распознавании лиц на первых слоях нейросеть определяет простые признаки вроде границ и черт лица, затем на более глубоких слоях фильтры могут выявлять более сложные признаки — например, два кружка рядом, скорее всего, будут означать, что это глаза и так далее.

Алгоритм компьютерного зрения OpenCV определяет, сколько пальцев ему показывают

Компьютер знает, когда его обманывают

Может ли человек обмануть очень умный компьютер, три примера

Олег Гринчук
Ведущий исследователь VisionLabs

Мошенники могут попытаться либо выдать себя за другого человека, чтобы получить доступ к его аккаунтам и данным, либо обмануть систему, чтобы она не смогла распознать их в принципе. Рассмотрим оба варианта.

Фотография, видео другого человека или распечатанная маска

С этими способами обмана платформа VisionLabs борется с помощью проверки на liveness, то есть она проверяет, что объект, находящийся перед камерой, живой. Это может быть, например, интерактивный liveness, когда система просит человека улыбнуться, моргнуть или поднести камеру или смартфон ближе к лицу.

Набор проверок невозможно предсказать, так как платформа составляет случайную последовательность с десятками тысяч комбинаций — нереально записать тысячи видеороликов с нужными комбинациями улыбок и других эмоций. А если камера оснащена сенсорами ближнего инфракрасного диапазона или сенсором глубины, то они передают системе дополнительную информацию, которая помогает по одному кадру определить, реальный ли человек перед ней.

Помимо этого, система анализирует отражение света от разных текстур, а также окружение объекта. Так что таким способом обмануть систему почти невозможно.

Макияж

В этом случае мошеннику для воспроизведения достаточной для получения доступа копии нужно иметь доступ к исходному коду и на основе реакций системы на изменения внешности с макияжем постепенно менять его, чтобы стать точной копией другого человека.

Злоумышленнику необходимо взломать именно логику и принцип проверки. Но для стороннего пользователя это просто камера, черный ящик, глядя на который невозможно понять, какой именно вариант проверки внутри. Более того, от кейса к кейсу факторы для проверки отличаются, поэтому нельзя использовать для взлома какой-то универсальный алгоритм.

При нескольких ошибках распознавания система отправляет сигнал с предупреждением на сервер, после чего злоумышленнику блокируют доступ. Так что даже при маловероятном условии наличия доступа к коду взломать систему сложно, так как злоумышленник не может бесконечно менять свой облик, пока не произойдет распознавание.

Большие темные очки, кепка, шарф, закрыть лицо рукой

Система не сможет узнать человека, если большая часть его лица скрыта, даже несмотря на то, что нейросеть распознает лица гораздо лучше, чем человек. Но чтобы полностью скрыться от системы распознавания лиц, человек должен закрывать свое лицо от камер всегда, а это довольно сложно реализовать на практике.

Зрение компьютеров превосходит зрение людей

В чем именно и почему, с примером

Юрий Минкин
Руководитель департамента разработки беспилотных транспортных средств компании Cognitive Technologies

Системы компьютерного зрения по основным принципам работы похожи на человеческое зрение. Как у человека, у них есть устройства, которые отвечают за сбор информации, это видеокамеры, аналог глаз, и ее обработку — вычислитель, аналог мозга. Но у компьютерного зрения есть существенное преимущество над человеческим.

«У человека есть определенный порог того, что он может увидеть и какую информацию извлечь из изображения. Превзойти этот порог нельзя чисто по физиологическим причинам. А алгоритмы компьютерного зрения будут только совершенствоваться. У них безграничные возможности для обучения»
Юрий Минкин
Руководитель департамента Cognitive Technologies

Хороший пример — технологии компьютерного зрения в беспилотных автомобилях. Если один человек может обучить своим знаниям о дорожной ситуации лишь небольшое, значительно ограниченное количество людей, то машины весь существующий опыт детекции тех или иных объектов могут передать сразу всем новым системам, которые будут установлены на многотысячный или даже миллионный парк автомобилей.

Пример

В конце прошлого года специалисты Cognitive Technologies проводили эксперименты по сравнению возможностей человека и искусственного интеллекта в задачах детекции объектов дорожной сцены. И уже сейчас ИИ в отдельных случаях не только не уступал, но и превосходил человеческие возможности. Например, он лучше распознавал дорожные знаки, когда они были частично заслонены листвой деревьев.

В отличие от человека компьютеры могут получать информацию об объектах не только оптическим способом — при помощью камер или глаз. Машины могут использовать радары и узнавать что-то об объекте, даже когда его не видно, но он находится в радиодиапазоне. Люди по физиологическим причинам так делать не могут.

Примерно такую картинку получает лазерный радар в машине с автопилотом

База данных с лицами существует

А ваше лицо уже было считано компьютером

«С высокой вероятностью ваше лицо уже есть в базах МВД и других системах. И я говорю не только про фотографию «на паспорт». Социальные сети, фотографии в публичных местах и иные общедоступные источники информации способны рассказать о большинстве россиян не только как они выглядят, но и что любят делать, с кем дружат, каких придерживаются взглядов и так далее»
Сергей Израйлит
Директор департамента развития фонда «Сколково

Сергей Израйлит: Для законопослушного человека такая высокая открытость в большинстве случаев не проблема. Даже наоборот, открытая информация может послужить алиби или иным доказательством невиновности. Однако вопросы сокращения рисков злоупотребления общедоступной информацией о человеке также активно обсуждаются при разработке законопроектов. Одна из задач направления по нормативному регулированию цифровой экономики заключается в том, чтобы новые технологии сделали жизнь граждан удобнее и безопаснее, и мы со всей серьезностью относимся к возникающим с развитием технологий рискам.

Подробности по теме
Еще одна жуткая история из мира нейросетей — фейковое порно с чужими лицами
Еще одна жуткая история из мира нейросетей — фейковое порно с чужими лицами

Компьютеры используются в суде

Может ли компьютер свидетельствовать против человека

Сергей Израйлит: Сейчас в законодательстве использование данных, «полученных от компьютеров», для использования в качестве доказательства каких-то существенных обстоятельств, в том числе правонарушений, специально урегулировано только для некоторых случаев. Например, регламентировано использование камер, распознающих номера автомобилей, нарушающих скоростной режим движения.

В общем случае такие данные можно использовать наравне с любыми другими доказательствами, которые следствие или суд может как принять во внимание, так и отклонить. При этом процессуальное законодательство устанавливает общий порядок работы с уликами — экспертиза, в рамках которой устанавливается, действительно ли представленная запись подтверждает какие-то факты или информация была тем или иным образом искажена.