Растущая негативная реакция в Китае против ИИ и распознавания лиц

Кажущийся беспрепятственным толчок Китая к распознаванию лиц получает некоторое сопротивление на высоком уровне.

В прошлые выходные приложение Zao-swapping Zao стало вирусным, но впоследствии оно вызвало негативную реакцию со стороны средств массовой информации - как государственных, так и частных - в связи с явным отсутствием средств защиты конфиденциальности данных.

Приложение также вызвало споры, поскольку оно позволяет пользователям загружать свои фотографии и накладывать свои лица на клипы знаменитостей или кого-либо еще. Его возможности вызывали опасения, что люди могут манипулировать видео для распространения дезинформации.

«Будущее наступило, искусственный интеллект - это не только тест на технологическое развитие, но и тест на управление», - написала в воскресенье городская газета The Beijing News на китайском языке, согласно переводу CNBC.

«В настоящее время очень сложно определить, являются ли злонамеренные данные о лице и авторизация оператора программного обеспечения, но опасения пользователей сети понятны», - говорится в сообщении.

Это заметный отход от молчания или даже прямого комментария о том, что граждане Китая не очень заботятся о том, чтобы отказываться от конфиденциальности данных ради удобства.

Приложение Zao смогло быстро продемонстрировать силу «дипфейка» и его влияние в социальных сетях. Deepfake - это способность манипулировать видео или цифровыми изображениями с помощью компьютеров и программного обеспечения для машинного обучения и заставлять их казаться реальными, когда это не так. Многие все больше обеспокоены тем, как манипулируемый контент может повлиять на выборы с помощью ложной информации.

В случае с Zao быстрое распространение сгенерированных пользователями Deepfakes, как сообщается, побудило вездесущее приложение для обмена сообщениями WeChat запретить пользователям делиться контентом, созданным приложением. Этот инцидент является примером растущей дискуссии в Китае о безопасности сбора данных и платежей на основе распознавания лиц.

Zao пересмотрел свою политику конфиденциальности в течение нескольких дней после ее выпуска после реакции пользователей.

Китайские власти, возможно, уже сигнализируют о необходимости занять более жесткую позицию в отношении технологий распознавания лиц.

Ссылаясь на дело Зао, Министерство промышленности и информационных технологий заявило, что необходимо «усилить оценку безопасности новых технологий и предприятий» и защитить себя от «сетевого мошенничества и других скрытых опасностей», согласно переводу CNBC своего заявления в социальных сетях. платформа WeChat.

С профессиональной точки зрения, технология смены лица не может представлять угрозу безопасности для платежей по распознаванию лиц, заявил Зао в онлайн-заявлении во вторник.

Если Зао будет проводить более тщательную проверку безопасности распознавания лиц, китайские власти могут еще больше ужесточить свою деятельность в этой области.

Задержка с внедрением правил в Китае - намеренная или непреднамеренная - помогла некоторым крупным технологическим компаниям процветать. Власти, как правило, реагируют, а не активно регулируют новые технологии.

Например, китайские технологические компании часто предупреждают в своих проспектах о выходе на биржу в Нью-Йорке об отсутствии у них лицензий или возможности изменения регулирования. В недавнем случае с платформами однорангового кредитования в Китае слабое регулирование позволило нескольким тысячам стартапов забрать деньги клиентов, прежде чем значительная их часть была потеряна. После того, как прошлым летом обострились последствия, Пекин запретил новые платформы онлайн-кредитования.

Этим летом старший директор центрального банка Китая предупредил потребителей о новых рисках, связанных с искусственным интеллектом и технологиями распознавания лиц.

«Банковская карта все еще может быть в кармане, но лицо обычно открыто, и распознать очень легко. Современные технологии могут распознать ваше лицо на расстоянии трех километров », - сказал Ли Вэй, директор департамента науки и технологий Народного банка Китая, заявил в июле на саммите по финтех в Пекине, организованном аналитическим центром China Finance 40 Forum. .

Ли также предупредил компании, чтобы они не использовали свои технологические возможности, согласно переводу CNBC расшифровки стенограммы на китайском языке, размещенной в официальной учетной записи WeChat форума.

Народный банк Китая не сразу ответил на запрос CNBC о комментарии.

Но злоупотребление данными по распознаванию лиц имеет гораздо более серьезные последствия, чем финансовая кредитная платформа, занимающаяся кражей денег, тем более что информация все чаще становится безотзывным способом проверки личности или осуществления платежа.

«Если ваш пароль взломан… вы можете просто изменить пароль. Если такая ситуация возникает с вашим лицом или отпечатком пальца, последствия могут быть гораздо более длительными », - сказал Мартин Чорземпа, научный сотрудник международной экономической фирмы Peterson Institute for International Economics.

«Вы не можете изменить свой отпечаток пальца или лицо, как можете изменить пароль», - пояснил он, поэтому использование биометрической аутентификации может быть более опасным для пользователей, чем использование традиционного пароля.

У многих растет страх перед технологией распознавания лиц, потому что легко собирать и собирать массовые биометрические данные.

Фактически, одна из самых популярных систем онлайн-платежей в Китае немедленно обратилась к растущим опасениям общественности.

Платежная система Alipay, управляемая дочерней компанией Ant Financial, гиганта электронной коммерции Alibaba, сообщила 31 августа, что для оплаты на основе распознавания лиц требуется трехмерное лицо. Программное обеспечение и оборудование будут определять, является ли лицо изображением, видео или программной симуляцией, говорится в заявлении.

Техническая фирма заявила, что перед осуществлением оплаты иногда необходимы дополнительные меры безопасности, такие как проверка по мобильному телефону, и заверила клиентов, что она понесет расходы в случае мошенничества с распознаванием лица при распознавании.

В конце концов, Чорземпа сказал, что «безопасность онлайн-транзакций всегда была гонкой вооружений».

Быстрая реакция Zao на возмущение общественности по поводу использования личной информации является редкостью, сказал Цзыян Фань, глава отдела цифровой торговли Всемирного экономического форума, в электронном письме во вторник.

«Эта обратная реакция показывает, что концепция конфиденциальности данных получает все большее распространение в Китае, и все больше пользователей все меньше желают жертвовать конфиденциальностью ради удобства или развлечения», - сказал он.

«Мы можем ожидать повышения осведомленности как пользователей, так и компаний в Китае о конфиденциальности данных в будущем», - добавил Фан.

В отличие от многих других крупных стран, китайское правительство часто решало позволить компаниям создавать новые продукты перед установлением правил.

Для сравнения, некоторые крупные американские города уже запретили использование распознавания лиц. В марте Миссури представил закон о конфиденциальности коммерческого признания лиц 2019. Этот шаг был расценен некоторыми как признак того, что федеральное правительство готово рассмотреть общенациональный запрет на технологию распознавания лиц.