Creciente reacción en China contra la IA y el reconocimiento facial

El aparentemente irrestricto impulso de China hacia el reconocimiento facial está recibiendo un retroceso de alto nivel.

La aplicación de intercambio de caras Zao se volvió viral el fin de semana pasado, pero posteriormente provocó una reacción violenta de los medios, tanto estatales como privados, por la aparente falta de protecciones de privacidad de datos.

La aplicación también generó controversia, ya que permite a los usuarios subir fotos de sí mismos y superponer sus rostros en clips de celebridades o de cualquier otra persona. Su capacidad generó preocupaciones de que las personas pudieran manipular videos para difundir desinformación.

"El futuro ha llegado, la inteligencia artificial no es sólo una prueba para el desarrollo tecnológico, sino una prueba para la gobernanza", escribió el domingo en chino el periódico de la ciudad The Beijing News, según una traducción de CNBC.

"En este momento es muy difícil determinar si la recopilación de datos faciales humanos y la autorización por parte del operador de software son maliciosas, pero las preocupaciones de los internautas son comprensibles", escribió.

Eso es un cambio marcado del silencio, o incluso un comentario directo de que a los ciudadanos chinos no les importa mucho renunciar a la privacidad de los datos por conveniencia.

La aplicación Zao pudo demostrar rápidamente el poder del "deepfake" y la influencia en las redes sociales. Deepfake es la capacidad de manipular videos o representaciones digitales con la ayuda de computadoras y software de aprendizaje automático, y hacer que parezcan reales, cuando no lo son. Muchos están cada vez más preocupados por cómo el contenido manipulado podría influir en las elecciones con información falsa.

En el caso de Zao, la rápida proliferación de deepfakes generados por los usuarios supuestamente provocó que la aplicación de mensajería ubicua WeChat prohibiera a los usuarios compartir contenido creado por la aplicación. El incidente es un ejemplo de una creciente discusión en China sobre la seguridad de la recopilación de datos y los pagos basados ​​en reconocimiento facial.

Zao revisó su política de privacidad a los pocos días de su lanzamiento tras la reacción violenta de los usuarios.

Es posible que las autoridades chinas ya estén señalando que es necesario adoptar una postura más estricta sobre las tecnologías de reconocimiento facial.

Citando el caso de Zao, el Ministerio de Industria y Tecnología de la Información dijo que es necesario "fortalecer la evaluación de seguridad de las nuevas tecnologías y negocios" y protegerse contra el "fraude en la red y otros peligros ocultos", según la traducción de CNBC de su declaración en las redes sociales plataforma, WeChat.

Desde un punto de vista profesional, es imposible que la tecnología de intercambio de rostros represente una amenaza de seguridad para el pago por reconocimiento facial, dijo Zao en un comunicado en línea el martes.

Si Zao provoca un mayor escrutinio sobre la seguridad del reconocimiento facial, las autoridades chinas pueden endurecer aún más en esta área.

La demora en la implementación de las regulaciones de China, intencional o no, ha ayudado a florecer a algunas de las principales empresas de tecnología. Las autoridades han tendido a ser reactivas en lugar de proactivas en su regulación de nuevas tecnologías.

Por ejemplo, las empresas tecnológicas chinas a menudo advierten en sus prospectos para salir a bolsa en Nueva York sobre su falta de licencias o la posibilidad de que cambie la regulación. En el caso reciente de las plataformas de préstamos entre pares en China, la regulación flexible permitió que unos pocos miles de empresas emergentes tomaran el dinero de los clientes antes de que se perdiera una parte significativa. Después de una aceleración en las consecuencias del verano pasado, Beijing prohibió las nuevas plataformas de préstamos en línea.

Este verano, un director senior del banco central de China advirtió a los consumidores sobre los nuevos riesgos que plantean la inteligencia artificial y la tecnología de reconocimiento facial.

“Puede que una tarjeta bancaria todavía esté en el bolsillo, pero generalmente se deja al descubierto un rostro y el reconocimiento es muy fácil. La tecnología actual puede reconocer tu rostro a tres kilómetros de distancia ”, dijo Li Wei, director del departamento de ciencia y tecnología del Banco Popular de China, en julio en una cumbre de tecnología financiera en Beijing coorganizada por el grupo de expertos China Finance 40 Forum. .

Li también advirtió a las empresas que no exploten su capacidad tecnológica, según una traducción de CNBC de una transcripción en chino publicada en la cuenta oficial de WeChat del foro.

El Banco Popular de China no respondió de inmediato a una solicitud de comentarios de CNBC.

Pero el abuso de los datos de reconocimiento facial tiene consecuencias mucho más graves que una plataforma de préstamos fintech que roba dinero, especialmente porque la información se está convirtiendo cada vez más en una forma irrevocable de verificar la identidad o realizar un pago.

“Si su contraseña se ve comprometida ... simplemente puede cambiar la contraseña. Si esa situación ocurre con su rostro o huella digital, el impacto puede ser mucho más duradero ”, dijo Martin Chorzempa, investigador de la firma internacional de política económica Peterson Institute for International Economics.

“No puedes cambiar tu huella digital o tu rostro como puedes cambiar una contraseña”, explicó, por lo tanto, usar la autenticación biométrica puede ser más peligroso para los usuarios que usar una contraseña tradicional.

El temor creciente para muchos sobre la tecnología de reconocimiento facial es lo fácil que es recopilar y recolectar datos biométricos en masa.

De hecho, uno de los sistemas de pago en línea más populares de China abordó de inmediato las crecientes preocupaciones del público.

Alipay, el sistema de pago administrado por Ant Financial, afiliada del gigante del comercio electrónico Alibaba, dijo el 31 de agosto que el pago basado en reconocimiento facial requiere una cara tridimensional. El software y el hardware detectarán si la cara es una imagen, un video o una simulación de software, dijo en un comunicado.

La firma de tecnología dijo que a veces se necesitan medidas de seguridad adicionales, como la verificación por teléfono móvil, antes de pagar, y aseguró a los clientes que asumirá los costos en caso de fraude en el pago de reconocimiento facial.

Al final del día, dijo Chorzempa, "la seguridad para las transacciones en línea siempre ha sido una carrera armamentista".

La rápida respuesta de Zao a la protesta del público por el uso de información personal es rara, dijo Ziyang Fan, jefe de comercio digital del Foro Económico Mundial, en un correo electrónico el martes.

"Esta reacción muestra que el concepto de privacidad de los datos está ganando terreno en China, y cada vez más los usuarios están menos dispuestos a cambiar la privacidad por conveniencia o entretenimiento", dijo.

"Es posible que esperemos ver una mayor conciencia de los usuarios y las empresas en China sobre la privacidad de los datos en el futuro", agregó Fan.

A diferencia de muchos otros países importantes, el gobierno chino a menudo ha elegido permitir que las empresas desarrollen nuevos productos antes de establecer regulaciones.

En comparación, algunas ciudades estadounidenses importantes ya han prohibido el uso del reconocimiento facial. En marzo, Missouri introdujo la Ley de Privacidad de Reconocimiento Facial Comercial de 2019. Algunos consideraron la medida como una indicación de que el gobierno federal estaba dispuesto a considerar una prohibición nacional de la tecnología de reconocimiento facial.