Tumbuhnya reaksi di Tiongkok terhadap AI dan pengenalan wajah

Dorongan China yang tampaknya tidak terkekang ke pengenalan wajah mendapatkan beberapa tekanan balik tingkat tinggi.

Aplikasi bertukar muka Zao menjadi viral akhir pekan lalu, tetapi kemudian memicu reaksi dari media - baik yang dikelola pemerintah maupun swasta - karena kurangnya perlindungan privasi data.

Aplikasi ini juga menimbulkan kontroversi karena memungkinkan pengguna untuk mengunggah foto diri mereka sendiri dan menempelkan wajah mereka pada klip selebritas atau orang lain. Kemampuannya menimbulkan kekhawatiran bahwa orang dapat memanipulasi video untuk menyebarkan disinformasi.

"Masa depan telah tiba, kecerdasan buatan tidak hanya tes untuk perkembangan teknologi, tapi juga tes untuk pemerintahan," tulis surat kabar kota The Beijing News, Minggu dalam bahasa China, menurut terjemahan CNBC.

"Saat ini sangat sulit untuk menentukan apakah kumpulan data wajah manusia dan otorisasi dari operator perangkat lunak berbahaya, tetapi kekhawatiran netizen dapat dimengerti," tulisnya.

Itu adalah perubahan mencolok dari diam, atau bahkan komentar langsung bahwa warga China tidak terlalu peduli tentang menyerahkan privasi data demi kenyamanan.

Aplikasi Zao dapat dengan cepat menunjukkan kekuatan "deepfake" dan pengaruhnya di media sosial. Deepfake adalah kemampuan untuk memanipulasi video atau representasi digital dengan bantuan komputer dan perangkat lunak pembelajaran mesin, dan membuatnya tampak nyata, padahal sebenarnya tidak. Banyak yang semakin khawatir tentang bagaimana konten yang dimanipulasi dapat memengaruhi pemilu dengan informasi palsu.

Dalam kasus Zao, proliferasi cepat deepfakes yang dibuat pengguna dilaporkan mendorong aplikasi perpesanan mana-mana, WeChat, untuk melarang pengguna membagikan konten yang dibuat oleh aplikasi. Insiden ini adalah contoh dari diskusi yang berkembang di China tentang keamanan pengumpulan data dan pembayaran berbasis pengenalan wajah.

Zao merevisi kebijakan privasinya dalam beberapa hari setelah rilis menyusul reaksi balik dari pengguna.

Otoritas China mungkin sudah memberi isyarat bahwa ada kebutuhan untuk mengambil sikap lebih tegas terhadap teknologi pengenalan wajah.

Mengutip kasus Zao, Kementerian Perindustrian dan Teknologi Informasi mengatakan perlu untuk "memperkuat penilaian keamanan teknologi dan bisnis baru" dan menjaga dari "penipuan jaringan dan bahaya tersembunyi lainnya," menurut terjemahan CNBC dari pernyataannya di media sosial. platform, WeChat.

Dari sudut pandang profesional, tidak mungkin teknologi pertukaran wajah menimbulkan ancaman keamanan terhadap pembayaran pengenalan wajah, kata Zao dalam pernyataan online Selasa.

Jika Zao memicu pengawasan yang lebih besar pada keamanan pengenalan wajah, pihak berwenang Cina mungkin memperketat lebih jauh di daerah ini.

Penerapan peraturan China yang tertunda - disengaja atau tidak - telah membantu beberapa perusahaan teknologi besar berkembang. Pihak berwenang cenderung reaktif daripada proaktif dalam regulasi teknologi baru.

Misalnya, perusahaan teknologi China sering memperingatkan dalam prospektus mereka untuk go public di New York tentang kurangnya perizinan atau potensi perubahan regulasi. Dalam kasus platform pinjaman peer-to-peer baru-baru ini di China, peraturan yang longgar memungkinkan beberapa ribu perusahaan rintisan untuk mengambil uang pelanggan sebelum sebagian besar hilang. Setelah akselerasi pada musim panas lalu, Beijing melarang platform pinjaman online baru.

Musim panas ini, seorang direktur senior di bank sentral China memperingatkan konsumen tentang risiko baru yang ditimbulkan oleh kecerdasan buatan dan teknologi pengenalan wajah.

“Kartu bank mungkin masih ada di saku, tetapi wajah biasanya terlihat, dan pengenalannya sangat mudah. Teknologi saat ini dapat mengenali wajah Anda dari jarak tiga kilometer, "kata Li Wei, direktur departemen sains dan teknologi People's Bank of China, mengatakan pada bulan Juli pada pertemuan puncak fintech di Beijing yang diselenggarakan bersama oleh lembaga think tank China Finance 40 Forum .

Li juga memperingatkan perusahaan untuk tidak mengeksploitasi kapasitas teknologi mereka, menurut terjemahan CNBC dari transkrip berbahasa Mandarin yang diposting di akun resmi WeChat forum.

Bank Rakyat China tidak segera menanggapi permintaan komentar CNBC.

Tetapi penyalahgunaan data pengenalan wajah memiliki konsekuensi yang jauh lebih serius daripada platform pinjaman fintech yang mencuri uang - terutama karena informasi semakin menjadi cara yang tidak dapat dibatalkan untuk memverifikasi identitas atau melakukan pembayaran.

“Jika kata sandi Anda disusupi… Anda dapat mengubah kata sandinya. Jika situasi itu terjadi dengan wajah atau sidik jari Anda, dampaknya bisa lebih lama, ”kata Martin Chorzempa, peneliti di firma kebijakan ekonomi internasional Institut Peterson untuk Ekonomi Internasional.

“Anda tidak dapat mengubah sidik jari atau wajah seperti Anda dapat mengubah kata sandi,” jelasnya, oleh karena itu menggunakan otentikasi biometrik bisa lebih berbahaya bagi pengguna daripada menggunakan kata sandi tradisional.

Ketakutan yang berkembang bagi banyak orang tentang teknologi pengenalan wajah adalah betapa mudahnya mengumpulkan dan memanen data biometrik massal.

Faktanya, salah satu sistem pembayaran online paling populer di China segera mengatasi kekhawatiran publik yang semakin meningkat.

Alipay, sistem pembayaran yang dijalankan oleh raksasa e-commerce afiliasi Alibaba, Ant Financial, mengatakan pada 31 Agustus bahwa pembayaran berbasis pengenalan wajah membutuhkan wajah tiga dimensi. Perangkat lunak dan perangkat keras akan mendeteksi apakah wajah itu gambar, video atau simulasi perangkat lunak, katanya dalam sebuah pernyataan.

Perusahaan teknologi itu mengatakan langkah-langkah keamanan tambahan, seperti verifikasi melalui ponsel, kadang-kadang diperlukan sebelum membayar, dan meyakinkan pelanggan akan menanggung biaya dalam kasus penipuan pembayaran pengenalan wajah.

Di penghujung hari, Chorzempa berkata, "keamanan untuk transaksi online selalu menjadi perlombaan senjata."

Tanggapan cepat Zao terhadap kemarahan publik atas penggunaan informasi pribadi jarang terjadi, kata Ziyang Fan, kepala perdagangan digital di Forum Ekonomi Dunia, dalam email pada Selasa.

“Penolakan ini menunjukkan bahwa konsep privasi data mulai berkembang di China, dan semakin banyak pengguna yang kurang bersedia untuk memperdagangkan privasi untuk kenyamanan atau hiburan,” katanya.

“Kami berharap untuk melihat kesadaran yang lebih tinggi dari pengguna dan perusahaan di China tentang privasi data di masa depan,” tambah Fan.

Berbeda dengan banyak negara besar lainnya, pemerintah Cina sering memilih untuk membiarkan perusahaan membangun produk baru sebelum menetapkan peraturan.

Sebagai perbandingan, beberapa kota besar di Amerika telah melarang penggunaan pengenalan wajah. Pada bulan Maret, Missouri memperkenalkan Undang-Undang Privasi Pengenalan Wajah Komersial 2019. Langkah ini dianggap oleh beberapa pihak sebagai indikasi bahwa pemerintah federal bersedia mempertimbangkan larangan nasional terhadap teknologi pengenalan wajah.