Wachsende Gegenreaktion in China gegen KI und Gesichtserkennung

Chinas scheinbar ungebremster Vorstoß in die Gesichtserkennung stößt auf heftigen Widerstand.

Die Face-Swapping-App Zao verbreitete sich am vergangenen Wochenende viral, löste anschließend jedoch eine Gegenreaktion sowohl staatlicher als auch privater Medien wegen des offensichtlichen Mangels an Datenschutz aus.

Die App löste auch Kontroversen aus, da sie es Benutzern ermöglicht, Fotos von sich selbst hochzuladen und ihre Gesichter mit Clips von Prominenten oder anderen Personen zu überlagern. Seine Fähigkeit ließ Bedenken aufkommen, dass Menschen Videos manipulieren könnten, um Desinformation zu verbreiten.

„Die Zukunft ist gekommen, künstliche Intelligenz ist nicht nur ein Test für die technologische Entwicklung, sondern auch ein Test für die Regierungsführung“, schrieb die Stadtzeitung The Beijing News laut einer CNBC-Übersetzung am Sonntag auf Chinesisch.

„Im Moment ist es sehr schwierig festzustellen, ob die Sammlung menschlicher Gesichtsdaten und die Autorisierung durch den Softwarebetreiber böswillig sind, aber die Bedenken der Internetnutzer sind verständlich“, heißt es darin.

Das ist eine deutliche Abkehr vom Schweigen oder sogar der direkten Bemerkung, dass es den chinesischen Bürgern nicht viel ausmacht, aus Bequemlichkeitsgründen auf den Datenschutz zu verzichten.

Die Zao-App konnte schnell die Macht von „Deepfake“ und den Einfluss auf soziale Medien demonstrieren. Deepfake ist die Fähigkeit, Videos oder digitale Darstellungen mit Hilfe von Computern und Software für maschinelles Lernen zu manipulieren und sie real erscheinen zu lassen, obwohl sie es nicht sind. Viele sind zunehmend besorgt darüber, wie die manipulierten Inhalte mit falschen Informationen Wahlen beeinflussen könnten.

Im Fall von Zao hat die schnelle Verbreitung benutzergenerierter Deepfakes Berichten zufolge die allgegenwärtige Messaging-App WeChat dazu veranlasst, Benutzern das Teilen von mit der App erstellten Inhalten zu verbieten. Der Vorfall ist ein Beispiel für eine wachsende Diskussion in China über die Sicherheit der Datenerfassung und gesichtserkennungsbasierter Zahlungen.

Zao überarbeitete seine Datenschutzrichtlinie innerhalb weniger Tage nach ihrer Veröffentlichung aufgrund von Gegenreaktionen von Benutzern.

Die chinesischen Behörden signalisieren möglicherweise bereits, dass eine strengere Haltung gegenüber Gesichtserkennungstechnologien erforderlich ist.

Unter Berufung auf den Fall Zao sagte das Ministerium für Industrie und Informationstechnologie, es sei notwendig, „die Sicherheitsbewertung neuer Technologien und Unternehmen zu verstärken“ und sich vor „Netzwerkbetrug und anderen versteckten Gefahren“ zu schützen, so die Übersetzung seiner Erklärung in den sozialen Medien durch CNBC Plattform, WeChat.

Aus professioneller Sicht sei es unmöglich, dass die Face-Swapping-Technologie eine Sicherheitsbedrohung für Zahlungen per Gesichtserkennung darstelle, sagte Zao am Dienstag in einer Online-Erklärung.

Wenn Zao die Sicherheit der Gesichtserkennung stärker unter die Lupe nimmt, könnten die chinesischen Behörden in diesem Bereich noch strenger vorgehen.

Chinas verzögerte Umsetzung von Vorschriften – ob beabsichtigt oder nicht – hat einigen großen Technologieunternehmen zum Erfolg verholfen. Die Behörden haben bei der Regulierung neuer Technologien eher reaktiv als proaktiv vorgegangen.

Beispielsweise warnen chinesische Technologieunternehmen in ihren Prospekten für einen Börsengang in New York häufig vor fehlenden Lizenzen oder der Möglichkeit einer Änderung der Regulierung. Im jüngsten Fall von Peer-to-Peer-Kreditplattformen in China ermöglichte die lockere Regulierung einigen tausend Start-ups, das Geld der Kunden zu nehmen, bevor ein erheblicher Teil verloren ging. Nachdem sich die Auswirkungen im vergangenen Sommer beschleunigten, verbot Peking neue Online-Kreditplattformen.

Erst diesen Sommer warnte ein leitender Direktor der chinesischen Zentralbank die Verbraucher vor den neuen Risiken, die von künstlicher Intelligenz und Gesichtserkennungstechnologie ausgehen.

„Eine Bankkarte steckt vielleicht noch in der Tasche, aber das Gesicht ist meist sichtbar und die Erkennung ist sehr einfach. Aktuelle Technologie kann Ihr Gesicht aus drei Kilometern Entfernung erkennen“, sagte Li Wei, Direktor der Wissenschafts- und Technologieabteilung der People's Bank of China, im Juli auf einem Fintech-Gipfel in Peking, der von der Denkfabrik China Finance 40 Forum mitorganisiert wurde .

Laut einer CNBC-Übersetzung eines chinesischsprachigen Transkripts, das auf dem offiziellen WeChat-Konto des Forums veröffentlicht wurde, warnte Li die Unternehmen auch davor, ihre technologischen Kapazitäten auszunutzen.

Die People's Bank of China reagierte nicht sofort auf eine CNBC-Anfrage nach einem Kommentar.

Der Missbrauch von Gesichtserkennungsdaten hat jedoch weitaus schwerwiegendere Folgen als der Diebstahl von Geld durch eine Fintech-Kreditplattform – insbesondere, da die Informationen zunehmend zu einem unwiderruflichen Mittel zur Identitätsprüfung oder Zahlung werden.

„Wenn Ihr Passwort kompromittiert ist … können Sie es einfach ändern. Wenn diese Situation bei Ihrem Gesicht oder Fingerabdruck auftritt, können die Auswirkungen viel länger anhalten“, sagte Martin Chorzempa, wissenschaftlicher Mitarbeiter beim internationalen Wirtschaftspolitikunternehmen Peterson Institute for International Economics.

„Sie können Ihren Fingerabdruck oder Ihr Gesicht nicht wie ein Passwort ändern“, erklärte er, daher kann die Verwendung biometrischer Authentifizierung für Benutzer gefährlicher sein als die Verwendung eines herkömmlichen Passworts.

Bei vielen wächst die Angst vor der Gesichtserkennungstechnologie, weil sie so einfach ist, massenhafte biometrische Daten zu sammeln und zu sammeln.

Tatsächlich reagierte eines der beliebtesten Online-Zahlungssysteme Chinas sofort auf die wachsenden Bedenken der Öffentlichkeit.

Alipay, das Zahlungssystem der Tochtergesellschaft des E-Commerce-Riesen Alibaba, Ant Financial, sagte am 31. August, dass für Zahlungen auf Gesichtserkennung ein dreidimensionales Gesicht erforderlich sei. Die Soft- und Hardware werde erkennen, ob es sich bei dem Gesicht um ein Bild, ein Video oder eine Softwaresimulation handele, hieß es in einer Erklärung.

Das Technologieunternehmen sagte, dass vor der Zahlung manchmal zusätzliche Sicherheitsmaßnahmen wie eine Verifizierung per Mobiltelefon erforderlich seien, und versicherte den Kunden, dass es die Kosten im Falle eines Zahlungsbetrugs mit Gesichtserkennung trage.

Am Ende des Tages sagte Chorzempa: „Sicherheit bei Online-Transaktionen war schon immer ein Wettrüsten.“

Zaos schnelle Reaktion auf den Aufschrei der Öffentlichkeit über die Verwendung personenbezogener Daten sei selten, sagte Ziyang Fan, Leiter des Bereichs Digitalhandel beim Weltwirtschaftsforum, am Dienstag in einer E-Mail.

„Diese Gegenreaktion zeigt, dass das Konzept des Datenschutzes in China an Boden gewinnt und die Nutzer zunehmend weniger bereit sind, Privatsphäre gegen Bequemlichkeit oder Unterhaltung einzutauschen“, sagte er.

„Wir können davon ausgehen, dass sowohl Benutzer als auch Unternehmen in China in Zukunft stärker auf Datenschutz achten werden“, fügte Fan hinzu.

Im Gegensatz zu vielen anderen großen Ländern hat sich die chinesische Regierung oft dafür entschieden, Unternehmen die Entwicklung neuer Produkte zu überlassen, bevor sie Vorschriften erlässt.

Im Vergleich dazu haben einige amerikanische Großstädte den Einsatz von Gesichtserkennung bereits verboten. Im März führte Missouri den Commercial Facial Recognition Privacy Act von 2019 ein. Dieser Schritt wurde von einigen als Hinweis darauf gewertet, dass die Bundesregierung bereit sei, ein landesweites Verbot der Gesichtserkennungstechnologie in Betracht zu ziehen.