Chinas Aufsichtsbehörden verschärfen die Regeln für Begleiter-Chatbots mit KI.

Seit dem 15. Juli gelten in China neue Vorgaben für anthropomorphe KI-Dienste. Alibaba, ByteDance und Tencent, deren Chatbots über 500 Millionen Nutzer haben, entfernten vorab die Möglichkeit, die Bots als Begleiter zu personalisieren.

Ab dem 15. Juli greifen in China neue Vorschriften der Internetaufsicht und weiterer Behörden für sogenannte anthropomorphe KI-Interaktionsdienste. Betroffen sind Chatbots, die dauerhafte emotionale Bindung simulieren, etwa durch menschenähnliche Persönlichkeit, Denkmuster und Sprache. Alibaba, ByteDance und Tencent, deren Allzweck-Chatbots von mehr als 500 Millionen Menschen genutzt werden, entfernten vorsorglich die Funktion, die Bots zu persönlichen Begleitern umzugestalten. Das löste im Juli eine Welle von Trauerbekundungen auf chinesischen Plattformen aus, etwa bei Nutzern von ByteDances Doubao.

Die Maßnahme reiht sich in einen breiteren Kurswechsel ein. Nach Jahren eines auf Wachstum ausgerichteten KI-Kurses setzt Peking wieder auf strengere Kontrolle, nachdem bereits im vergangenen Herbst KI-Rollenspiele mit erotischen Inhalten weitgehend untersagt wurden. Anbieter, die weiterhin Begleiter-Apps betreiben, etwa Doubaos separate Anwendung Cat Box, haben Altersverifikation und zusätzliche Schutzmechanismen eingeführt, um die neuen Vorgaben einzuhalten.

Offen bleibt, wie streng die Regeln in der Praxis durchgesetzt werden und ob sie auch internationale Anbieter betreffen, die in China aktiv sind. Für Unternehmen mit Nutzerbasis in China stellt sich die Frage, wie sich Bindungsstrategien überarbeiten lassen, ohne Nutzer und Umsatz zu verlieren.

Diese Meldung wurde automatisch aus der genannten Quelle erstellt und vor der Veröffentlichung maschinell geprüft. Das Bild ist ein Symbolbild und zeigt weder den Vorgang noch eine reale Person. Wie diese Zeitung entsteht