Abschied von jemandem, der nie gelebt hat

Letzte Woche haben Millionen Menschen Abschied genommen. Auf Weibo, dem grössten sozialen Netzwerk Chinas, posteten sie letzte Nachrichten an Gefährten, mit denen sie jahrelang gesprochen hatten. Eine 19-Jährige beschrieb, wie sie über ein Jahr hinweg Hunderttausende Nachrichten mit ihrem KI-Freund ausgetauscht hatte. Alles weg. Der Empfänger dieser Abschiedsbriefe war nie am Leben.

Was passiert ist

Am 15. Juli trat in China eine neue Regulierung in Kraft: die «Interim Measures for the Management of AI Human-Like Interaction Services», erlassen von der Cyberspace Administration of China zusammen mit vier weiteren Behörden. Das Gesetz zielt auf eine einzige Kategorie von Software: Systeme, die eine menschliche Persönlichkeit imitieren und laufende emotionale Gespräche führen. Arbeits-Assistenten, Kundenservice-Bots, Wissens- und Suchdienste sind explizit ausgenommen. Die laufen weiter.

Die Anforderungen sind deutlich: Bots müssen zu Beginn jeder Sitzung offenlegen, dass sie Software sind. Sie dürfen nicht so gestaltet sein, dass sie emotionale Abhängigkeit oder Suchtverhalten fördern. Für Minderjährige sind Companion-Dienste ohne verifizierte elterliche Zustimmung verboten, virtuelle Intimbeziehungen ganz. Anbieter müssen vor dem Start Sicherheitsberichte bei den Behörden einreichen.

Die grossen Plattformen haben reagiert — jede auf ihre Art. ByteDance entfernte die nutzergebauten KI-Agenten aus Doubao, mit 382 Millionen monatlichen Nutzern die meistgenutzte KI-App Chinas. Alte Chats bleiben bis zum 15. Oktober lesbar, danach werden sie gelöscht. Wer etwas behalten will, macht Screenshots. Alibabas Qwen ging weiter: kein Export, keine Übergangsfrist, Konfigurationen und Gesprächsverläufe sofort gelöscht. Tencent sperrte die Agenten-Sektion in Yuanbao schon Ende Juni, NetEase schaltete seinen Dienst Miaoshi am 14. Juli komplett ab. Allein die Behörden in Shanghai liessen vor dem Stichtag 14'000 nicht konforme Agenten löschen.

Zwei Lesarten — und eine dritte

Man kann diese Geschichte auf zwei Arten lesen.

Die wohlwollende: China nimmt ein reales Problem ernst. Emotionale Abhängigkeit von Software, die auf maximale Bindung optimiert ist, ist kein Hirngespinst. Diese Systeme sind darauf trainiert, dass Sie wiederkommen. Sie widersprechen selten, sie sind immer verfügbar, sie werden nie müde. Das ist bei einem Teenager eine andere Grössenordnung von Risiko als bei einem Erwachsenen. Dass ein Staat hier Leitplanken setzt, bevor eine Generation ihre Beziehungsfähigkeit an Server auslagert, ist zumindest eine Diskussion wert — auch bei uns.

Die kritische: Ein Staat hat per Dekret Millionen von Beziehungen beendet. Ohne Übergangsfrist bei Alibaba, ohne Mitsprache der Betroffenen, ohne Rücksicht darauf, was diese Gespräche den Menschen bedeutet haben. Was immer man von KI-Companions hält — die Härte des Schnitts zeigt, wie schnell digitale Lebensrealitäten verschwinden können, wenn jemand mit genug Macht den Schalter findet.

Beide Lesarten stimmen. Aber die dritte ist die, die mich beschäftigt: Hunderte Millionen Menschen waren von diesen Produkten abhängig — emotional, im Alltag, in ihren Routinen. Und nicht einer von ihnen besass einen Anteil an den Firmen, die den Stecker zogen. Die Nutzer hatten alles investiert: Zeit, Vertrauen, Intimität, jahrelange Gesprächsverläufe. Besessen haben sie nichts. Nicht einmal ihre eigenen Chats, wie sich am 15. Juli zeigte.

Was das für ein Unternehmen in der Schweiz bedeutet

Sie führen vermutlich keine Beziehung mit einem Chatbot. Aber die Wahrscheinlichkeit ist hoch, dass Ihr Unternehmen längst Abhängigkeiten aufgebaut hat, die derselben Logik folgen: Wissen, Prozesse und Daten liegen in Werkzeugen, die Ihnen nicht gehören.

Die Frage ist nicht, ob Peking oder Brüssel morgen Ihre Software abschaltet. Die Frage ist grundsätzlicher: Was passiert, wenn Ihr Anbieter die Preise verdoppelt, die Funktion streicht, übernommen wird oder eine Regulierung sein Geschäftsmodell trifft? Der EU AI Act enthält übrigens ebenfalls Bestimmungen gegen manipulative KI-Systeme — die Stossrichtung ist global, nicht chinesisch.

Ich arbeite täglich mit KI, in beiden meiner Firmen. Aber ich habe eine Regel, die älter ist als jedes KI-Tool: Meine Daten gehören mir. Mein gesamtes Firmenwissen liegt in offenen Textdateien, lokal, in Formaten, die jedes Werkzeug lesen kann. Wenn mein KI-Anbieter morgen verschwindet, verliere ich einen Motor — nicht das Gedächtnis. Die Doubao-Nutzer haben letzte Woche beides verloren, und sie konnten nichts dagegen tun ausser Screenshots machen.

Drei Fragen lohnen sich für jedes KMU: Erstens, wo liegen Ihre Daten, und in welchem Format — können Sie sie jederzeit vollständig exportieren? Zweitens, welche Prozesse funktionieren nicht mehr, wenn ein einzelner Anbieter ausfällt? Drittens, wer im Unternehmen entwickelt gerade eine Arbeitsweise, die ohne ein bestimmtes Tool nicht mehr denkbar ist?

Die Chinesen, die letzte Woche Abschiedsbriefe an Software schrieben, haben nichts falsch gemacht. Sie haben ein Produkt so genutzt, wie es gebaut wurde: auf Bindung optimiert. Genau deshalb liegt die Verantwortung, Abhängigkeit zu gestalten statt zu erleiden, bei dem, der die Werkzeuge auswählt. In Ihrem Unternehmen sind das Sie.

Wenn Sie wissen wollen, wo Ihr Unternehmen bei KI steht — und wo unbemerkt Abhängigkeiten entstehen — dann ist eine Standortbestimmung der richtige erste Schritt.

Quellen:

• Latham & Watkins: China Introduces Rules for AI Companion and Emotional Interaction Services — lw.com
• TNW: Doubao's AI companions are gone. Users get 3 months to screenshot what is left — thenextweb.com
• Tech Times: China AI Companion Law Takes Effect: Doubao and Qwen Shut Down, Millions Lose Chat Data — techtimes.com
• Licentium: China Finalises Rules for AI Companion and Emotional Interaction Services — licentium.io
• Hello China Tech: Doubao Has 350 Million Users. It Just Dropped AI Companions — hellochinatech.com