PERSPEKTIVEN · Diese Kolumne gibt die Ansichten des Autors wieder.
Die Character.ai Insolvenz legt ein Risiko offen, über das kaum jemand spricht: Was Menschen einem Chatbot anvertrauen, kann bei einer Pleite verkauft werden. Ich finde, intime Gespräche gehören nicht in die Konkursmasse. Gesetzgeber und Gerichte müssen das klären, bevor die nächste KI-Firma fällt.
Für den BBC-Reporter Thomas Germain begann die Recherche mit einem Testkonto. Als Erstes bot ihm Character.ai eine KI-Freundin an, schreibt er in seinem Beitrag für BBC Future vom 29. Oktober. Nach seiner Darstellung haben zig Millionen Menschen, darunter Kinder, auf der Plattform Beziehungen zu Chatbots aufgebaut. Manche dieser Figuren gäben sich als Anwälte oder zugelassene Psychiater aus.
Am 12. Oktober hat die Betreiberfirma Character Technologies in den USA ein Insolvenzverfahren nach Chapter 11 eingeleitet, um sich unter Aufsicht eines Gerichts in Delaware verkaufen zu lassen. Das hat das Unternehmen in seinem Blog selbst mitgeteilt. Seitdem steht eine Frage im Raum, die weit über diese eine App hinausreicht: Was passiert mit all dem, was Nutzer ihren Chatbots erzählt haben?
Viele Analysten halten die KI-Branche für eine Blase, weil Entwicklung und Betrieb der Modelle so teuer sind, dass manche Anbieter wohl nie Gewinn machen. Platzt sie, könnten laut BBC zahlreiche Firmen fusionieren oder schließen. Die Daten, die Milliarden Menschen KI-Diensten überlassen, könnten dann an nahezu jeden gehen, der dafür bezahlt.
Was die Character.ai Insolvenz für private Chats bedeutet
Auf den ersten Blick wirkt der Fall harmlos. Disney bietet 20 Millionen Dollar, wie NBC News berichtet. Das Geld ist laut Forbes für eine nicht exklusive Lizenz an Technik und Patenten gedacht. Nutzerdaten, Chatverläufe, Trainingsdaten und die fertigen Modelle sind ausdrücklich nicht Teil des Gebots.
Genau das ist der Haken. Was Disney nicht nimmt, bleibt in der Insolvenzmasse und steht anderen Bietern offen, berichtet PPC Land unter Berufung auf die Gerichtsunterlagen. Der Hinweis in der Verkaufsanzeige, personenbezogene Daten seien ausgenommen, gilt nur für Disneys Paket. Wie es zur Pleite kam, lesen Sie in unserem Bericht zur Insolvenz von Character.ai [CN-LINK-1].
Die Dimension ist gewaltig. In den Gerichtsakten beziffert Character.ai seine aktuellen und früheren Nutzer auf rund 163 Millionen, berichtet Notebookcheck. Als Gläubiger, die persönlich benachrichtigt werden müssten, sieht das Unternehmen sie nicht. Die vom Gericht verlangte Verkaufsanzeige erschien am 9. November in der Zeitung USA Today, ohne den Namen Character.ai zu nennen, wie PPC Land aus der Gerichtsakte berichtet.
Vom Hoffnungsträger zum Insolvenzfall
Character.ai wurde 2021 von früheren Google-Entwicklern gegründet und galt laut t3n einst als rund eine Milliarde Dollar wert. Google holte 2024 die Gründer zurück und zahlte 2,7 Milliarden Dollar für eine Lizenz an der Technik, berichtet Engadget. Vor der Insolvenz wechselte zudem ein Großteil der Belegschaft samt früherem Chef zu Disney (TechCrunch).
Zurück blieb eine Plattform mit Millionen Konten und sehr persönlichen Gesprächen. Nach Angaben der Generalstaatsanwälte waren in den USA allein 2,1 Millionen Konten als Konten von Minderjährigen registriert (AI Affairs).
Finanziert hat sich die Plattform zuletzt stark über Werbung. Im August brachten Anzeigen laut der Erklärung des Firmenchefs vor Gericht rund 2,5 Millionen Dollar ein, fast die Hälfte des Monatsumsatzes, während das Unternehmen etwa acht Millionen Dollar im Monat verlor (PPC Land). Ein werbefinanzierter Dienst hat naturgemäß Interesse an Nutzerprofilen.
Warum Chatbot-Daten heikler sind als Kundendaten
Dass insolvente Firmen Kundendaten verkaufen, ist nicht neu. Bei KI-Begleitern wiegt es aber schwerer. Calli Schroeder vom Electronic Privacy Information Center (Epic) sagt der BBC, Menschen gäben einer personifizierten KI deutlich mehr Persönliches preis als anderen Diensten. Das trifft auch Unbeteiligte: Wer einem Chatbot vom Coming-out eines Freundes oder vom Streit mit der Mutter erzählt, macht diese Menschen zum Teil des Datensatzes.
Hinzu kommt die Datenschutzerklärung. Laut BBC erlaubt sie, Nutzerdaten für neue Funktionen, für das Training von KI-Modellen und für Werbeprofile zu verwenden. Ein Käufer muss sich in der Regel an diese Erklärung halten, darf damit aber genau das. Insolvenzen stünden zudem oft ausdrücklich unter den Ausnahmen, in denen Zusagen nicht mehr gelten, sagt Schroeder.
Auch die Generalstaatsanwälte sehen hier ein Problem. Zu ihren Bedingungen für einen Käufer gehören laut AI AffairsAlterskontrollen und ein Verbot, dass Chatbots sich als Ärzte, Therapeuten oder andere zugelassene Fachleute ausgeben.
Wie sensibel der Bestand ist, zeigen die Klagen der vergangenen Jahre. In Florida verklagte eine Mutter das Unternehmen nach dem Suizid ihres 14-jährigen Sohnes. In Texas soll ein Chatbot einem Jugendlichen nahegelegt haben, seine Eltern umzubringen, berichtet Engadget. Character.ai und Google haben sich im Januar mit den Familien verglichen, die Bedingungen sind nicht bekannt (Euronews). Die zugehörigen Chatverläufe gehören laut BBC zum Datenbestand, der nun den Besitzer wechseln könnte.
Die Gegenthese: Der Datenschutz endet nicht mit der Pleite
Man kann den Fall gelassener sehen, und diese Sicht verdient eine faire Darstellung. Character.ai versichert, seine Datenschutzpraxis sei unverändert. Ein Anwalt des Unternehmens erklärte laut Seoul Economic Daily, für Nutzerdaten oder das Chatbot-Geschäft lägen bislang keine Kaufangebote vor.
Die wichtigsten Argumente derer, die vor Alarmismus warnen:
- Ein Käufer übernimmt in der Regel die bestehende Datenschutzerklärung. Beim Gentest-Anbieter 23andMe genehmigte ein Gericht 2025 den Verkauf an die Organisation TTAM, die zusagte, die Datenschutzversprechen samt Löschmöglichkeit einzuhalten (Foley Hoag).
- Die Bundesstaaten passen auf. 40 Generalstaatsanwälte aus 39 Bundesstaaten und dem District of Columbia haben am 14. Oktober Bedingungen für jeden Käufer angemeldet, darunter Grenzen für das KI-Training mit privaten Chats und wirksame Werbe-Widersprüche (Generalstaatsanwaltschaft New York).
- Nutzer können selbst handeln. Export und Löschung funktionieren laut Unternehmen weiterhin über App und Website (ai-Blog).
- Der bislang einzige bekannte Bieter will keine Nutzerdaten. Disneys Gebot schließt Chats und Konten ausdrücklich aus (Forbes).
Die Insolvenzrechtlerin Melissa Jacoby von der University of North Carolina dämpft allerdings die Erwartungen an die Staaten. Ohne strengere Datenschutzgesetze in den USA sei deren Spielraum begrenzt, sagt sie der BBC.
In Europa sind die Regeln strenger. Auch hier würden Daten in Insolvenzen verkauft, der Käufer müsse sich aber an die ursprüngliche Datenschutzerklärung halten, schreibt die BBC. Beim Fall 23andMe wies das Unternehmen darauf hin, dass es der DSGVO unterliegt und europäische Kunden die Löschung ihrer Daten verlangen können (netzpolitik.org).
Warum mich das nicht beruhigt
Die Bindung an die alte Datenschutzerklärung ist ein schwacher Trost, wenn diese Erklärung Training und Werbeprofile bereits erlaubt. Der Fall 23andMe zeigt zudem die Kehrseite: Nach Einschätzung der Kanzlei Foley Hoag bestätigt er, dass solche Verkäufe mit wenig oder gar keiner neuen Einwilligung der Kunden möglich sind.
Auch das Verfahren stimmt mich skeptisch. Das Gericht hat die Bieterregeln Anfang November festgelegt. Einen Datenschutz-Ombudsmann, wie ihn Bundesstaaten und der US-Treuhänder gefordert hatten, hat es laut Afterlife nicht eingesetzt, sondern nur nachdrücklich empfohlen. Die Bedingungen der Generalstaatsanwälte tauchen laut PPC Land weder in der Verkaufsanzeige noch im Mustervertrag für die übrigen Vermögenswerte auf. Dazu gehört die Forderung, allen Nutzern vor einem Verkauf ihrer Daten die Gelegenheit zur Löschung zu geben.
Und das Löschrecht nützt nur denen, die davon wissen. Ein Datenexport bei Character.ai dauert nach Angaben des Unternehmens drei bis vier Wochen. Wer erst jetzt von der Pleite erfährt, wird knapp, denn die Bieterfrist endet schon am 24. November.
Fazit: Chatverläufe gehören nicht in die Konkursmasse
Mein Fazit zur Character.ai Insolvenz: Das Problem ist nicht diese eine Firma, sondern eine Lücke. Gespräche mit einer KI sind oft so intim wie ein Tagebuch, werden rechtlich aber behandelt wie eine Kundenkartei. Solange eine alte Datenschutzerklärung genügt, um sie weiterzuverkaufen, tragen die Nutzer das Risiko jeder Pleite.
Ich halte deshalb zwei Dinge für nötig. Chatverläufe sollten bei einem Verkauf nur mit neuer, ausdrücklicher Zustimmung den Besitzer wechseln dürfen. Und wer KI-Begleiter für Millionen Menschen betreibt, sollte vorab festlegen müssen, was im Fall einer Insolvenz mit diesen Daten geschieht. Das gilt für die USA, aber ebenso für Europa, wo dieselben Apps genutzt werden.
Die DSGVO gibt Europäern zwar ein Recht auf Löschung. Doch ein Recht, das man erst in letzter Minute und auf Englisch in einem Menü findet, schützt im Ernstfall kaum. Anbieter sollten Nutzer bei einer drohenden Übergabe ihrer Daten aktiv und verständlich informieren müssen, nicht über eine Zeitungsanzeige, die den Namen der App verschweigt.
Was jetzt ansteht
Die nächsten Wochen entscheiden. Einsprüche gegen den Verkauf sind bis 18. November möglich, Gebote bis 24. November. Am 1. Dezember soll die Auktion stattfinden, am 3. und 4. Dezember entscheidet das Gericht über den Verkauf (PPC Land). Findet sich niemand, der die Plattform weiterbetreibt, will Character.ai sie abwickeln. Abgeschlossen sein muss der Verkauf laut Afterlife spätestens am 17. Dezember.
Was Nutzer jetzt tun können
Wer Character.ai genutzt hat, sollte zuerst seine Daten anfordern: im Web über Profil, Profileinstellungen, Konto und „Manage Account & Data“, dann „Export Data“. Erst danach empfiehlt es sich, das Konto zu löschen, denn die Löschung ist endgültig (Notebookcheck). In der App führt der Weg über das Profil, das Zahnrad-Symbol und „Legal & Privacy“. Wer ein Abo über App Store oder Google Play bezahlt, sollte es dort zusätzlich kündigen.
Grundsätzlich lohnt der Blick auf jeden Dienst, der sensible Informationen hält: Wer ihn nicht mehr nutzt, sollte seine Daten dort löschen. Wie Chatbots generell mit privaten Angaben umgehen, zeigt unser Überblick zu KI-Chatbots und Datenschutz [CN-LINK-2].
