ChatGPT: Euer Löschen-Button ist jetzt wirkungslos – KI-Chats werden zu Beweismitteln
Das KI-Unternehmen OpenAI aus San Francisco im US-Bundesstaat Kalifornien wird ab sofort Konversationen, die Nutzer:innen in ChatGPT löschen, nicht mehr wie bisher nach 30 Tagen endgültig von seinen Systemen entfernen. Stattdessen werden diese Daten auf unbestimmte Zeit aufbewahrt.
Grund dafür ist eine gerichtliche Anordnung, die im Rahmen einer weitreichenden Urheberrechtsklage ergangen ist. Die Kläger, darunter die New York Times, werfen OpenAI nicht nur vor, ihre Artikel unerlaubt zum Training genutzt zu haben.
Ein zentraler Vorwurf lautet zudem, dass ChatGPT auf Anfrage in der Lage ist, geschützte Inhalte fast wortgleich auszugeben. Damit würde der KI-Bot zur direkten Konkurrenz für die Bezahlangebote der Verlage. Aus der Sorge heraus, dass Nutzer:innen Beweise für einen solchen Missbrauch – etwa die Umgehung einer Paywall – durch das Löschen ihrer Chats vernichten könnten, ordnete das Gericht die Datenspeicherung an.
Betroffene Nutzer:innen und die Art der Verwahrung
Betroffen sind praktisch alle Privatnutzer:innen sowie die meisten professionellen Anwender:innen ohne Enterprise-Vertrag. Sie gilt für alle Nutzer:innen der kostenlosen Version von ChatGPT sowie für Abonnent:innen der Tarife Plus, Pro und Team. Ebenso betroffen sind Entwickler:innen, die die OpenAI-API ohne eine spezielle „Zero Data Retention“-Vereinbarung (ZDR) nutzen.
Ausdrücklich ausgenommen sind hingegen Kund:innen der Angebote ChatGPT Enterprise und ChatGPT Edu sowie API-Nutzer:innen mit einem ZDR-Vertrag. Bei letzterem sichert OpenAI zu, Ein- und Ausgaben grundsätzlich nicht zu speichern. Laut OpenAI werden die nun aufzubewahrenden Daten in einem separaten, gesicherten System gespeichert, das einem sogenannten „Legal Hold“, also einer rechtlichen Aufbewahrungspflicht, unterliegt. Der Zugriff sei streng auf ein kleines, geprüftes Team innerhalb von OpenAI beschränkt und erfolge nur zur Erfüllung rechtlicher Vorgaben.
Ein heikler Präzedenzfall mit Blick auf die DSGVO
Obwohl OpenAI betont, dass die Daten nicht automatisch etwa an die New York Times weitergegeben werden, ist eine genau darauf gerichtete Zugriffsanfrage durch die klagenden Verlage der wahrscheinlich nächste Schritt im laufenden Verfahren. Das KI-Unternehmen selbst rechnet damit und kündigte an, sich juristisch dagegen zur Wehr zu setzen.
Allein die Speicherung der Daten für diesen Zweck und die potenzielle Möglichkeit eines Zugriffs werfen jedoch kritische Fragen auf – insbesondere für Nutzer:innen in Europa. Denn die erzwungene, unbegrenzte Speicherung von Daten steht im direkten Widerspruch zu fundamentalen Prinzipien der Europäischen Datenschutz-Grundverordnung (DSGVO).
Dazu zählen vorrangig das Recht auf Vergessenwerden (Art. 17 DSGVO) und der Grundsatz der Datenminimierung (Art. 5 DSGVO). Ein US-Gerichtsbeschluss hebelt hier also de facto zentrale Datenschutzrechte für europäische Bürger:innen aus. OpenAI selbst räumt diesen Konflikt indirekt ein. In einem Blogbeitrag zur neuen Regelung schreibt der OpenAI-COO Brad Lightcap, die Forderung der Kläger stehe nicht im Einklang mit den eigenen Datenschutzstandards des Unternehmens.
Was das für die Praxis bedeutet
OpenAI hat angekündigt, gegen die Anordnung Berufung einzulegen und bezeichnet die Forderung der New York Times als „übertriebene und unnötige Forderung“. Vorerst muss das Unternehmen dem Beschluss aber Folge leisten. Für die Praxis bedeutet das: Wer die betroffenen ChatGPT-Versionen nutzt, muss davon ausgehen, dass als gelöscht markierte Chats weiterhin auf den Servern von OpenAI verbleiben.
Wichtig ist dabei die Klarstellung von OpenAI, dass diese Änderung keinerlei Auswirkungen auf die Richtlinien zur Verwendung von Daten für das KI-Training hat. Nutzer:innen können weiterhin selbst bestimmen, ob ihre Inhalte zur Verbesserung der Modelle genutzt werden dürfen. Für Unternehmen, die auf OpenAI-Dienste setzen, unterstreicht dieser Fall jedoch eindrücklich den Wert einer Zero-Data-Retention-Vereinbarung, um die Kontrolle über die eigenen Daten und die der eigenen Kund:innen zu behalten.
Ein Eingriff, der in Europa kaum denkbar wäre
Für Beobachter:innen aus Europa wirkt dieser pauschale Speicherbefehl nicht nur befremdlich, sondern auch massiv übergriffig. Das Gefühl täuscht nicht, denn es prallen zwei Rechtskulturen aufeinander. Während das US-Recht im Rahmen der sogenannten Discovery sehr weitreichende Befugnisse zur Beweissicherung kennt, wäre ein solcher Eingriff hierzulande am Grundsatz der Verhältnismäßigkeit zu messen.
Ein Gericht in Deutschland oder der EU würde genau prüfen, ob die Speicherung der Daten von Millionen unbeteiligter Nutzer:innen das mildeste und erforderlichste Mittel ist. Die pauschale Sicherung aller Chats, von denen über 99 Prozent für den Fall irrelevant sein dürften, stünde hier mit hoher Wahrscheinlichkeit in keinem angemessenen Verhältnis zum Recht der Kläger auf Beweissicherung in einem Zivilrechtsfall. Genau auf diesen Punkt dürfte auch die Berufung von OpenAI abzielen; die Bezeichnung der Anordnung als „übertriebene Forderung“ ist im Kern nichts anderes als eine Klage über deren Unverhältnismäßigkeit.
Für Nutzer:innen in der EU stellt sich nun die Frage, wie die europäischen Datenschutzbehörden reagieren. Es ist zu erwarten, dass bei den zuständigen Behörden – federführend ist hier die irische Data Protection Commission (DPC) – in Kürze Beschwerden von Betroffenen und Datenschutzorganisationen eingehen werden.
Dies dürfte eine offizielle Untersuchung nach sich ziehen. OpenAI steckt damit in einer Zwickmühle zwischen den Anordnungen eines US-Gerichts und den Verpflichtungen aus der DSGVO. Am Ende eines solchen Verfahrens könnte die Anweisung an OpenAI stehen, die Datenspeicherung für EU-Bürger:innen zu beenden; empfindliche Bußgelder sind ebenfalls denkbar. Ein schnelles Ergebnis ist jedoch nicht zu erwarten. Solche rechtlichen Auseinandersetzungen ziehen sich erfahrungsgemäß über Monate oder gar Jahre.
OpenAI macht nichts Illegales, sie verwenden freie öffentlich zugängliche Texte. Diese kann jeder Lesen, Kopieren und bei sich local speichern. Hat also nicht mit einer Datenschutz verletzung zutun sondern damit das beispielsweise New York Times diese Artikel frei öffentlich zugänglich macht. Nicht mehr nicht weniger. Ist das selbe mit KI Musik. da haben die anderen auch keinen Rechtsanspruch weil jeder Menschen auf der Welt veröffentlichte Musik hören kann und genauso wie bei einer KI auch alle anderen Künstler von anderen Künstlern gelernt und sich inspiriert haben. Abgesehen davon gibt ChatGPT die Quellen an, schließt die Quellen von der Recherche also nicht gänzlich aus.
Ich finde, die Aussage ist etwas zu vereinfacht und lässt wichtige rechtliche Aspekte außer Acht. Nur weil Texte öffentlich zugänglich sind, bedeutet das nicht automatisch, dass sie frei für kommerzielle KI-Zwecke genutzt werden dürfen. Massenhaftes automatisches Scraping ist etwas völlig anderes, als wenn jemand einen Artikel liest.
Die New York Times und andere Medienhäuser klagen nicht ohne Grund – sie haben Anwälte, die sich damit auskennen. Wenn alles so klar legal wäre, wären diese Verfahren längst entschieden. Stattdessen ist die Rechtslage noch völlig offen.
Bei der Musik greift das Argument der Inspiration nicht, weil menschliche Kreativität und maschinelle Datenverarbeitung rechtlich unterschiedlich bewertet werden. Wenn eine KI Millionen von Songs analysiert und daraus neue generiert, ist das nicht dasselbe wie künstlerische Inspiration.
Und ChatGPT gibt standardmäßig keine Quellen an – das macht nur die Web-Suche-Funktion. Selbst wenn Quellen angegeben würden, löst das nicht das Problem der ursprünglichen Datennutzung.
Die Sache mit dem Datenschutz stimmt größtenteils, aber das Urheberrecht ist der zentrale Streitpunkt. Viele Websites haben Nutzungsbedingungen, die solche Verwendungen ausschließen. Das Ergebnis der laufenden Gerichtsverfahren wird zeigen, wie das rechtlich wirklich bewertet wird.