ChatGPT erfindet Verbrechen: NOYB reicht Datenschutzbeschwerde gegen OpenAI ein
Dass ChatGPT halluziniert, ist bekannt. Meist geht es dabei um fehlerhafte Geburtsdaten oder erfundene Ehepartner:innen. Aber jetzt sieht sich OpenAI mit einer Datenschutzbeschwerde konfrontiert, die Regulierungsbehörden kaum ignorieren können. Laut einem Bericht von Techcrunch hat ChatGPT einen norwegischen Mann namens Arve Hjalmar Holmen schwer verleumdet, indem der Chatbot ihn fälschlicherweise als verurteilten Mörder seiner Kinder bezeichnete.
DSGVO-Verstöße können hohe Strafen nach sich ziehen
Eine kürzlich veröffentlichte Studie der Columbia Journalism Review zeigt, dass Chatbots bei der Websuche oft falsche Informationen liefern – und diese mit großer Überzeugung präsentieren. Besonders problematisch wird das, wenn es um reale Personen geht. OpenAI bietet keine Möglichkeit, fehlerhafte Angaben über Betroffene zu korrigieren, sondern lediglich die Option, bestimmte Anfragen zu blockieren. Dabei schreibt die DSGVO vor, dass personenbezogene Daten korrekt sein müssen und Betroffene ein Recht auf Berichtigung haben.
Die Datenschutzorganisation NOYB unterstützt die Beschwerde des Norwegers, der feststellen musste, dass ChatGPT ihm eine frei erfundene Straftat zuschrieb. Unterhalb der Eingabeleiste findet sich zwar ein Hinweis, dass ChatGPT Fehler machen kann, dieser alleine reiche aber laut Joakim Söderberg, Datenschutzanwalt bei NOYB, nicht aus. Ein bestätigter Verstoß könnte OpenAI teuer zustehen kommen: Laut DSGVO sind Geldstrafen von bis zu vier Prozent des weltweiten Jahresumsatzes möglich. Brancheninsider:innen schätzen den Umsatz von OpenAI für das Jahr 2025 auf etwa 11,6 Milliarden Dollar. Sollte die Klage erfolgreich sein, könnte die Strafe also rund 464 Millionen Dollar betragen.
ChatGPT halluziniert Straftaten herbei
Besonders besorgniserregend ist, dass unklar bleibt, wie ChatGPT zu diesen falschen Aussagen kommt. Auf die Frage nach Arve Hjalmar Holmen generierte die KI eine tragische Geschichte über einen angeblichen Doppelmord an seinen Kindern und eine 21-jährige Haftstrafe. Während diese Behauptungen frei erfunden sind, enthielt die Antwort allerdings korrekte Details: Sowohl die die Anzahl und das Geschlecht der Kinder stimmte, ebenso wie die Heimatstadt des Norwegers.
Die Expert:innen von NOYB recherchierten, ob der Chatbot den Mann eventuell verwechselte, konnten aber keine entsprechenden Zeitungsartikel finden. Auch Techcrunch testete ChatGPT erneut: Die Antworten fielen unterschiedlich aus – mal blieb der Chatbot vage, mal wurde Holmen als norwegischer Musiker bezeichnet.
Datenschutzklagen gegen OpenAI häufen sich
NOYB hat die Beschwerde bei der norwegischen Datenschutzbehörde eingereicht und hofft, dass diese den Fall übernimmt. OpenAI ist schon mehrfach ins Visier europäischer Regulierungsbehörden geraten: Im Jahr 2023 sperrte Italien ChatGPT vorübergehend, um mehr Transparenz über die Datenverarbeitung zu erzwingen. Die italienische Datenschutzbehörde verhängte später eine Geldstrafe von 15 Millionen Euro.
Andere Beschwerden – etwa aus Polen und Österreich – sind weiterhin unbearbeitet. Das deutet darauf hin, dass viele Datenschutzbehörden eine vorsichtige Strategie verfolgen, um langfristige Lösungen für den Umgang mit KI-Technologien zu finden. Ob OpenAI im Fall des Norwegers tatsächlich zur Rechenschaft gezogen wird, bleibt also abzuwarten.
