Das chinesische Startup Deepseek hat die KI-Branche direkt nach der Ankündigung ins Wanken gebracht. Allem voran, weil die Entwickler damit gezeigt haben sollen, wie günstig und effizient die KI-Herstellung sein kann. Mittlerweile bröckelt die Fassade von Deepseek ein wenig. So wird mittlerweile etwa angezweifelt, dass Deepseek wirklich so energiesparend ist, wie es die Verantwortlichen angegeben haben.

Zudem gibt es immer weitere Sicherheitsbedenken und Verbote rund um Deepseek. Damit ihr den Überblick behalten könnt, haben wir euch hier die wichtigsten Entwicklungen festgehalten.

Zahlreiche Sicherheitsexpert:innen haben Bedenken zu Deepseek geäußert. Diese drehen sich vor allem um drei zentrale Schwerpunkte: Datenschutz, schädliche Outputs und Cybersecurity. Zunächst sehen viele Expert:innen Probleme beim Datenschutz. So kritisierte das BSI Deepseek, weil Tastatureingaben innerhalb der App mitgelesen werden könnten, bevor sie überhaupt an die KI geschickt werden. Da die Eingaben ebenfalls per KI verarbeitet werden, könnten daraus Profile der Nutzer:innen erstellt und gespeichert werden.

Der Datenschutz ist laut Sicherheitsexpert:innen weiterhin fraglich, weil die Daten auf chinesischen Servern gespeichert werden. Diese waren in der Vergangenheit immer wieder das Ziel von Cyberangriffen, da die Server in nur wenigen Fällen ausreichend gegen Angriffe geschützt sind. So könnten Deepseek-Nutzerdaten schließlich bei Cyberkriminellen landen. Dieser Umstand wird laut Expert:innen dadurch weiter vorangetrieben, da es sich bei Deepseek um ein Open-Source-Modell handelt. Angreifer:innen können so einfacher Schwachstellen identifizieren und ausnutzen.

Andere Sicherheitsbedenken umfassen die Outputs, die Deepseek generiert. So ignoriert die KI kritische Fragen zur chinesischen Regierung und beantwortet diese stattdessen mit Propaganda. Die Sicherheitsexpert:innen von Cisco haben die KI zudem auf ihre Widerstandsfähigkeit gegen Jailbreaks getestet. Jailbreaks hebeln die Sicherheitsvorkehrungen auf, die etwa Antworten zu kriminellen Aktivitäten, Desinformationen oder schädlichem Verhalten verhindern. Das Ergebnis: Alle Attacken auf Deepseek legten die KI offen und ließen schädliche Antworten zu.

Eines der ersten Länder, die Deepseek verboten haben, war Italien. Der Grund: Die Regulierungsbehörde Garante hatte zunächst einen Fragenkatalog an das chinesische Unternehmen geschickt, der sich um den Datenschutz drehte. Als Deepseek antwortete, dass sich das KI-Unternehmen nicht gegenüber Garante rechtfertigen müsse, wurde die App kurzerhand in Italien gesperrt. Ähnlich erging es in Italien auch ChatGPT, das erst wieder zugelassen wurde, als die Datenschutzbestimmungen angepasst wurden.

Auch Südkorea hat sich dazu entschieden, Deepseek aus den App-Stores zu entfernen. Allerdings zeigt sich Deepseek in diesem Fall wohl offener für Anpassungen des Datenschutzes. Dieser Vorgang soll eine Weile in Anspruch nehmen, aber realisiert werden, damit die KI wieder in Südkorea genutzt werden kann. Einen nicht ganz so weitreichenden, aber dennoch drastischen Schritt haben Australien und Taiwan vorgenommen. Dort darf Deepseek nicht mehr auf Smartphones von Regierungsmitarbeiter:innen installiert oder auf Regierungscomputern genutzt werden, wie BBC berichtet.

Wie Heise berichtet, wird ein solches Verbot auch in den USA angestrebt. Dort fordern einige Abgeordnete, dass Deepseek nicht mehr von Regierungsmitarbeiter:innen genutzt werden darf. Ein Senator geht sogar noch weiter und will Deepseek für alle US-Einwohner:innen verbieten – und fordert hohe Strafen bei Verstößen gegen seinen Gesetzesentwurf.