Eine neue App auf Android-Geräten verunsichert die Nutzer:innen: Wie ZDNet berichtet, wurde Safety Core im Oktober 2024 mit einem Sicherheitsupdate von Google eingeführt. Die Anwendung soll sensible Inhalte wie Nacktfotos automatisch erkennen und unkenntlich machen. Kritiker:innen sehen darin aber einen problematischen Eingriff in die Privatsphäre.

Safety Core ist eine von Google entwickelte Systemkomponente für das Smartphone-Betriebssystem Android 9 und neuere Versionen. Die App funktioniert als eine Art On-Device-Scanner und soll es ermöglichen, Bilder direkt auf dem Gerät auf bestimmte Inhalte zu prüfen. Wenn die Funktion aktiviert ist und ein Bild, das Nacktheit enthalten könnte, versendet oder weitergeleitet werden soll, erscheint ein Hinweis, der an die Risiken erinnert und ein versehentliches Teilen verhindert. Die Anwendung erkennt auch, wenn Nacktbilder per Messenger empfangen werden und blendet diese auf Wunsch aus.

Mit Safety Core verfolgt Google das Ziel, Nutzer:innen vor unangemessenen Inhalten zu warnen. Dabei handelt es sich um eine On-Device-Technologie, das heißt, die Bildanalyse findet direkt auf dem Smartphone statt und es werden keine Daten an externe Server gesendet. Google betont, dass Safety Core eine rein optionale Funktion und nicht standardmäßig aktiviert sei.

Trotz der vermeintlichen Sicherheitsvorteile hat die Einführung von Safety Core einen entscheidenden Nachteil – und das ist die mangelnde Transparenz. Besonders umstritten ist, dass die App auf vielen Android-Geräten ohne ausdrückliche Zustimmung der Nutzer:innen installiert wurde. Viele fragen sich, welche Bilder analysiert werden und ob die Ergebnisse irgendwo gespeichert werden. Unklar ist auch, ob und inwieweit die App Informationen mit anderen Google-Diensten austauscht.

Auch der Konkurrent Apple hat mit neuen Funktionen, die ebenfalls auf automatischer Bilderkennung basieren, bereits für viel Kritik gesorgt: Mit iOS 18.2 und MacOS 15.2 hat das Unternehmen eine neue KI-Funktion namens „Erweiterte visuelle Suche“ eingeführt, die direkt in die Fotos-App integriert ist. Während viele andere KI-Funktionen von Apple lokal auf dem Gerät laufen, ist für die „Erweiterte visuelle Suche“ allerdings ein Datenaustausch mit Apple-Servern notwendig.

1. Öffne die Einstellungen-App auf dem Smartphone
2. Wähle den Menüpunkt „Apps“ oder „Apps & Benachrichtigungen“
3. Klicke auf „Alle Apps anzeigen“, anschließend kannst du über das Drei-Punkte-Menü die System-Apps einblenden
4. Suche nach Safety Core und öffne die App
5. Falls möglich, kannst du die App hier deinstallieren – ist der Punkt nicht verfügbar, kannst du sie nur deaktivieren

Es kann allerdings vorkommen, dass Safety Core durch Systemupdates wieder installiert wird. In diesem Fall muss die Deinstallation erneut durchgeführt werden. Eine andere Möglichkeit ist, der App die Berechtigungen zu entziehen, insbesondere den Internetzugang.

Auch Apple hat mit iOS 18.2 eine neue Funktion eingeführt, die Nacktbilder automatisch erkennt und unkenntlich macht. Das geschieht ebenfalls lokal auf dem Gerät und dient in erster Linie dem Jugendschutz. In Australien ist die Funktion bereits aktiv: Dort fiel die Einführung mit einer Verschärfung der nationalen Gesetze zusammen, die vorsieht, dass Tech-Konzerne die von ihnen betriebenen Cloud-Speicher- und Messenger-Dienste auf problematische Inhalte überwachen.

Die aktuellen Entwicklungen zeigen, dass Anbieter wie Google und Apple versuchen, ihre Geräte und Dienste sicherer zu machen. Allerdings sollte dieses Bestreben nicht auf Kosten der Nutzer:innen erfolgen. Kritiker:innen bemängeln, dass neue Funktionen transparenter gestalten werden müssen. Am Ende sollte den Kund:innen selbst die Entscheidung überlassen werden, ob sie neue KI-Features wie Safety Core nutzen wollen oder nicht.