Eine neue Apple-Technologie identifiziert „sensible“ Aufnahmen während eines Videotelefonats und zeigt statt des Live-Bildes einen Warnhinweis an. Erst nach bewusster Entscheidung des Nutzers wird die Videoübertragung fortgesetzt. Die Funktion nutzt maschinelles Lernen und führt die Analyse direkt auf dem Gerät durch, ohne Daten an externe Server – inklusive derer von Apple – zu senden.

Die Nackterkennung ist Teil der sogenannten Communication-Safety-Funktionen, die Apple bereits mit iOS 16 eingeführt hat. Mit dem kommenden Update im Herbst erweitert das Unternehmen diese Schutzmaßnahmen, die bisher vorwiegend für Kinder konzipiert waren, auch für erwachsene Nutzer.

Apple hatte die Nackterkennung zunächst in iMessage implementiert, um Kinder vor unerwünschten Inhalten zu schützen. Die Funktion verhindert sowohl den Empfang als auch das Versenden intimer Aufnahmen.

Neben Facetime erhält auch die Fotos-App den neuen Schutz: Bei geteilten Alben soll die Funktion vor Missbrauch schützen. Obwohl Nutzer Einladungen zu geteilten Alben bestätigen müssen, könnten Absender ihre Identität oder den Zweck der Gruppe verschleiern. Künftig werden anstößige Bilder in solchen Gruppen automatisch ausgeblendet.

Die Warnung vor sensiblen Inhalten in Facetime ist standardmäßig deaktiviert und muss vom Nutzer in den Einstellungen aktiviert werden. Die Aktivierung erfolgt über die Einstellungen-App unter dem Menüpunkt „Facetime“ und der Option „Warnung vor sensiblen Inhalten“.

Entwickler können die Erkennungstechnologie seit iOS 17 und macOS 14 übrigens auch in eigene Apps integrieren. Das Framework „SensitiveContentAnalysis“ ermöglicht die Analyse von Bildern und gibt zurück, ob ein Inhalt als „sensibel“ eingestuft wird. Auf Basis dieser Information können Entwickler entsprechende Warnhinweise implementieren.