iOS 15.2 mit Communication Safety für Messages

Das Kinderporno-Scanning von Fotos direkt auf dem iPhone mit Hash-Vergleich stiess bekanntermassen auf heftigsten Widerstand und wurde als Vorstufe zur Totalüberwachung tituliert, worauf Apple diesen Plan vorerst auf Eis legen musste. Voraussichtlich schon mit der demnächst kommenden Version 15.2 von iOS soll aber ein anderer Teil der geplanten Kinderschutzmassnahmen Realität werden: der Nacktfotofilter für die systemeigene Messaging-App Messages. Apple nennt das Feature Communication Safety, und es ist in der aktuellen zweiten iOS-15.2-Beta enthalten.

Eltern können den Filter auf den Geräten ihrer Kinder per Family Sharing aktivieren. Bilder in iMessages werden dann von der KI direkt auf dem Gerät des Kindes analysiert. Zeigt ein Bild zu viel nackte Haut, wird es verschwommen dargestellt und mit einer Warnung versehen, es handle sich um möglicherweise sensible Inhalte. Die Empfänger solcher Bildnachrichten können entscheiden, ob sie das Bild trotzdem unzensiert sehen wollen.


Was in der neuen Variante der Nacktfoto-Filterfunktion nicht mehr enthalten ist: Es erfolgt keine automatische Meldung an die Eltern, wenn in einem iMessage oder MMS ein solcher sensibler Inhalt auftaucht. Kinderschutzorganisationen haben sich zu Apples früherer Absicht, die Eltern automatisch zu informieren, negativ geäussert – es könne Kinder gefährden, die in einer Missbrauchssituation leben. Stattdessen können die Kinder bei der neuen Version des Features selbst entscheiden, ob sie eine Vertrauensposition ihrer Wahl über sensible Inhalte informieren wollen. (ubi)