Eine Nachricht schreckte heute das Netz auf: Wenn man in Zukunft probiert, ein Bild in die iCloud hochzuladen, das vom Algorithmus als kinderpornografisch erkannt wird, werde dies ggf. von einem Mitarbeiter angesehen, der dann die Behörden informiert, das aber vorerst nur in den USA. Genau dargestellt ist dies unter apple.com/child-safety/, wo es auch weiterführende technische Beschreibungen zum Download gibt.
Wichtig ist: Bilder in der iCloud sollen nicht gescannt werden. Zumindest noch noch nicht. Und die Frage ist: Werden die Systeme, die dem Kampf gegen Kinderpornos dienen sollen, in Zukunft auch gegen andere Inhalte eingesetzt? Und wird irgendwann doch die iCloud gescannt? Was ist, wenn der Algorithmus falschen Alarm schlägt und eigentlich harmlose Strandfotos meldet? Jedenfalls wirft dies viele grundsätzliche Fragen auf.
Ganz neu ist das Thema aber nicht: Google scannte schon 2014, u.a. auch Gmail, mehr dazu hier. Microsoft hat anscheinend ganze Microsoft Accounts bei Verdacht auf Kinderpornographie automatisch gesperrt, auch wenn dies datenschutzrechtlich in der EU problematisch ist.
Das Thema wird uns jedenfalls noch lange begleiten und sicher komplexer werden.
Weitere Funktionen zum Schutz von Kindern
Noch der Vollständigkeit halber: Daneben fügt Apple übrigens übrigens weitere Methoden zum Schutz Kindern hinzu: iMessage wird bei Jugendlichen sexuell explizite Bilder unscharf dargestellt und eine Warnung anzeigen. Zudem können die Eltern aktivieren, dass sie eine Nachricht erhalten, wenn es das erkannte Bild dennoch betrachtet wird. „It’s your choice, but your Parents want to know you’re safe.“ Wird auf iPhones nach möglicherweise problematischen Inhalten zum Thema Kindesmissbrauch gesucht, werden die Apps und SIRI laut Apple „den Nutzern erklären, dass das Interesse an diesem Thema schädlich und problematisch ist, und Ressourcen von Partnern zur Verfügung stellen, um Hilfe bei diesem Problem zu erhalten.“
Auch hier könnte man Fragen stellen.
