iOS: Kindersicherung verhindert harmlose Suchanfragen
Alles, was das Wort «asian» enthält, ist Pornografie: Die Kindersicherung bei iOS verhindert untere anderem die Suche nach «asian food».
Das Wichtigste in Kürze
- Apples Jugendschutzfunktion verhindert das Anzeigen bestimmter Suchresultate im Browser.
- Der Algorithmus identifiziert Begriffe als nicht jugendfrei – darunter «asian» und «teen».
- Dadurch werden harmlose Suchen nach «asian food» oder «teen mental health» verunmöglicht.
Apple nimmt den Schutz der Jugend ernst – zu ernst vielleicht: Die Kindersicherung des neuen Apple-Betriebssystems verhindert, dass bei der Google-Suche nach Erwachsenen-Inhalten etwas angezeigt wird.
Eigentlich ist das eine anständige Funktion, die Kinder vor nicht kindgerechten Inhalten schützen soll. Doch wie Twitter-Nutzer Charlie Stigler herausgefunden hat, schiesst die Schutzfunktion deutlich übers Ziel hinaus.
Weird bad thing:
— Charlie Stigler (@charliestigler) February 18, 2020
iOS built-in adult content filter blocks all searches with the keyword "Asian,” assuming it's porn-related. Which means a 12 y/o Chinese-American girl might Google "Asian hairstyles" and find out that her culture is blocked as "adult content."
Sämtliche Suchanfragen, die das Wort «asian» enthalten, werden im Apple-Browser Safari blockiert. Für Apples Kinderschutz-Algorithmus sind alle Suchen mit dem Begriff «asian» Porno-Suchen. So kann nicht einmal nach «asian hairstyle» oder «asian food» gesucht werden, weil die Suchanfragen zu obszön sind.
«Teen» ist laut Filteralgorithmus von iOS ebenso wenig jugendtauglich. Charlie Stigler hat die Suche auf die Spitze getrieben und stellt fest: Sogar die unter Umständen lebensrettende Suche nach «teen mental health ressources» (Quellen zur psychischen Gesundheit von Jugendlichen) wird blockiert. Dabei ist Apples Algorithmus erschreckend inkonsequent – «teens» ist nämlich kein pornografischer Begriff.
iOS: Deutschsprachige Sperrfunktion ist weniger streng
Die Inkonsequenz setzt sich in der deutschsprachigen Jugendschutzfunktion fort. «Asian» ist ein Begriff aus der Erwachsenenunterhaltung, «asiatisch» anscheinend nicht. Bei der Suche nach den englischen Begriffen verhält sich der Filter gleich, wie in der englischsprachigen Funktion. Die deutsche Sprache ist anscheinend etwas weniger pornografisch.
Grundsätzlich ist Apples Anliegen verständlich. Doch die Implementierung der Funktion ist mehr als mangelhaft. Vom IT-Riesen Apple könnte man schon einen etwas differenzierteren Schutzalgorithmus erwarten.
