Wissenschaftler der Princeton University (USA) entwickeln seit einigen Jahren ein ähnliches System wie Apple, um Bilder von Kindesmissbrauch auf den Handys von Nutzern zu erkennen. Technologie kann ihrer Meinung nach gefährlich sein.
Der außerordentliche Professor Jonathan Mayer und die Doktorandin Anunai Kulshresta arbeiten seit mehreren Jahren an der Idee eines Systems für sexuellen Missbrauch von Kindern (CSAM). Wie Apple wollten sie die Verbreitung solcher Inhalte einschränken und gleichzeitig die Privatsphäre der Benutzer wahren. Ziel war es also, Inhalte in Online-Diensten mit Ende-zu-Ende-Verschlüsselung zu analysieren.
Nach der Analyse des Systems erstellten die Wissenschaftler einen funktionierenden Prototyp. Und sie kamen schnell zu dem Schluss, dass diese Technologie unabhängig vom Ergebnis ein "eklatantes Problem" ungelöst lässt. Das System kann leicht umfunktioniert werden, um die Aufgaben der Verfolgung von Benutzern und der Zensur zu lösen. Auf technischer Ebene kann es unter keinen Umständen auf nur eine Art von Inhalten beschränkt werden - seine Arbeit ist vollständig dem Inhalt der Datenbank untergeordnet, mit deren Elementen der Inhalt auf Client-Geräten abgeglichen wird.
Die Autoren des Projekts stellen klar, dass dieses Problem nicht rein hypothetisch ist. Forscher des Citizen Lab der Universität Toronto entdeckten beispielsweise ein ähnliches Analysesystem im chinesischen Messenger WeChat, das einen ähnlichen Algorithmus verwendet, um abweichende Materialien zu erkennen. Angesichts der Tatsache, dass China der zweitgrößte Markt für Apple ist, kann die lokale Regierung nichts aufhalten, wenn sie beschließt, Apple aufzufordern, das System für politische Zwecke umzufunktionieren. Der amerikanische Hersteller hat sich wiederholt den unterschiedlichen Anforderungen Pekings gestellt.
Schließlich gibt es viele Schwierigkeiten rein technischer Natur. Zum Beispiel kann das System falsch positive Ergebnisse liefern. Und mit bestimmten Fähigkeiten kann ein Angreifer das System täuschen, indem er seine Aktion gegen jeden unschuldigen Benutzer richtet.
2021-08-22 06:01:44
Autor: Vitalii Babkin