Cientistas da Universidade de Princeton (EUA) há vários anos desenvolvem um sistema semelhante ao que a Apple vai usar para detectar imagens de abuso infantil nos telefones dos usuários. Em sua opinião, a tecnologia pode ser perigosa.
O professor associado Jonathan Mayer e o estudante de pós-graduação Anunai Kulshresta têm trabalhado na ideia de um sistema de material de abuso sexual infantil (CSAM) por vários anos. Como a Apple, eles queriam restringir a distribuição de tal conteúdo, preservando a privacidade do usuário. Em outras palavras, o objetivo era analisar conteúdo em serviços online com criptografia ponta a ponta.
Depois de analisar o sistema, os cientistas criaram um protótipo funcional. E eles rapidamente chegaram à conclusão de que, qualquer que seja o resultado, essa tecnologia deixa um "problema gritante" sem solução. O sistema pode ser facilmente adaptado para resolver as tarefas de rastreamento de usuários e censura. No nível técnico, em nenhuma circunstância pode ser limitado a apenas um tipo de conteúdo - seu trabalho está totalmente subordinado ao conteúdo do banco de dados, com os elementos dos quais o conteúdo é comparado em dispositivos clientes.
Os autores do projeto esclarecem que este problema não é puramente hipotético. Por exemplo, pesquisadores do Citizen Lab da Universidade de Toronto descobriram um sistema de análise semelhante no mensageiro chinês WeChat, que usa um algoritmo semelhante para detectar materiais dissidentes. Dado que a China é o segundo maior mercado da Apple, nada pode impedir o governo local se ele decidir pedir à Apple que reaproveite o sistema para uso político. O fabricante americano tem se submetido repetidamente aos diversos requisitos de Pequim.
Finalmente, existem muitas dificuldades de natureza puramente técnica. Por exemplo, o sistema pode fornecer falsos positivos. E com certas habilidades, um invasor pode enganar o sistema direcionando sua ação contra qualquer usuário inocente.
2021-08-22 06:01:44
Autor: Vitalii Babkin