Menores de idade podem usar a nova ferramenta “Take It Down” do NCMEC para sinalizar material explícito deles mesmos que foi – ou que eles acham que será – compartilhado online.
Getty Images
A Meta está financiando um esforço nacional para ajudar crianças e adolescentes a remover suas imagens de nudez ou sexo explícito das mídias sociais. O próprio movimento da gigante em direção à criptografia de ponta a ponta poderia atrapalhar?
TCentro Nacional para Crianças Desaparecidas e Exploradas lançou uma plataforma, financiada pela Meta, para ajudar crianças e adolescentes a remover fotos e vídeos nus ou sexuais de si mesmos das redes sociais.
O novo serviço para menores, denominado Detenha-o, foi lançado um ano após o lançamento de uma ferramenta semelhante para adultos conhecida como PararNCII (abreviação de imagens íntimas não consensuais). Hoje, o Take It Down funcionará apenas em cinco plataformas que concordaram em participar: Facebook e Instagram, de propriedade da Meta, além de Yubo, OnlyFans e Pornhub.
“Criamos esse sistema porque muitas crianças estão enfrentando essas situações desesperadoras”, disse a presidente e CEO do NCMEC, Michelle DeLaune. “Nossa esperança é que as crianças conheçam esse serviço e sintam uma sensação de alívio por existirem ferramentas para ajudar a remover as imagens.”
Como as empresas de mídia social estão protegendo crianças e adolescentes - e onde estão falhando - surgiu como uma das principais questões de política tecnológica bipartidária no novo Congresso, e onde os legisladores têm a melhor chance de aprovar a legislação. Ainda assim, há um longo caminho pela frente para qualquer proposta de criação ou fortalecimento de salvaguardas e, sem leis iminentes, o NCMEC continua a atuar como uma ponte entre as empresas on-line e a aplicação da lei em questões de segurança infantil. Em 2021, a organização sem fins lucrativos recebeu quase 30 milhões de dicas de todo o setor sobre aparente sextortion e material de abuso sexual infantil em suas plataformas. A maioria foi relatada por plataformas de propriedade da Meta.
Menores e pais podem usar Ferramenta gratuita e anônima do NCMEC para sinalizar material explícito de uma pessoa menor de idade que foi - ou que eles acham que será - espalhado online. Depois de selecionar as fotos ou vídeos confidenciais em seu dispositivo, a plataforma gera o equivalente a uma impressão digital dessa foto (chamada de “hash”) que o NCMEC compartilha com os sites de mídia social participantes para que eles possam tentar encontrar, restrinja ou remova e continue monitorando esse conteúdo.
As fotos ou vídeos em questão não saem do dispositivo e não são vistos por ninguém, de acordo com o NCMEC. (O hash também mantém as vítimas não identificáveis tanto para o NCMEC quanto para o aplicativo de mídia social, sinalizando apenas que uma imagem é prejudicial e deve ser removida.) O NCMEC disse que não houve violações conhecidas de seu banco de dados de hash que poderiam expor a identidade de um indivíduo .
Mas um dos maiores obstáculos para esse esforço é o surgimento da criptografia de ponta a ponta. “Quando as empresas de tecnologia implementam criptografia de ponta a ponta, sem medidas preventivas incorporadas para detectar material conhecido de abuso sexual infantil, o impacto na segurança infantil é devastador”, disse DeLaune, presidente do NCMEC, ao Comitê Judiciário do Senado em uma audiência neste mês . O elefante na sala é que o financiador e a empresa mais proeminente envolvida no Take It Down, Meta, é movendo-se em um clipe em direção à criptografia de ponta a ponta Tanto no Instagram quanto no Messenger.
Como as duas organizações podem conciliar isso é "a questão de um milhão de dólares", disse o vice-presidente do NCMEC, Gavin Portnoy Forbes, observando que o NCMEC ainda não sabe exatamente quais são os planos da Meta para criptografia e quais salvaguardas podem estar em vigor. (Meta disse que é um trabalho em andamento e que vários recursos de criptografia estão sendo testados no Instagram e no Messenger.)
“Estamos construindo o Take It Down para a forma como a internet e o [provedor de serviços eletrônicos] estão situados hoje”, disse Portnoy. “Essa é realmente uma ponte que teremos que cruzar quando tivermos uma melhor compreensão de como é o ambiente de criptografia de ponta a ponta [da Meta] – e se há um mundo onde o Take It Down pode funcionar.”
A chefe global de segurança da Meta, Antigone Davis, disse Forbes que “a criptografia fará com que certas imagens não sejam identificadas por nós”, mas que está se tornando um padrão da indústria em mensagens que é vital para a privacidade e segurança do usuário. Usar a tecnologia hash e apoiar o NCMEC em projetos como este estão entre as várias maneiras pelas quais a Meta está tentando “realmente enfrentar o problema”, disse ela. (Ambas as partes se recusaram a dizer quanto dinheiro a Meta deu ao NCMEC para construir o Take It Down.)
“Não há panacéia para lidar com essas questões”, disse Davis em uma entrevista, descrevendo a abordagem da Meta como “multifacetada”. Além de colaborar com esse novo sistema destinado a impedir o sextortion e a disseminação não consensual de imagens íntimas, o Meta não permite que estranhos adultos se conectem com menores por meio de seus recursos de mensagens, disse ela. Também está usando classificadores para evitar que contas e conteúdo de menores sejam enviados a usuários adultos do Meta que exibiram comportamento suspeito online, acrescentou ela.
“Espero que as pessoas que tiveram imagens assim compartilhadas quando eram jovens por alguém - por um pai que as explorava, por outro adulto que as explorava, por um ex-namorado ou namorada - se sintam interessadas em usar esta ferramenta”, disse Davis.
O NCMEC disse que lançou alguns 200 outros provedores de serviços eletrônicos que enviaram informações ao seu “CyberTipline” sobre a adesão ao programa Take It Down. Resta saber quem mais - além do pequeno punhado de players de mídia social que o defendem hoje - entrará a bordo. A Yubo, por sua vez, disse que espera que esses primeiros usuários incentivem outros a aderir.
“É preciso mais do que apenas a intervenção do governo para mitigar riscos e resolver problemas online”, disse o CEO da Yubo, Sacha Lazimi, por e-mail. “Todos os atores precisam desempenhar seu papel. … A colaboração é a chave para identificar soluções para grandes desafios, então esperamos ver mais plataformas se juntando à iniciativa Take It Down.”
Fonte: https://www.forbes.com/sites/alexandralevine/2023/02/27/meta-ncmec-minors-take-it-down-ncii/