Conteúdo sugerido do Instagram e do Pinterest causou a morte

Morte do Algoritmo: À medida que avançamos em direção a uma vida imersiva no Metaverso, os alarmes estão soando. As empresas de tecnologia precisam colocar seus algoritmos em ordem, ou isso pode ser um futuro arriscado para alguns.

Embora ainda não estejamos na Web3, os problemas com a Web2 ainda são incrivelmente preocupantes. Enquanto algoritmos feitos por big tech podem ser bons para a sociedade, como aqueles que prever o crime com antecedência, há outros que são um desastre total.

O legista Andrew Walker identificou a causa da morte de Molly Rose Russell, de 14 anos, como um ato de automutilação. Ele disse que isso foi causado pela depressão e pelo impacto negativo do conteúdo online.

Caminhante dito que “não seria seguro para nós reconhecer o suicídio como a causa da morte”.

Morte do algoritmo: Instagram e Pinterest

O especialista disse que o Instagram e o Pinterest usavam algoritmos que selecionavam e compartilhavam conteúdo impróprio com a aluna sem que ela solicitasse a informação. Walker relata: “Alguns conteúdos romantizavam os atos de automutilação dos jovens, enquanto outros promoviam o isolamento e tornavam impossível discutir o problema com pessoas que poderiam ajudar”.

De acordo com Guardian, Russell salvou, curtiu ou postou mais de 2,000 postagens no Instagram em 2017 na véspera de sua morte. Todos estavam associados a suicídio, depressão ou automutilação. A menina também assistiu a 138 filmes de natureza semelhante. Entre eles estavam episódios da série 13 Razões para para maiores de 15 e 18 anos.

Um psiquiatra infantil disse durante a audiência que, depois de analisar o que Russell assistiu pouco antes de sua morte, ele não conseguiu dormir profundamente por semanas.

“10 pinos de depressão que você pode gostar”

Os investigadores encontraram centenas de fotos de automutilação e suicídio na conta da menina no Pinterest. Descobriu-se também que a plataforma enviou aos alunos e-mails recomendando conteúdo impróprio. Alguns deles tinham cabeçalhos dizendo: “10 pinos de depressão que você pode gostar”.

É provável que o material visto por Molly, já sofrendo de um transtorno depressivo e vulnerável a lesões relacionadas à idade, tenha tido um efeito negativo sobre ela. Também é provável que tenha contribuído mais do que minimamente para a morte da criança.

Funcionários do Meta e do Pinterest pediram desculpas e admitiram que Russell encontrou conteúdo nas plataformas que não deveriam estar lá. Um porta-voz da Meta disse: “Queremos que o Instagram forneça uma experiência positiva para todos, especialmente para os adolescentes. Vamos dar uma olhada no relatório completo do legista quando ele o entregar.”

O Pinterest afirmou que está constantemente aprimorando a plataforma e está comprometido em garantir segurança para todos.

Outros casos

TikTok foi processado em maio por supostas “recomendações letais” de seus algoritmos. Em dezembro de 2021, a assistente virtual da Amazon, Alexa propôs um desafio fatale para uma criança de 10 anos.

É um admirável mundo novo, mas também assustador. As grandes empresas de tecnologia não podem ser complacentes com o futuro papel que terão nessa questão.

Tem algo a dizer sobre a morte do algoritmo ou qualquer outra coisa? Escreva para nós ou participe da discussão em nosso Canal de telegrama. Você também pode nos pegar Tik Tok, Facebookou Twitter.

Aviso Legal

Todas as informações contidas em nosso site são publicadas de boa fé e apenas para fins de informação geral. Qualquer ação que o leitor tome com base nas informações contidas em nosso site é por sua própria conta e risco.