Na Tesla e em outras grandes empresas de tecnologia, não são as máquinas, mas as suposições por trás delas que estão causando problemas

Novas tecnologias sempre trazem à tona nervosismo. Em 370 aC, Platão refletiu em seu livro Fedro que a crescente “tendência” para a escrita faria com que os homens perder toda a sua sabedoria retida. Na década de 1880, temia-se que os botões elétricos, de todas as coisas, nos levassem a perder nossa criatividade por deixando um botão fazer uma tarefa para nós. Em nossa geração, existe um medo profundo de que qualquer exposição a videogames apodreça cérebros de crianças. Tais teorias muitas vezes acabam se mostrando erradas. Mas, às vezes, o que esperávamos que permanecesse no reino da ficção científica se torna realidade.

Recebemos dois lembretes muito fortes sobre os perigos da adoção desenfreada de tecnologia nos últimos meses. Nossos piores pesadelos se tornaram realidade e vidas foram irreparavelmente prejudicadas:

• Poucas horas depois de o líder da Tesla, Elon Musk, divulgar seus carros autônomos no Twitter, um Tesla em modo autônomo decidiu parar ao lado da Bay Bridge, uma via rápida de 4 pistas e causou um acidente de 8 carros ferindo 9 pessoas, incluindo uma criança de 2 anos. Este é um dos centenas de acidentes causados ​​pelos sistemas autônomos da Tesla, levando a 19 mortes desde 2016.
• Randall Reid estava a caminho de um jantar de Ação de Graças atrasado com sua mãe quando a polícia o parou e o colocou na prisão por uma semana depois. software de reconhecimento de rostos o sinalizou como suspeito em um caso de roubo de bolsa de luxo na Louisiana. O único problema? Ele nunca tinha pisado no estado. Mas, o morador da Geórgia de 28 anos é afro-americano - e o software de reconhecimento facial foi amplamente criticado por sua incapacidade de distinguir com precisão entre rostos negros.

“Eles me disseram que eu tinha um mandado de Jefferson Parish. Eu disse, 'O que é Jefferson Parish?'” Reid anotado para a AP. “Nunca estive na Louisiana um dia sequer na minha vida. Então eles me disseram que era por roubo. Portanto, não apenas não estive na Louisiana, como também não roubo.

Talvez não em defesa de Elon Musk, mas a título de explicação, ele muitas vezes notou que seu objetivo altruísta é reduzir o número de acidentes de trânsito e mortes, tornando os carros mais inteligentes que os humanos. E que, para tornar esses carros mais inteligentes, eles podem precisar mudar rápido (literalmente) e quebre algumas coisas (também, literalmente) em estradas reais.

É aqui que alguém pode se alinhar com seus objetivos - estradas mais seguras - mas contestar seus métodos - experimentação humana. Passamos de testar remédios em humanos – sem o consentimento deles, no caso de Alemanha nazista e os votos de Tuskegee “estudos” – para ratos, que não podem consentir – para indústrias como cosméticos aprendendo a testar produtos sem o custo de vidas, humanas, animais ou outras. A tecnologia pode ser testada sem prejudicar as pessoas ao longo do caminho? É aqui que nós - e os órgãos reguladores do governo - podemos fazer escolhas sobre os tipos de experimentos aos quais estamos dispostos a submeter nossos cidadãos.

E então, no caso da inteligência artificial, houve uma preocupação razoável expressa de que, no contexto das equipes de tecnologia que geralmente carecem da diversidade de nosso mundo global, onde mais de 85% das pessoas vivem na Ásia, África e América Latina, existe a possibilidade de dano significativo que pode ser feito se as tecnologias falham em incorporar a diversidade em seus projetos. Pessoas como Timnit Gebru com Preto em IA estão fazendo o trabalho duro de tentar manter as pessoas por trás das máquinas responsáveis, mas enfrentou muitos ventos contrários dadas as forças econômicas que controlam grande parte dessa pesquisa.

Não precisamos voltar aos cavalos e charretes se rejeitarmos os carros autônomos. O que PODEMOS fazer é defender um novo lema tecnológico para a próxima década: “mova-se devagar e quebre menos”.

Da mesma forma, Hermant Tenaja escreveu no Harvard Business Review, “Produtos mínimos viáveis” devem ser substituídos por “produtos virtuosos mínimos” – novas ofertas que testam o efeito nas partes interessadas e criam proteções contra possíveis danos”. Ele oferece oito perguntas que os empreendedores de tecnologia de hoje devem fazer, incluindo:

• Que mudança social sistêmica você deseja criar com seu produto?
• Como você sustentará a virtude de seu produto?
• Qual é a sua estrutura para alavancar dados e IA com responsabilidade?
• Como você define e promove a diversidade no contexto do seu negócio?

Os empreendedores podem refletir sobre essas questões para seus produtos. E então, para os consumidores, antes de virar a cara para o melhor e mais recente serviço de geração de avatares, pode ser sensato pensar duas vezes sobre como isso pode voltar a prejudicá-lo. Não precisamos ignorar a tecnologia — mas talvez possamos aprender a ser consumidores de tecnologia muito mais conscientes.