Por que você ainda não tem um carro autônomo? Esta série de 2 partes explica os grandes problemas restantes

As pessoas costumam perguntar: “Onde está meu carro autônomo?” “Por que não tenho um e quando virá?” Muitas pessoas sentem que lhes foi prometido um carro no final dos 20 anos e é tarde, e talvez não esteja chegando, como os carros voadores falados décadas atrás.

Nesta série de dois artigos (com vídeos que o acompanham), vamos ver os principais motivos pelos quais você provavelmente não está andando em um robocar hoje e quando isso pode acontecer. Quais são os principais problemas tecnológicos, legais e sociais que estão no caminho e quais problemas realmente não são bloqueadores?

Para a maioria de nós, esses carros não podem chegar aqui em breve. Eles têm a promessa de evitar uma fração decente dos acidentes de carro de hoje que matam mais de um milhão a cada ano em todo o mundo. Eles vão facilitar nossas vidas e reescrever os princípios do transporte. Ao fazer isso, eles reescreverão onde moramos e a própria natureza da cidade, bem como dezenas de outras indústrias, de energia a varejo. A cada dia que demoramos para colocar essas coisas na estrada em volume, milhares morrerão nas mãos de pessoas que não deveriam estar dirigindo. Todos os dias atrasamos.

Claro, é difícil

Para ser claro, a maior razão pela qual “está demorando tanto” é que é difícil. Um dos maiores projetos de pesquisa de software já realizados. Ele exigiu não apenas um software inovador, mas também toneladas de trabalho detalhado nas ervas daninhas, lidando com um grande número de casos especiais e mapeando o mundo e todas as suas rugas. Qualquer um que pensou ou acha que pode ser entregue dentro de um cronograma está errado e nunca trabalhou em software antes. Quando as empresas de automóveis lançaram datas como 2020, essas eram esperanças, não previsões, e que algumas empresas de tecnologia realmente conseguiram isso foi incrível. Projetos de vários anos que exigem avanços nunca são previstos com precisão.

Ninguém com experiência em software ficaria chocado se as previsões para um projeto tão grande feitas há muitos anos não fossem precisas. Portanto, as coisas não estão “atrasadas”, mesmo que não correspondam às esperanças otimistas. Isso também significa que as coisas estão sendo feitas em etapas menores.

O maior bloqueador, porém, não é realmente fazê-lo (ou seja, torná-lo seguro), mas saber que você o fez.

Provando que você realmente fez isso seguro

O primeiro objetivo tecnológico era apenas fazer acontecer. Para fazer um carro que pode dirigir-se com segurança. Essa é uma conquista enorme, mas pelo menos em algumas cidades, algumas empresas já conseguiram isso. Dirigir com mais segurança do que o ser humano médio tem sido feito por empresas como a Waymo nas ruas fáceis de Phoenix. Essa foi “a parte difícil” – mas uma parte ainda mais difícil é definir o que é segurança, medi-la e provar que você fez isso. Você precisa provar isso para si mesmo, para seu conselho, para seus advogados, para o público e talvez até para o governo. Assim como a vacina Moderna Covid estava pronta em fevereiro de 2020, antes do primeiro bloqueio, o mundo esperou 10 meses – enquanto um milhão de pessoas morreram sem ela – antes de permitir que as primeiras pessoas tomassem uma vacina. Esperamos que eles provassem que tinham feito isso.

Medir a segurança é muito difícil. Sabemos com que frequência motoristas humanos sofrem acidentes de todos os tipos, desde pequenos acidentes até fatalidades. Fatalidades acontecem a cada 80 milhões de milhas nos EUA, ou cerca de 2 milhões de horas de condução. Não podemos testar todas as versões de software dizendo: “Vamos fazê-lo dirigir um bilhão de quilômetros e ver se mata menos do que a dúzia de pessoas que morreriam se os humanos fossem tão longe”. É uma distância impossível de dirigir em estradas reais, mesmo uma vez, muito menos com cada nova versão. Podemos dirigir muito menos e contar mossas e pequenas colisões - na verdade, isso é o melhor que encontramos até agora porque é pelo menos possível - mas não temos certeza se isso se relaciona a lesões com robôs da mesma maneira faz com as pessoas.

Muitos começam da maneira tradicional da indústria automobilística. Eles testam cada componente de seus veículos para garantir que sejam confiáveis ​​e estejam de acordo com as especificações. Eles tentam fazer isso com sistemas de componentes, mas essa metodologia se torna difícil quando as coisas ficam mais complexas. Isso é chamado de segurança funcional – os componentes e sistemas estão livres de defeitos e eles lidarão com possíveis falhas conhecidas.

Mais recentemente, houve mais esforços para elevar isso a um nível de sistema e tentar testar a “segurança da funcionalidade pretendida”. Com o SOTIF, as equipes trabalham para garantir que sistemas inteiros ainda funcionem, tanto com problemas e falhas de componentes quanto com o uso indevido previsto. Isso geralmente envolve a simulação de todo o sistema, ou partes dele, ou simulação de “hardware in the loop” que é mais fácil e segura do que testes ao vivo nas estradas.

O teste de simulação oferece a capacidade de testar um sistema em milhões de cenários diferentes. Qualquer coisa que alguém já tenha visto, ouvido ou sonhado – com centenas de pequenas variações de todas essas coisas.

Talvez a coisa mais difícil de testar, mas a coisa que você mais quer saber, é quão bem um sistema responde a situações nunca antes vistas. Embora você possa criar testes de simulação para saber se o veículo se sai bem em quase todas as situações esperadas, uma grande habilidade mágica da mente humana é a capacidade de lidar com problemas nunca antes vistos. As IAs podem fazer isso, mas não são tão boas. Eventualmente, esperamos encontrar uma maneira de obter cenários novos, realistas e perigosos todos os dias. É bom que hoje seu carro tenha sido programado para lidar com tudo o que alguém já pensou, mas o verdadeiro padrão-ouro pode ser lançar 20 novas situações nunca vistas antes, todos os dias, e descobrir que lida com a maioria delas. Mesmo os humanos não lidam com todos eles. Isso é uma coisa que espero ver acontecer através do Projeto Piscina de Segurança, que ajudei a iniciar com o Fórum Econômico Mundial, Deepen.AI e a Universidade de Warwick.

Mesmo com toda a simulação você também precisa testar ao vivo na estrada. Ninguém vai implantar um carro que não mostrou que lida muito bem com o mundo real. Embora caro, o sistema de uso de motoristas de segurança humana para supervisionar as operações de robocar tem um excelente histórico e não coloca em risco o público em comparação com a condução humana comum.

Na indústria, todas as empresas se apaixonam para descrever o quanto são dedicadas à segurança. É seu trabalho fazer um veículo seguro, mas eles fazem essas declarações para agradar as autoridades e o público. Ironicamente, o interesse público não é fazer os robocars mais seguros, mas sim as estradas mais seguras. Robocars são uma ferramenta que pode trazer estradas mais seguras, e quanto mais cedo eles chegarem aqui, mais cedo e melhor eles farão isso. Os funcionários, se levassem a sério seu dever de melhorar a segurança rodoviária geral, estariam na verdade incentivando as empresas a não ir muito longe na segurança e, em vez disso, se concentrar na implantação mais rápida de tecnologia mais segura - mesmo fazendo menos para provar que é seguro quando a implantação é pequena , faz com que isso aconteça mais rápido. Mas nunca o farão, devido à forma como a sociedade reage aos erros e riscos.

Um segundo componente de segurança é a segurança cibernética. Precisamos que esses carros sejam robustos contra tentativas de dominá-los. Algumas pessoas não gostam de falar sobre segurança cibernética, mas a história passada da indústria automobilística não foi boa. Fazer isso envolve não apenas práticas e ferramentas seguras, mas também o que é chamado de “equipe vermelha”, onde uma equipe de hackers experientes caça do lado de fora para encontrar vulnerabilidades até não encontrar mais. Uma outra ferramenta importante é minimizar a conectividade, ou o que as pessoas de segurança chamam de “superfícies de ataque”. Muitos na indústria estão obcecados com o que imaginam ser o “carro conectado” e confundem a conectividade com uma revolução tão grande quanto a condução autônoma. Não é, não remotamente. Alguma conectividade é necessária, mas deve ser usada com moderação para que a verdadeira revolução permaneça segura.

Um dos maiores desafios para os testes é o amplo uso do aprendizado de máquina por todas as equipes de robocar. O aprendizado de máquina é uma ferramenta de IA extremamente poderosa, e a maioria sente que é essencial, mas tende a produzir ferramentas de “caixa preta” que tomam decisões, mas que ninguém entende completamente. Se você não sabe como um sistema está funcionando ou por que ele falha ou faz a coisa certa, é difícil testá-lo e certificá-lo. Na Europa, eles estão fazendo leis exigindo que toda IA ​​seja “explicável” em algum nível, mas muitas redes de aprendizado de máquina são muito difíceis de explicar. Isso é assustador, mas eles são tão poderosos que não vamos desistir deles. Podemos nos deparar com uma caixa preta que é duas vezes mais segura em testes do que um sistema explicável, e há argumentos convincentes que as pessoas fazem a favor de qualquer uma das opções.

Predicando o futuro

Um robocar é coberto com sensores, como câmeras, radares, lasers LIDAR e muito mais. Os sensores são provavelmente o aspecto mais discutido do hardware, mas na verdade os sensores não dizem nada sobre o que você quer saber. Isso porque os sensores lhe dizem onde as coisas estão agora, mas você não se importa muito com isso. Você se importa onde as coisas vão estar no futuro. As informações dos sensores são apenas uma pista para o objetivo real de prever o futuro. Saber onde algo está e quão rápido está se movendo é um bom começo, mas saber o que é é tão importante quanto saber onde estará. A maioria dos objetos na estrada ou perto dela não são balísticos – um humano está no comando e pode mudar de rumo. É por isso que uma das principais áreas de pesquisa hoje está ficando melhor em prever o que os outros na estrada, em particular os humanos, vão fazer. Isso pode variar desde conhecer o comportamento de direção até descobrir se um pedestre parado na esquina está prestes a entrar na faixa de pedestres ou está navegando na web.

Embora várias equipes tenham feito grandes progressos, as pessoas são melhores que os robôs de hoje em prever outras pessoas. Melhorar nisso é um dos principais problemas da lista de tarefas, principalmente em ambientes mais complexos, como cidades movimentadas. Prever o futuro também envolve prever como os outros reagirão aos seus próprios movimentos e aos movimentos previstos dos outros. Uma junção de pista ou uma curva à esquerda desprotegida pode ser uma dança com dar e receber, e os robocars estarão constantemente tentando melhorar como eles fazem.

Detecção mais rápida

Os sensores podem ser apenas um meio para o objetivo real, mas quanto melhor eles fizerem, melhor você poderá prever esse futuro. As equipes ainda estão procurando tornar os sensores mais rápidos para tornar a percepção e a previsão mais rápidas. Uma coisa importante é saber a velocidade dos objetos em movimento. O radar informa isso, mas as câmeras e os LIDARs mais antigos não, a menos que você observe vários quadros. Alguns LIDARs mais recentes podem informar a velocidade e a distância. Observar vários quadros leva pelo menos tanto tempo quanto tirar os quadros, mas geralmente mais.

Uma situação que pode ser um problema é andar na estrada atrás de um veículo maior. Imagine que à frente desse veículo há um caminhão parado no acostamento, entrando na pista. Isso acontece muito com acidentes e veículos de emergência. De repente, o grande veículo à sua frente vira à direita para evitar o obstáculo, e você vê aquele caminhão parado pela primeira vez. Você realmente não tem muito tempo para frear ou desviar, e talvez nem tenha para onde ir. Se você tiver que olhar para 3 quadros de vídeo para ver que ele realmente não está se movendo, isso provavelmente é 1/10 de segundo desperdiçado, e essa é uma situação em que isso pode importar. Portanto, muitas equipes estão procurando maneiras de obter essa vantagem e a encontraram principalmente em LIDARs que podem medir “Doppler” para saber a velocidade de tudo o que atingem com o laser. Os radares também conhecem a velocidade, mas o mundo está cheio de objetos parados refletindo radares, e é difícil distinguir o veículo parado do guard-rail parado ao lado dele.

Tomando o caminho mais longo

Mencionarei brevemente essa razão pela qual uma equipe famosa – TeslaTSLA
– ainda não está pronto é que eles estão tentando deliberadamente tornar o problema mais difícil. Embora todas as equipes façam uso intenso da visão computacional, a Tesla quer fazê-la funcionar apenas com visão computacional e apenas câmeras a partir de 2016. A maioria das outras equipes também adiciona câmeras melhores, LIDAR, radar e mapas à sua caixa de ferramentas. A Tesla quer um avanço de visão que possa fazê-lo mais barato. Dizem que todas essas ferramentas extras são distrações. Mas o resto da indústria quer usar todas as ferramentas para fazê-lo mais cedo, ainda que com um custo maior, e acha que a Tesla está se prejudicando. Até agora, com base na qualidade do produto – Tesla FSD está seriamente muito atrás – os outros estão certos, embora a corrida não tenha terminado.

Essa é a primeira parte. A segunda parte analisa coisas como ser um bom cidadão das estradas, por que os carros-robô estão sendo implantados em uma cidade de cada vez, em vez de em todos os lugares ao mesmo tempo, e os problemas de lidar com logística mais mundana, como parar para pegar passageiros, modelos de negócios, aplicativos e se preocupar demais com a segurança enquanto faz com que os governos e o público o aceitem. Também vou listar alguns fatores que estão sendo trabalhados, mas não são verdadeiros bloqueadores para a implantação. Aguarde a segunda parte nos próximos dias.

Alguns acham que o fato de não terem ou andarem em um robocar em 2022 significa que o desenvolvimento está muito atrasado. Na realidade, nunca houve um cronograma sério, apenas esperanças, mas, na verdade, essa lista de problemas traz otimismo, porque esses problemas restantes parecem geralmente tratáveis. Trabalho duro e dinheiro, não avanços são necessários para lidar com a maioria deles.

Fique atento para a parte dois, em formato de vídeo e texto

Você pode deixar comentários nesta página ou na página do vídeo.