Ética da IA ​​e o aclamado Vale Uncanny da IA, que também choca os carros autônomos baseados em IA

Às vezes, há coisas um pouco estranhas que chamam sua atenção e despertam sua intuição de que de alguma forma há algo errado. A estranheza não é flagrante, nem um pouco flagrante em seu rosto. Você pode nem ser capaz de identificar imediatamente qual é a incongruência ou como é que seu proverbial senso de aranha está formigando.

Talvez pistas reveladoras sutis estejam sendo detectadas. Talvez você perceba em seu intestino que existe uma dissonância. Eu acho que você poderia dizer que há apenas o menor indício de estranheza discreta e seu delicado radar humano está captando sinais aparentemente ocultos.

Bem-vindo ao vale misterioso.

Se você nunca ouviu falar do vale estranho, um tópico relativamente popularizado no campo da IA ​​e especialmente da robótica, você terá um pouco de prazer, pois esse é o assunto que discutirei e analisarei de perto aqui.

A noção abrangente pode se aplicar a muitas coisas que experimentamos na vida, embora os princípios fundamentais e a definição original envolvam sistemas de IA e robôs. Vamos primeiro explorar as origens e o significado inicial do vale misterioso e, em seguida, proceder a uma ampliação para ver como os fenômenos parecem ser aplicáveis ​​em contextos mais amplos.

Eu também poderia acrescentar que vamos considerar se o vale misterioso existe.

Você vê, alguns céticos e cínicos argumentam que todo o assunto é um pouco de travessura e não retém água. Tenha cuidado ao trazer o assunto para aqueles que estão por dentro. Alguns sorrirão alegremente e lhe darão um tapinha nas costas dizendo que você está profundamente familiarizado com o vale misterioso, enquanto outros lhe ensinarão estridentemente que é uma miscelânea de besteira e você precisa limpar sua mente sumariamente com uma barra de sabão de limpeza mental. .

A boa notícia aqui é que você pode decidir se o vale misterioso é real ou não, junto com se ele tem méritos para aplicação consciente ou, em vez disso, deve ser jogado sem cerimônia no lixo das ideias tecnológicas. Nesse sentido, você está no banco do motorista.

Tudo isso também está intimamente relacionado ao campo florescente da IA ​​ética e à crescente percepção de que a sociedade deve estar séria e sobriamente prestando atenção à ética da IA. Faremos esse empate momentaneamente.

O melhor lugar para começar é citando diretamente o professor que surgiu com o conceito do vale estranho e nomeou abertamente esse fenômeno proclamado. Em 1970, o professor Masahiro Mori, do Instituto de Tecnologia de Tóquio, publicou um pequeno artigo em um jornal um tanto menos conhecido chamado Energia (não é particularmente um foco para IA e robótica em si), e disse o seguinte:

“Percebi que, ao escalar em direção ao objetivo de fazer os robôs parecerem humanos, nossa afinidade por eles aumenta até chegarmos a um vale, que chamo de vale misterioso.”

Observe que o texto acima é mostrado em inglês, embora o artigo original estivesse em japonês. A versão traduzida para o inglês foi supervisionada pelo autor e posteriormente publicada no IEEE Spectrum em 2012 e creditado a Masahiro Mori como autor. Você mesmo pode ler o artigo, pois ele está disponível online de forma aberta e gratuita. É uma leitura decididamente rápida de talvez dez minutos ou mais e não contém nenhuma terminologia pesada em tecnologia.

Dito isto, é interessante e um tanto surpreendente que um artigo tão rápido, publicado em 1970, tenha dado início a toda uma arena de investigação e lançado uma miríade de estudos, projetos, pesquisas relacionados e, às vezes, uma tempestade de controvérsias sobre se o conceito de um vale estranho realmente existe. Suponho que isso mostra que idéias intrigantes e às vezes que mudam o ponto de vista não precisam ser massivamente complicadas ou recheadas com jargão e altivez. Uma ideia sucinta pode ser tão se não mais poderosa do que parece à primeira vista.

Acredito que isso irá encorajá-lo a tentar promover suas novas ideias, fazendo isso com a percepção de que doce e simples podem ser tão magníficos ou às vezes mais do que complicados e complicados.

Vamos voltar para a eliciação do vale misterioso.

Você se depara com um sistema robótico que tem um rosto parecido com um rosto humano. Imagine que esse rosto robótico tenha sido concebido através de inúmeras iterações. Os desenvolvedores de IA que montam a cabeça do robô têm se esforçado cada vez mais para fazer com que a parte facial robótica pareça cada vez mais com um rosto humano real.

Sua primeira tentativa foi extremamente primitiva. O rosto do robô tinha a mesma aparência que você viu nos filmes de ficção científica de ser inteiramente metálico e mostrando engrenagens e fios. Você sabe instantaneamente quando olha para a engenhoca que é um robô. Nenhuma dúvida em sua mente sobre isso.

A próxima tentativa dos desenvolvedores de IA envolveu envolver alguns materiais plásticos em torno das peças metálicas. Embora isso pareça um pouco mais amigável, você ainda sabe instantaneamente que é uma cabeça de robô e um rosto robótico. Novamente, fácil de detectar.

Esses desenvolvedores de IA estão determinados a continuar assim. Eles esculpem o plástico e dão tons de pele. Eles adicionam características que parecem muito semelhantes a um rosto humano, como pintas, cabelos, manchas e afins.

À primeira vista, você pode ser levado a acreditar que este é um rosto humano. Se uma foto foi tirada do rosto robótico e você foi solicitado a identificar se a imagem retratava uma pessoa versus um rosto robótico, você pode ficar frustrado em ser capaz de dizer imediatamente qual era. Por outro lado, se você estivesse ao lado do dispositivo, provavelmente, após uma inspeção minuciosa, seria capaz de discernir que não é um humano e sim um dispositivo robótico.

A questão é que, antes de você ter a chance de fazer um exame minucioso, havia algo no rosto que parecia não fazer sentido. Com certeza parecia um rosto humano. Mas havia algo errado. Você tinha que ficar olhando atentamente várias vezes para colocar o dedo no que não parece certo. Talvez seja um rosto real. Então, novamente, talvez não seja. Sua mente turva de acordo.

Uma aparência de estranheza entra em sua mente.

Você não tinha a mesma aparência de estranheza quando viu as duas versões anteriores. Você poderia sem pausa ou hesitação detectar que o robô era um robô. Apenas uma criança pode ser levada a acreditar que qualquer uma dessas versões era de uma pessoa real.

Esta última versão, porém, era diferente. Ainda não estava aperfeiçoado para parecer um rosto humano. Nem estava tão longe da realidade que era óbvio que devia ser um robô. Uma espécie de terreno confuso havia sido alcançado.

Suponha que os desenvolvedores avançassem em seus esforços de pesquisa e organizassem tudo para que o rosto robótico fosse quase indistinguível de um rosto humano. Não importa quanto tempo você olhe para a coisa, você não tem certeza se é um humano ou não um humano. Quando informado que é o rosto robótico, você fica surpreso. Puxa, eles fizeram um ótimo trabalho para torná-lo real.

Observe que até agora você considerou apenas os aspectos robóticos com base apenas na aparência.

Poderíamos adicionar movimento à equação. Isso adiciona uma dimensão adicional para você discernir se o robô é um robô versus um humano. Eu não quero considerar completamente isso como um tipo de problema multidimensional nesta discussão, pois torna uma elucidação sobre esse tópico mais intrincada (embora existam multidimensões inevitavelmente entrelaçadas). De qualquer forma, imagine que você não apenas viu o rosto robótico, mas também pode observar como o robô move as características faciais, como a boca, os olhos, o nariz etc. robô ou humano.

Um aspecto vital a ser mantido na vanguarda do vale misterioso é que a concepção original enfatiza o ato de afinidade humana. O fenômeno alegado é que sua afinidade está aumentando à medida que você vê as faces do robô sendo aprimoradas gradualmente, até o ponto em que a variante misteriosa surge. Nessa conjuntura, diz-se que seu senso de afinidade cai drasticamente, mergulhando em um abismo ou vale de afinidade.

Para a versão específica que fez você suspeitar que algo estava errado, sua afinidade supostamente caiu radicalmente. Além disso, de acordo com a teoria, sua afinidade pode disparar novamente quando você encontrar a versão mais avançada que é quase idêntica a uma forma verdadeiramente humana.

Aqui está mais sobre o que o autor afirmou sobre nossa inclinação normal para assumir que os aspectos da vida estão aumentando suavemente: “O termo matemático função monotonicamente crescente descreve uma relação na qual a função y = ƒ(x) aumenta continuamente com a variável x. Por exemplo, como esforço x cresce, renda y aumenta, ou quando o acelerador de um carro é pressionado, o carro se move mais rápido. Esse tipo de relação é onipresente e muito fácil de entender. De fato, como essas funções monotonicamente crescentes cobrem a maioria dos fenômenos da vida cotidiana, as pessoas podem cair na ilusão de que representam todas as relações. Também atestando essa falsa impressão é o fato de que muitas pessoas lutam pela vida empurrando persistentemente sem entender a eficácia de recuar. É por isso que as pessoas geralmente ficam intrigadas quando se deparam com algum fenômeno que essa função não pode representar.” Isso é citado por IEEE Spectrum papel traduzido.

Essa suposição quase universal de sempre aumentar pode ser derrubada quando encontramos algo errado. A estranheza e a suspeita causarão uma queda relativamente abrupta e dramática na afinidade, diz a teoria, como uma mão robótica que você optou por apertar e não pôde sentir as características ósseas de uma mão humana: “Quando isso acontece, perdemos o sentido de afinidade, e a mão torna-se estranha. Em termos matemáticos, isso pode ser representado por um valor negativo.”

Se você aceita a premissa de que existe esse fenômeno de um vale estranho, tenho certeza que você está se perguntando o que adianta saber que o vale estranho aparentemente existe.

Esse é o clássico de todos os tempos "e daí?" teste de praticidade.

Acontece que muitas pessoas chegaram a muitas interpretações do que devemos ou podemos fazer sobre o vale misterioso. Há toneladas de opiniões. Eu estarei abordando um pouco disso em breve.

Enquanto isso, aqui está o que Masahiro Mori ofereceu: “Esperamos projetar e construir robôs e mãos protéticas que não caiam no vale misterioso. Assim, devido ao risco inerente em tentar aumentar seu grau de semelhança humana para escalar o segundo pico, recomendo que os designers tomem o primeiro pico como seu objetivo, o que resulta em um grau moderado de semelhança humana e um considerável senso de afinidade. . Na verdade, prevejo que é possível criar um nível seguro de afinidade perseguindo deliberadamente um design não humano. Peço aos designers que reflitam sobre isso.”

Uma rápida condensação de minha parte de doze regras práticas sobre o que fazer em relação ao vale misterioso é assim para desenvolvedores de IA em particular:

1) Esteja ciente do vale misterioso e fique atento a isso

2) Você provavelmente quer atingir a afinidade humana com sua IA o máximo possível

3) Esteja preparado para uma perda de afinidade humana se sua IA cair no vale misterioso

4) Procure evitar o vale estranho, criando sua IA dessa maneira

5) É respeitável ter um objetivo aquém do vale estranho

6) Aproxime-se da beira do vale misterioso, mas não caia do penhasco

7) Não fique obcecado em ir além do vale misterioso

8) Há uma chance de que você possa pular o vale misterioso

9) Não se preocupe com o salto, pois você pode cair no vale de qualquer maneira

10) A afinidade humana máxima seria reconhecidamente alcançada ao passar pelo vale misterioso

11) No entanto, há afinidade adequada e adequada encontrada antes do vale misterioso

12) Esteja continuamente atento ao vale misterioso e não o deixe escapar de sua mente

Essas dezenas são todos os preceitos gerais que podem ser considerados como a pedra angular ou pontos de ancoragem do conhecimento sobre o vale misterioso. Reconheço imediatamente que há outros pontos não listados nessa escassa dúzia que podem ser discutidos como igualmente importantes. Também reconheço prontamente que haverá desacordo para cada um dos pontos identificados, e um longo debate acalorado pode ocorrer sobre cada ponto apresentado.

Mais ainda, alguns diriam que os doze pontos são totalmente lixo porque são baseados em uma falsidade, para começar. Não existe um vale estranho, eles argumentariam. É tudo mera chicana e um artifício inventado que apela única e tristemente para atrair mentes fracas (ai, isso dói seriamente!). Qualquer atenção ao vale misterioso é uma lufada de ar desperdiçada e alguém deveria aparecer e colocar uma estaca teórica de madeira afiada no cerne da questão (alguns pesquisadores tentaram fazê-lo).

Por uma questão de discussão, vamos seguir o fluxo e assumir que existe um vale estranho e que ele pretende combinar geralmente com o que indiquei até agora. Aqueles que discordam da conceituação de um vale estranho são bem-vindos para sair da zona ou continuar lendo com os dentes cerrados e sua raiva intelectual crescendo e fervendo (desculpe por isso).

Veja como a IA ética e o foco de conceber e colocar em campo a IA ética se aplicam. A propósito, para minhas explorações contínuas e aprofundadas da ética da IA, veja minha discussão em este link aqui e este link aqui, Apenas para nomear alguns.

O vale misterioso é decididamente um caso de amor e ódio para aqueles em IA ética.

Primeiro, alguns antecedentes necessários. Um dos escrúpulos éticos relacionados à IA mais arrepiantes é que os humanos podem ser enganados ao acreditar que um sistema de IA é senciente. Por favor, esteja ciente de que não há nenhuma IA de hoje que chegue remotamente perto de ser senciente. Isso simplesmente não está acontecendo neste momento. Minha afirmação ostensivamente “descarada” é feita apesar das manchetes incessantes e estridentes que declaram que essa IA ou que a IA é senciente ou próxima o suficiente para ser considerada como tal. Malarkey. Não estamos na consciência da IA.

Não sabemos como chegar lá. Não sabemos se vai acontecer. A senciência da IA ​​é um sonho e uma aspiração que valem a pena, embora não se precipite e pense que estamos prestes a alcançá-la.

É claro que muitos estão alertando fervorosamente que, se de alguma forma conseguirmos obter a senciência da IA, seja por design ou por puro acidente, enfrentaremos um risco existencial. Nessa maneira de pensar, talvez buscar a senciência da IA ​​não valha a pena. O risco é que essa IA senciente possa determinar que não vale a pena ter humanos por perto. Podemos ser esmagados como um inseto. Ou torne-se escravizado pela IA. Isso pode ocorrer pela escolha aberta da IA, ou a IA pode acabar sendo nossa própria máquina apocalíptica que nos destrói por nossa própria inépcia. Para minha cobertura sobre esses resultados preocupantes da senciência ou singularidade da IA, consulte o link aqui.

Uma preocupação crucial da IA ​​ética é que os desenvolvedores de IA e aqueles que trabalham com IA às vezes estão induzindo os humanos a pensar que a IA é senciente. A maneira como a IA se exibe, como por uma formulação robótica ou por sua interatividade conversacional, pode insidiosamente incitar as pessoas a assumir que a IA é senciente. Isso, por sua vez, leva você a um caminho de prímula potencialmente sujo.

Se você cair na armadilha mental de pensar que um sistema de IA é senciente, provavelmente confiará nele para fazer coisas que seres sencientes fariam. Mas ainda não há nenhum senso comum de uma qualidade humana embutida em qualquer IA de hoje. A IA que experimentamos atualmente é extremamente frágil e superficial quando se trata de capacidades humanas. Você pode entrar em algumas águas desagradáveis ​​e perigosas acreditando que um sistema de IA é senciente.

Como isso se conecta com o vale misterioso?

Aqui está o acordo.

Lembre-se de que o vale misterioso parece nos dizer que a afinidade humana aumentará gradualmente à medida que um sistema de IA ou um robô se aproxima cada vez mais de uma formulação humana. Em um momento em que o sistema de IA está chegando ao ponto de estar bem próximo, mas ainda assim, não exatamente lá, temos uma sensação estranha de que algo está errado. Até então, sabíamos que a IA não era humana. Agora não temos certeza. Nossa afinidade humana cai. Somente quando a IA ou o robô se tornam totalmente convincentes quanto às capacidades semelhantes às humanas, recuperamos nossa aparência de afinidade com o dispositivo.

Os desenvolvedores de IA que levam a esse coração presumivelmente intencionalmente se esforçam para manter sua IA fora do vale misterioso, com o objetivo de parar em termos de recursos da IA, pouco antes de cair no abismo misterioso (lembre-se, isso também é o que Masahiro Mori enfatizou). Os desenvolvedores aparentemente fariam isso certificando-se de que ainda existiam pistas reveladoras abundantes para deixar bem claro que a IA é menos do que senciente e, portanto, não é humana ou igualmente.

Os especialistas em ética da IA ​​geralmente dariam boas-vindas a esse esforço sincero.

O raciocínio é direto. Aqueles tão informados e que abraçam os desenvolvedores de IA estão tentando garantir que o sistema de IA não induza as pessoas a atribuir falsamente instalações humanas à IA. Isso é certamente uma boa notícia. Os desenvolvedores criarão propositalmente a IA para evitar um mergulho no vale misterioso. Os humanos perceberão prontamente que a IA não é senciente.

Tentar fazer com que os desenvolvedores de IA adotem essa abordagem não é fácil. De fato, pode ser contra-intuitivo para seus instintos habituais e ambições motivadoras.

Muitas alegações são feitas de que desenvolvedores e técnicos de IA, em geral, são consumidos por metas. Eles vêem um objetivo e muitas vezes o perseguem cegamente com grande entusiasmo. Não há tempo para parar e cheirar as rosas. Para as corridas, vamos. No campo da IA, o objetivo normativo seria uma IA idealizada, indistinguível dos humanos, pois a IA poderia ser inteligentemente igual em paridade. Mas ainda não chegamos lá. Como tal, o vale estranho fornece um objetivo secundário, aterrissando antes do vale estranho, e se torna um objetivo que, no entanto, é aceitável. Claro, não é o anel premiado de ouro, mas a ideia é que esse prêmio “secundário” seja bom, muito obrigado, e você pode se orgulhar dele.

Alteramos a ambição ruinosa de busca de objetivos e a aproveitamos em uma base racional que soa lógica para fazer a coisa certa, por assim dizer.

Viva!

Marque uma vitória para a ética da IA.

Mas espere um segundo, alerta de spoiler, há outra coisa que precisamos considerar igualmente.

Agora que esses experientes desenvolvedores de IA sabem sobre o vale misterioso, eles podem voltar sua inteligência e proeza tecnológica para saltar propositadamente sobre o abismo e ainda fazê-lo com uma aparência de engano em mente. Faça a IA parecer e parecer inteiramente humana, mesmo que os desenvolvedores saibam que isso não é verdade.

O pensamento malandro é assim. Não deixe que seu sistema de IA tire o chapéu e faça com que as pessoas obtenham essa tendência indescritível de estranheza. Elimine as facetas que podem dar qualquer dica ou pista de que a IA não é da capacidade humana. Faça isso enquanto percebe secretamente e indesculpavelmente sabendo que a IA não é da capacidade humana e isso se trata de esconder essa verdade daqueles que interagem ou são dependentes da IA.

Que planos diabólicos.

Ironicamente, o vale misterioso pode ser uma espécie de alerta para os desenvolvedores de IA de que, se quiserem realmente enganar as pessoas, devem ser inteligentes o suficiente para escapar do abismo. Eles não estão fazendo isso obtendo IA completa e, em vez disso, erguendo fumaça e espelhos para fazer a IA parecer enganosa como se fosse humana. Se os desenvolvedores de IA não tivessem percebido que esse vale misterioso existe, eles em geral teriam caído nele. Isso é bom para a humanidade porque os humanos perderiam sua afinidade com a IA em termos de não confiar demais na qualidade atual da IA.

Lamentavelmente, sabendo que a armadilha existe, os desenvolvedores de IA que desejam se esgueirar por ela encontrarão maneiras perniciosamente inteligentes de fazê-lo.

Marque um acerto contra os preceitos da IA ​​Ética.

Você vê como isso cria uma relação de amor e ódio para os especialistas em IA sobre o vale misterioso?

Maldito se o fizer, maldito se não o fizer.

Percebo que este foi um exame superficial do vale misterioso e você pode estar ansiando por alguns exemplos do dia-a-dia. Há um conjunto especial e seguramente popular de exemplos que estão perto de meu coração. Veja bem, na minha qualidade de especialista em IA, incluindo as ramificações éticas e legais, sou frequentemente solicitado a identificar exemplos realistas que mostrem dilemas de ética em IA para que a natureza um tanto teórica do tópico possa ser mais prontamente compreendida. Uma das áreas mais evocativas que apresenta vividamente esse dilema ético da IA ​​é o advento dos verdadeiros carros autônomos baseados em IA. Isso servirá como um caso de uso útil ou um exemplo para uma ampla discussão sobre o tópico.

Aqui está, então, uma questão digna de nota que vale a pena contemplar: O advento dos verdadeiros carros autônomos baseados em IA ilumina alguma coisa sobre o vale misterioso e, em caso afirmativo, o que isso nos informa a fazer?

Permita-me um momento para descompactar a pergunta.

Primeiro, observe que não há um motorista humano envolvido em um verdadeiro carro autônomo. Lembre-se de que os verdadeiros carros autônomos são conduzidos por meio de um sistema de direção de IA. Não há necessidade de um motorista humano ao volante, nem há uma provisão para um humano dirigir o veículo. Para minha cobertura extensa e contínua de Veículos Autônomos (AVs) e especialmente carros autônomos, consulte o link aqui.

Eu gostaria de esclarecer melhor o que quero dizer quando me refiro a verdadeiros carros autônomos.

Compreendendo os níveis de carros autônomos

Como esclarecimento, verdadeiros carros autônomos são aqueles em que a IA dirige o carro inteiramente por conta própria e não há nenhuma assistência humana durante a tarefa de dirigir.

Esses veículos sem motorista são considerados Nível 4 e Nível 5 (veja minha explicação em este link aqui), enquanto um carro que requer um motorista humano para compartilhar o esforço de direção é geralmente considerado no Nível 2 ou Nível 3. Os carros que compartilham a tarefa de direção são descritos como semi-autônomos e normalmente contêm uma variedade de complementos automatizados que são chamados de ADAS (Advanced Driver-Assistance Systems).

Ainda não há um carro autônomo de verdade no Nível 5, que ainda nem sabemos se isso será possível e nem quanto tempo levará para chegar lá.

Enquanto isso, os esforços do Nível 4 estão gradualmente tentando obter alguma tração, passando por testes muito estreitos e seletivos em vias públicas, embora haja controvérsia sobre se esse teste deve ser permitido por si só (somos todos cobaias de vida ou morte em um experimento ocorrendo em nossas rodovias e atalhos, alguns afirmam, veja minha cobertura em este link aqui).

Como os carros semi-autônomos exigem um motorista humano, a adoção desses tipos de carros não será muito diferente da condução de veículos convencionais, portanto, não há muito por si novo sobre eles sobre esse tópico (porém, como você verá em um momento, os pontos a seguir apresentados são geralmente aplicáveis).

Para carros semi-autônomos, é importante que o público seja avisado sobre um aspecto perturbador que vem surgindo ultimamente, a saber, apesar dos motoristas humanos que continuam postando vídeos de si mesmos adormecendo ao volante de um carro de Nível 2 ou Nível 3 , todos precisamos evitar ser enganados, acreditando que o motorista pode desviar sua atenção da tarefa de dirigir enquanto dirige um carro semi-autônomo.

Você é a parte responsável pelas ações de direção do veículo, independentemente de quanta automação possa ser lançada no Nível 2 ou Nível 3.

Carros autônomos e o Vale Uncanny

Nos verdadeiros veículos autônomos de nível 4 e 5, não haverá um motorista humano envolvido na tarefa de dirigir.

Todos os ocupantes serão passageiros.

A IA está dirigindo.

Um aspecto a discutir imediatamente envolve o fato de que a IA envolvida nos atuais sistemas de direção de IA não é senciente. Em outras palavras, a IA é totalmente um coletivo de programação e algoritmos baseados em computador e, com certeza, incapaz de raciocinar da mesma maneira que os humanos.

Por que essa ênfase adicional sobre a IA não ser senciente?

Porque quero enfatizar que, ao discutir o papel do sistema de direção da IA, não estou atribuindo qualidades humanas à IA. Esteja ciente de que existe uma tendência contínua e perigosa nos dias de hoje de antropomorfizar a IA. Em essência, as pessoas estão atribuindo uma sensibilidade semelhante à humana à IA de hoje, apesar do fato inegável e indiscutível de que tal IA ainda não existe.

Com esse esclarecimento, você pode imaginar que o sistema de direção de IA não “saberá” nativamente sobre as facetas da direção. A direção e tudo o que isso acarreta precisarão ser programados como parte do hardware e do software do carro que dirige sozinho.

Vamos mergulhar na miríade de aspectos que afetam esse tópico.

Primeiro, é importante perceber que nem todos os carros autônomos com IA são iguais. Cada montadora e empresa de tecnologia de direção autônoma está adotando sua abordagem para criar carros autônomos. Como tal, é difícil fazer declarações abrangentes sobre o que os sistemas de condução de IA farão ou não.

Além disso, sempre que afirmar que um sistema de direção de IA não faz alguma coisa em particular, isso pode, mais tarde, ser ultrapassado por desenvolvedores que de fato programam o computador para fazer exatamente isso. Passo a passo, os sistemas de direção de IA estão sendo gradualmente aprimorados e ampliados. Uma limitação existente hoje pode não existir mais em uma iteração ou versão futura do sistema.

Acredito que isso forneça uma litania de advertências suficiente para fundamentar o que estou prestes a relatar.

Estamos preparados agora para mergulhar profundamente em carros autônomos e questões éticas de IA que envolvem o vale misterioso.

Há quatro aspectos relativos a este assunto que serão abordados aqui:

1. A aparência geral dos carros autônomos

2. A questão de onde os carros autônomos estão “olhando”

3. Ações de condução de IA de carros autônomos

4. Robôs que dirigem como meio de obter carros autônomos

Facetas adicionais também são abrangidas de forma viável, mas por restrições de espaço, esses quatro tópicos serão suficientes para iluminar o rumo do vale misterioso relacionado aos carros autônomos baseados em IA.

1. Visão geral dos carros autônomos

Aposto que você já viu fotos ou vídeos de testes de carros autônomos de hoje. Como tal, você deve ter notado que a maioria dos veículos são carros de aparência convencional, equipados com equipamentos especializados adicionais. Por exemplo, pode haver um rack no telhado que contém uma série de sensores eletrônicos. Os sensores às vezes incluem câmeras de vídeo, unidades de radar, dispositivos LIDAR, sensores ultrassônicos e similares.

Projetos futuristas tendem a sugerir que podemos nos afastar do carro de aparência convencional para redesenhar carros no interior e no exterior para serem veículos autônomos de aparência mais elegante. No momento, o pensamento geral é que é mais simples usar carros convencionais e não gastar energia tentando esticar o esforço, mexendo simultaneamente com carros de aparência não convencional (há algumas exceções a esse ponto de vista geral, veja minha cobertura em o link aqui).

A essência agora é que, se você estiver dirigindo na estrada e encontrar um carro autônomo próximo, quase sempre poderá discernir imediatamente que provavelmente é um carro autônomo apenas observando o punhado de sensores montados no veículo autônomo. Esta é uma oferta visual rápida. É claro que você não sabe ao certo se é autônomo em si, pois neste momento os controles de direção geralmente ainda estão intactos e um motorista de backup humano pode estar ao volante.

Em uma maneira de pensar, você pode sugerir que é especialmente útil que os carros autônomos pareçam fisicamente se destacar e sejam facilmente vistos visualmente por motoristas humanos em carros dirigidos por humanos nas proximidades e também por pedestres nas proximidades. A percepção de que um carro autônomo está em roaming nas proximidades pode ser uma pista útil para estar em guarda, levando você a ficar atento e consciente de que a IA está ou pode estar dirigindo o veículo.

Suponha que os carros autônomos pareçam idênticos a um carro convencional dirigido por humanos. Isso é realisticamente viável de pelo menos duas maneiras. Primeiro, os sensores podem estar ocultos ou moldados para não serem tão óbvios para uma inspeção visual casual. Em segundo lugar, pode ser que todos os carros, incluindo carros convencionais conduzidos por humanos, sejam gradualmente equipados com sensores semelhantes, mesmo que o veículo continue sendo um carro predominantemente dirigido por humanos. Veja minha cobertura adicional em este link aqui.

Se você ponderar conscientemente sobre essa consideração sobre se os carros autônomos podem ou devem ser idênticos em aparência aos carros convencionais conduzidos por humanos, você pode pensar que um vale misterioso pode estar à espreita nesse ensopado.

Você vê, carros que descaradamente parecem carros autônomos podem ser tipificados como estando em uma junção que fica um pouco antes do vale misterioso. Basicamente, você “sabe” que é um robô ou um tipo de sistema robótico. Esse é um julgamento para o qual você pode pular quase imediatamente.

Quando os carros autônomos parecem idênticos aos carros dirigidos por humanos, talvez isso sugira que os veículos autônomos ultrapassaram o vale misterioso quanto à sua aparência robótica. Existe, no entanto, um meio-termo entre essas duas aparências físicas que nos levam ao vale misterioso?

Talvez você veja um carro autônomo descendo a rua e pareça que provavelmente é um carro autônomo, por outro lado, a aparência não é estritamente autônoma nem estritamente humana. Você poderia argumentar que o carro autônomo está agora em um estado de aparência assustador ou inquietante.

O carro autônomo foi ostensivamente imerso no vale misterioso.

Dito isto, nem todos concordam com essa categorização. Alguns diriam que a aparência física não tem nada a ver com o vale misterioso. Alguns, é claro, também afirmam que não há nada realisticamente conhecido como o vale misterioso.

Como mencionado anteriormente, você está convidado a tomar sua própria decisão sobre isso.

2. Pergunta de onde os carros autônomos estão olhando

Uma preocupação iminente que muitos têm sobre carros autônomos é que eles geralmente não têm nenhum motorista humano no banco do motorista e, portanto, é difícil descobrir para onde “o motorista” está olhando enquanto dirige o carro.

Você normalmente olha para motoristas humanos para espionar para onde eles estão olhando. Por exemplo, você pode ser um pedestre em uma faixa de pedestres e um carro está se aproximando do cruzamento. Você olha atentamente para a pessoa sentada no banco do motorista e tenta discernir para onde sua cabeça está virada e para onde seus olhos estão olhando. Se você acredita que o motorista humano o viu, você pode se sentir mais confortável em atravessar a rua. Em contraste, se o motorista humano não pareceu vê-lo, você está preocupado com a travessia.

Em algumas cidades, há uma espécie de jogo de gato e rato sobre esses aspectos. Uma norma cultural específica em uma determinada cidade pode ser que, se você fizer contato visual com um motorista, o motorista “ganha” e parece ter o direito de prosseguir, independentemente da legalidade da situação de direção. Outras cidades podem ser totalmente o oposto, ou seja, que a norma cultural é que, quando o contato visual é feito, o pedestre “ganha” e o motorista humano deve se submeter às ações do pedestre.

Parece que adotamos esse costume ao longo do tempo relativamente longo de carros no meio de nossas cidades e comunidades. O problema com o advento dos carros autônomos é que não há um motorista humano no banco do motorista e, portanto, qualquer pedestre ou motorista humano próximo que normalmente usa a cabeça e os olhos dos motoristas como um indicador cultural da intenção de dirigir é agora sem sorte.

Fabricantes de automóveis e desenvolvedores de carros autônomos estão cientes desse problema emergente. Uma solução proposta consiste no carro autônomo piscando os faróis do veículo autônomo ou possivelmente tocando a buzina. Outra noção é que o carro autônomo pode ter uma variante de alto-falante e dizer às pessoas próximas quais são as “intenções” do sistema de direção da IA. Essas ideias têm desvantagens significativas.

No entanto, uma proposta diferente implica fazer algo que você pode acreditar a princípio como ridículo. A proposta consiste em colocar orbes semelhantes a globos oculares no exterior do veículo autônomo. Esses orbes se pareceriam com olhos humanos na aparência de serem capazes de girar para frente e para trás, dando a você uma indicação imediata que sugere que a IA “viu você” (você interpretaria isso pelos globos oculares olhando em sua direção específica). Eu analisei essa abordagem em o link aqui.

Qual seria sua reação ao ver um carro autônomo descendo a estrada e ter esses globos oculares de tamanho excêntrico montados no capô ou no telhado?

Suponho que você possa pensar que é estranho, talvez assustador.

Alguns sugeririam que a estranheza surge do carro autônomo equipado estar no vale misterioso. Outros argumentariam veementemente que isso não tem nada a ver com o vale misterioso. Desses especialistas, alguns diriam que há uma estranheza que pode ser estranheza sem ter que estar entrincheirada no vale misterioso (ou seja, o vale misterioso aparentemente sempre produz estranheza, mas nem toda estranheza é produzida apenas através do vale misterioso). O outro ângulo é que os orbes poderiam ser projetados para serem menos parecidos com o globo ocular e parecerem mais robóticos, ou que todos nós inevitavelmente aceitaremos a aparência desses orbes e a reação inicial surpreendente diminuirá.

3. Ações de condução de IA de carros autônomos

Muitos dos testes de carros autônomos de hoje mostraram que os sistemas de direção de IA existentes tendem a ser programados para dirigir de maneiras bastante tépidas e um tanto estritamente legais. O sistema de direção de IA normalmente leva o carro autônomo a uma parada completa nos sinais de pare. O sistema de direção de IA não faz corridas ousadas nos cruzamentos quando o semáforo está prestes a ficar vermelho. Essas práticas de direção rebeldes são da província de motoristas humanos.

De certa forma, você quase poderia adivinhar que um carro autônomo é um carro autônomo pelo estilo de dirigir que está exibindo. Mesmo que o veículo autônomo pareça visualmente ser um carro convencional dirigido por humanos, você pode observar as ações de direção e talvez deduzir logicamente que provavelmente está sendo dirigido por um sistema de IA.

Alguns acreditam que precisaremos fazer com que os sistemas de direção de IA sejam mais parecidos com as palhaçadas dos motoristas humanos, para que eles se misturem efetivamente às abordagens normativas da direção. Suponho que você possa interpretar isso como combater fogo com fogo.

Faz sentido fazer isso?

Esteja ciente de que céticos e críticos abominam a ideia. Eles argumentariam veementemente que queremos que os sistemas de condução de IA funcionem de maneira adequada e cautelosa. Adicionar potencialmente milhões de carros autônomos às estradas que são programados para serem como motoristas humanos errantes pareceria um pesadelo colossal. Eu discuti esta proposição controversa em o link aqui.

Vamos reformular o dilema aproveitando o vale misterioso.

Quando o sistema de direção de IA é estritamente legal por suas ações de direção, isso talvez seja uma pista reveladora de que é provável que seja um sistema robótico (apesar de motoristas humanos que reconhecidamente fazem isso, embora no mundo de hoje pareçam distantes e poucos). Se os sistemas de direção de IA devem dirigir tão peculiares quanto motoristas humanos, isso salta pelo vale misterioso ou cai no vale estranho?

Pense nisso.

4. Robôs que dirigem como meio de obter carros autônomos

Este último item para cobertura é o mais surpreendente desses quatro.

Você pode não saber que alguns desenvolvedores de IA estão tentando criar robôs que dirigiriam carros. O robô tenderia a se parecer com um humano em vários aspectos, tendo pernas robóticas e braços robóticos como membros. Quando você quer que qualquer carro convencional dirigido por humanos seja um carro autônomo, você simplesmente coloca esse robô de direção de IA especializado no banco do motorista do seu carro. Veja minha análise dessa noção em o link aqui.

Por que queremos dirigir robôs?

A beleza de tal robô é que todos os carros dirigidos por humanos de hoje podem, de certa forma, se tornar carros autônomos, quase da noite para o dia. Você simplesmente compra, aluga ou de alguma forma consegue um robô de direção. Você coloca o robô no assento do motorista ao fazer uma viagem de direção. O robô leva você ao seu destino. Se você quiser mudar para a condução humana, remova o robô do veículo, talvez o guarde no porta-malas para uso posterior.

Existem cerca de 250 milhões de carros convencionais nos Estados Unidos hoje. Alguns acreditam que eles acabarão sendo descartados quando os carros autônomos surgirem. Em vez de descartar esses carros convencionais, talvez possamos tentar adaptá-los para se tornarem carros autônomos, embora essa seja possivelmente uma ideia bastante cara. A abordagem aparentemente mais prudente seria disponibilizar robôs de condução.

Se você visse um carro de aparência convencional descendo a rua do seu bairro e tivesse um robô ao volante, qual seria sua reação?

Provável estranheza.

Uma afirmação reconhecidamente discutível é que essa estranheza se deve ao robô dirigindo um carro convencional mergulhando no famoso ou infame vale misterioso.

Conclusão

De uma perspectiva ética de IA, o vale misterioso apresenta um enigma intrigante.

Há alguns na IA que acreditam plenamente no vale misterioso e alguns que não. Mas, se você acredita no vale misterioso ou não, no entanto, o tópico em si é cogitado. Você não pode esconder sua cabeça e fingir que a construção em si é inexistente. A construção como uma ideia vive e, de alguma forma, é viralmente poderosa. Odeie ou ame, o tópico maldito ou talvez exaltado persiste.

De acordo com meu discurso anterior sobre os méritos do vale misterioso do ângulo da ética da IA, há um relacionamento duelo de amor e ódio nele. Se aqueles no reino da IA ​​ética abraçarem o vale estranho, ou rejeitarem sumariamente o vale estranho, ou permanecerem um tanto neutros sobre a veracidade e, em vez disso, se concentrarem no impacto que se acumula devido às crenças divergentes em andamento sobre isso.

Este desafio traz à tona o eminente economista Adam Smith como ele disse uma vez (parafraseando) que na estrada da Cidade do Ceticismo, você tem que passar pelo Vale da Ambiguidade.