A ética da IA ​​e as leis da IA ​​revelam preocupações preocupantes da demonstração do Dia da IA ​​da Tesla e as ambições de IA cada vez maiores de Elon Musk

O Tesla AI Day 2022 já chegou e se foi, estabelecendo-se nos livros de história para que todos reexaminem e analisem o conteúdo do coração.

Veja bem, na noite de sexta-feira de 30 de setembro de 2022, e ocorrendo no Vale do Silício com uma audiência online mundial, ocorreu a última edição dos eventos anualizados do Tesla AI Day. Diz-se que esta vitrine altamente antecipada fornece a Tesla e Elon Musk uma oportunidade de exibir suas coisas e mostrar seus mais recentes avanços em IA. Musk normalmente enfatiza que esses eventos são principalmente para fins de recrutamento, na esperança de aguçar o apetite de desenvolvedores e engenheiros de IA de todo o mundo que possam ser atraídos para se candidatar a um emprego na Tesla.

Fui inundado com pedidos para fazer uma análise profunda que vá além da já multiplicidade de representações de relatórios um pouco relacionadas à lite que chegaram à Internet sobre este último baile do Tesla AI Day. Eu vou te atualizar em um momento e estarei cobrindo especialmente algumas considerações importantes relacionadas à Ética da IA ​​e às Leis da IA ​​que até agora não parecem ter recebido atenção online notável.

E, para ser claro, esses são pontos que urgente e importante precisam ser trazidos à tona. Para minhas discussões gerais contínuas e extensas sobre Ética em IA e IA e Direito, consulte o link aqui e o link aqui, Apenas para nomear alguns.

Vamos descompactar o que aconteceu no Tesla AI Day deste ano.

UM ACORDO DE CABEÇA PARA OS DESENVOLVEDORES E ENGENHEIROS DE IA

Antes de entrar no conteúdo das apresentações, permita-me dizer algo crucial sobre os desenvolvedores e engenheiros de IA que apresentaram ou que de maneira hercúlea têm feito o trabalho de IA nos bastidores da Tesla. Você tem que dar crédito a eles por tentarem entender as diretivas às vezes malucas vindas de Musk sobre no que eles deveriam estar trabalhando e o ritmo em que deveriam realizar seu trabalho.

Mencionei o estilo de liderança de Musk e sua perspicácia técnica de IA em muitas das minhas postagens anteriores, como o link aqui e o link aqui. Por um lado, ele é afiado o suficiente para aparentemente saber o que está acontecendo na IA e serve como uma tremenda força inspiradora para mirar alto na busca de conquistas de IA. Nenhuma dúvida sobre isso.

Ao mesmo tempo, ele também parece às vezes desprovido de praticidade em si e está cheio de desejos indomados e sonhos de IA em abundância. Ele parece renderizar prazos do nada. Os palpites são a norma, em vez de qualquer tentativa racional de fazer estimativas do mundo real. Ele evoca visões fantasiosas de como a IA que mudará o mundo será miraculosamente concebida e fala sobre cronogramas inatingíveis sem aparentemente um respingo decidido de pensamento sistemático e consciente (sua infinidade de previsões sobre o advento de carros autônomos totalmente autônomos baseados em IA têm repetidamente demonstrado afirmações improváveis ​​e insustentáveis).

Alguns insistem que ele é um gênio e os gênios são assim. É a natureza da besta, por assim dizer.

Outros exortam que um líder atirado do quadril vai inevitavelmente tropeçar e potencialmente fazê-lo a um custo alto que de outra forma simplesmente não seria necessário.

Não que não seja útil ter um líder de topo que se preocupa em estar nas profundezas das coisas. Pode ser extremamente útil. Mas quando o visionário de olhos arregalados sai um pouco dos limites, pode ser difícil ou desafiador para a carreira tentar orientá-los sobre o que realmente está acontecendo. Conforme mencionado nas mídias sociais, alguns dos desenvolvedores e engenheiros de IA no palco com Musk pareciam se encolher silenciosamente com várias de suas declarações exageradas. Provavelmente, suas mentes estavam correndo vociferantemente para descobrir o que eles podem fazer ou dizer para tentar salvar a face, mantendo este trem em um mínimo de trilhos realistas e não voando inteiramente fora dos trilhos.

Dica do chapéu para os desenvolvedores e engenheiros de IA.

TRÊS TÓPICOS PRINCIPAIS DESTA VEZ

Ok, com esse prefácio fundamental, podemos cobrir os detalhes do Tesla AI Day.

Basicamente, foram abordados três tópicos principais:

(1) Criação de um robô ambulante que possui características humanóides (ou seja, Bumble C, Optimus)

(2) Avanços associados ao piloto automático da Tesla e ao chamado Full Self-Driving (FSD)

(3) Esforços associados ao supercomputador especializado Tesla chamado Dojo

Algumas informações rápidas caso você não esteja familiarizado com essas iniciativas da Tesla.

Primeiro, Elon Musk vem divulgando que o próximo grande avanço para Tesla envolverá o desenvolvimento e a colocação em campo de um robô ambulante que se assemelha a características humanóides. No Tesla AI Day 2021 no ano passado, houve uma “demonstração” bastante embaraçosa do robô imaginado que envolvia uma pessoa vestindo um traje de aparência robótica que pulava e dançava no palco. Digo embaraçoso porque foi um dos momentos mais constrangedores de qualquer vitrine de IA. Isso não era qualquer tipo de maquete ou protótipo. Era um humano em um traje frágil.

Imagine que aqueles que trabalharam incansavelmente em laboratórios de pesquisa de IA e robótica ao longo de suas vidas sejam, de certa forma, ofuscados por uma pessoa vestindo uma fantasia e saltitando na frente de câmeras radiantes em todo o mundo. O que tornou isso especialmente atraente foi que grande parte da mídia convencional comeu isso, anzol, linha e chumbada. Eles colocaram fotos do “robô” em suas primeiras páginas e pareciam apreciar alegre e inquestionavelmente que Musk estava prestes a produzir robôs falantes de ficção científica há muito procurados.

Nem perto.

De qualquer forma, este ano a pessoa no traje não era mais aparentemente necessária (embora, talvez eles estivessem esperando nos bastidores para o caso de repentinamente precisarem reaparecer). Um sistema semelhante a um humanoide um tanto robótico foi trazido ao palco na abertura da sessão. Este robô foi referido como Bumble C. Depois de nos mostrar esta versão inicial indicada do futuro robô imaginado, um segundo sistema robótico semelhante a um humanoide foi trazido para o palco. Esta segunda versão foi referida como Optimus. O Bumble C foi indicado como o protótipo de primeira tentativa e está mais adiantado em termos de funcionalidade existente do que o Optimus. O Optimus foi indicado como a versão provável do robô humanóide imaginado e pode eventualmente ser versionado para se tornar um modelo de produção disponível no mercado.

Em geral, a maior parte da ação e atenção do Tesla AI Day 2022 foi focada nesses tipos de robôs ambulantes. Manchetes de banner se seguiram. Os avanços relacionados ao piloto automático e FSD não receberam atenção semelhante, nem os detalhes sobre o Dojo receberam muito papel de jornal.

Falando em piloto automático e FSD, devemos garantir que algum tempo de antena seja dado a essa parte do Tesla AI Day. Como os leitores fiéis sabem, eu cobri muitas vezes extensamente o piloto automático da Tesla e os chamados recursos de autocondução total (FSD).

Em suma, os carros da Tesla são hoje classificados como Nível 2 na escala de autonomia. Isso significa que um motorista humano licenciado deve estar sempre ao volante do carro e estar atento para fins de direção. O humano é o condutor.

Menciono este ponto significativo sobre o nível de autonomia porque muitas pessoas não técnicas acreditam falsamente que os Teslas de hoje estão no Nível 4 ou Nível 5.

Errado!

Um nível 4 é um carro autônomo que dirige sozinho e não precisa nem espera um motorista humano ao volante. O Nível 4 é então limitado em relação a um Domínio de Design Operacional (ODD) específico. Por exemplo, um ODD pode ser que a IA possa dirigir o carro apenas em uma cidade específica, como São Francisco, e apenas sob condições estipuladas, como sol, noite e chuva leve (mas não na neve, por exemplo). Um nível 5 é um carro autônomo baseado em IA que pode operar de forma autônoma essencialmente em qualquer lugar e sob quaisquer condições em que um motorista humano possa operar um carro de maneira gerenciável. Para minha explicação detalhada do Nível 4 e Nível 5, veja o link aqui.

Você pode se surpreender ao saber que os Teslas com piloto automático e o chamado FSD são apenas de nível 2. A nomeação de “Full Self-Driving” certamente parece implicar que os carros devem ser pelo menos nível 4 ou possivelmente nível 5. Angústia contínua e clamor foi que Tesla e Musk nomearam seu sistema de direção de IA como “Full Self-Driving” quando claramente não é. Processos judiciais se seguiram. Alguns países os criticaram pela nomeação.

O contra-argumento usual é que “Full Self-Driving” é um objetivo aspiracional e que não há nada de errado em nomear o sistema de direção de IA para o que ele pretende se tornar. O contra-argumento a esse contra-argumento é que as pessoas que compram ou dirigem um Tesla com o FSD são iludidas (ou, dizem os críticos, enganadas) acreditando que o veículo é de fato Nível 4 ou Nível 5. Não vou me alongar no ponto aqui e sugerir que você pode dar uma olhada este link aqui para mais informações sobre assuntos como piloto automático e FSD.

O terceiro tópico envolveu o supercomputador especializado Tesla conhecido como Dojo.

Como pano de fundo útil, esteja ciente de que muitos dos sistemas de IA atuais fazem uso de Machine Learning (ML) e Deep Learning (DL). Estas são técnicas e tecnologias de correspondência de padrões computacionais. A tecnologia que está sob o capô do ML/DL geralmente faz uso de Redes Neurais Artificiais (ANN). Pense nas redes neurais artificiais como um tipo grosseiro de simulação que tenta imitar a noção de como nossos cérebros utilizam neurônios biológicos que estão interconectados entre si. Não acredite erroneamente que ANNs são o mesmo que redes neurais verdadeiras (ou seja, wetware em sua cabeça). Eles não estão nem perto.

Ao conceber a IA para condução autônoma, o uso de redes neurais artificiais é amplamente utilizado. A maioria dos carros autônomos contém processadores de computador especializados que são adaptados para lidar com RNAs. Para programar e estabelecer as RNAs, um fabricante de automóveis ou um fabricante de tecnologia de direção autônoma geralmente fará uso de um computador maior que permitirá testes em larga escala. As RNAs projetadas podem então ser baixadas nos veículos autônomos usando recursos de atualização over-the-air (OTA).

No caso de Tesla, eles estão desenvolvendo seu próprio supercomputador adaptado para fazer RNAs. Isso fornece um recurso proprietário que pode potencialmente armar os desenvolvedores de IA de maneira eficiente e eficaz com o tipo de largura de banda computacional necessária para criar a IA que será executada em seus carros autônomos.

Outra coisa sobre redes neurais artificiais e ML/DL.

Além de usar essa tecnologia para carros autônomos, o mesmo tipo de tecnologia pode ser usado para programar robôs, como os sistemas de aparência humanóide, como Bumble C e Optimus.

No total, confio que agora você pode ver como os três principais tópicos do Tesla AI Day estão relacionados entre si.

Existe um supercomputador especializado em Tesla chamado Dojo que permite o desenvolvimento e teste de ML/DL/ANNs usando recursos de processamento em larga escala. Esses ML/DL/ANNs podem ser programados para servir como um sistema de direção de IA e baixados em carros Tesla de acordo. Além disso, a programação para os sistemas robóticos do Bumble C e Optimus também pode ser desenvolvida no Dojo e baixada nos robôs. Dojo pode fornecer dupla função. Os desenvolvedores de IA atribuídos ao Autopilot e FSD podem usar o Dojo para seus esforços de trabalho. Os desenvolvedores de IA atribuídos ao Bumble C e Optimus podem usar o Dojo para seus esforços.

Como você pode imaginar, há uma possível sobreposição ou sinergia entre os esforços de ML/DL/ANN dos desenvolvedores de IA para Autopilot/FSD e os das atividades Bumble C e Optimus. Eu vou falar mais sobre isso, então fique na ponta da sua cadeira.

Você está oficialmente a bordo com o que está acontecendo e podemos mergulhar nos detalhes do Tesla AI Day 2022.

Parabéns por chegar até aqui.

ALGUMAS PRINCIPAIS CONSIDERAÇÕES DAS VULNERABILIDADES E PROBLEMAS

Há uma série de problemas e preocupações relacionados à IA que surgiram ao assistir ao Tesla AI Day 2022.

Não posso cobri-los todos aqui devido a restrições de espaço, então vamos pelo menos escolher alguns para explorar.

Em particular, aqui estão cinco questões abrangentes que gostaria de abordar:

1) Leis relacionadas à IA e questões legais de direitos de Propriedade Intelectual (PI)

2) Leis relacionadas à IA recém-chegadas aos livros, como a COPPA

3) A ética da IA ​​e o problema da robótica

4) As leis relacionadas à IA para direção autônoma não são as mesmas para robôs ambulantes

5) Exposições legais de equipes de IA combinadas para robôs autônomos e ambulantes

Vou cobri-los um de cada vez e depois faço um resumo.

LEIS DE IA E DIREITOS LEGAIS DE PROPRIEDADE INTELECTUAL

Começaremos com um emaranhado legal ainda por surgir, mas que pode ser bastante notável.

Primeiro, esteja ciente de que o Bumble C e o Optimus foram apresentados como sistemas robóticos presumivelmente ambulantes que pareciam ter pernas, pés, braços, mãos artificiais e um pouco do tronco principal e uma estrutura semelhante à cabeça. Assim, eles se assemelham a sistemas humanóides imaginados que você já viu em todos os tipos de filmes de ficção científica.

Durante as apresentações, foi afirmado que o Bumble C possui componentes semi-prontos para uso. Isso faz sentido, pois para criar rapidamente um primeiro protótipo, a abordagem mais rápida geralmente consiste em juntar outros elementos já conhecidos e comprovados. Isso faz com que você comece a trabalhar rapidamente. Você ganha tempo para criar componentes proprietários, se é isso que você deseja ter.

As apresentações também parecem afirmar que a Optimus era composta por componentes aparentemente predominantemente caseiros ou proprietários. Quanto do Optimus mostrado tem essa preponderância não estava claro. Além disso, o que quer que tivesse, a sugestão implícita era que o objetivo era ser o mais proprietário possível. Isso pode fazer sentido, pois significa que você pode ter controle total sobre os componentes e não depender de terceiros para fornecê-los.

Tão longe, tão bom.

Um pouco de engate, porém, pode estar descendo o pique.

Permita-me um momento para explicar.

Você pode estar vagamente ciente de que Musk ridicularizou o uso de patentes, uma forma de Propriedade Intelectual (PI). Seus tweets recentes indicaram que o IP é aparentemente para os fracos. Isso implica que o IP aparentemente é usado principalmente para fins de trollagem. Além disso, a implicação é que IPs, como patentes, retardam ou impedem o progresso da tecnologia.

Dada a filosofia que emana do topo da Tesla, temos que nos fazer algumas perguntas prudentes.

A Tesla estará buscando patentes para os componentes proprietários do Bumble C e Optimus?

Em caso afirmativo, isso não implica que Tesla e Musk são “fracos” no mesmo sentido em que Musk ridicularizou outros que buscam proteções de propriedade intelectual?

Se eles não pretendem obter patentes para os sistemas robóticos, é de se perguntar como eles se sentirão se outros começarem a criar robôs ambulantes de natureza semelhante e o fizerem imitando ou copiando completamente o Bumble C e o Optimus. A Tesla e Musk vão legalmente atrás daqueles que o fazem, alegando que os componentes são segredos comerciais e de natureza protegida?

Ou eles podem patentear a tecnologia e depois tornar as patentes abertamente disponíveis para todos os interessados? Isso foi considerado importante meio de viabilizar a adoção de VEs. O mesmo se aplica aos sistemas robóticos?

Talvez, ainda mais alarmante para Tesla e Musk seja a possibilidade de estarem infringindo outros sistemas robóticos que possuem patentes e IPs estabelecidos.

Pode-se razoavelmente adivinhar que, no ritmo frenético dos desenvolvedores e engenheiros de IA da Tesla, eles não estão necessariamente fazendo pesquisas de patentes com cuidado e atenção para garantir que seus componentes não infrinjam as patentes existentes. As chances são de que isso provavelmente não esteja em mente, ou mesmo se discutido, possivelmente está sendo deixado de lado por enquanto. Por que adiar agora quando você pode empurrar o potencial problema legal de PI mais adiante? Se você se depara com prazos difíceis, você se contenta por enquanto e assume que outra pessoa, talvez daqui a alguns anos, pagará o preço por essa negligência atual.

Existem inúmeras patentes no espaço de IA. Existe uma variedade bizantina de patentes para mãos robóticas, braços robóticos, pernas robóticas, pés robóticos, torsos robóticos, cabeças robóticas e similares. É um campo minado legal. Eu tenho sido uma testemunha especialista em casos de direitos de propriedade intelectual no campo da IA ​​e há um enorme excesso de patentes, juntamente com sua natureza muitas vezes sobreposta, que apresenta um território de mau presságio.

Para aqueles que possuem patentes de membros robóticos e outros componentes robóticos ambulantes, prossiga para desenterrá-los. Comece a observar de perto o Bumble C e o Optimus. Coloque seus advogados de PI na fila. A cada dia que passa, uma mina de ouro está sendo construída para você, uma que, se depender do seu IP, será uma recompensa arrumada de uma empresa gigantesca com bolsos gloriosamente profundos.

Você pode se livrar do rótulo fedorento de ser “fraco” enquanto resplandecente a caminho do banco.

LEIS DE IA E COMPLICAÇÕES JURÍDICAS RELACIONADAS A EXISTIR

Você pode estar se perguntando para que Bumble C e Optimus serão usados. Como o Bumble C parece ser um protótipo rápido e sujo, vamos nos concentrar apenas no Optimus, que é considerado o robô contínuo e futuro de grande interesse na Tesla.

Para que será usado o Optimus?

De acordo com Musk, ele sugeriu que, com esses robôs, nunca mais precisaremos levantar a mão ou fazer qualquer tipo de tarefa ou trabalho físico novamente. Em casa, o robô ambulante poderá tirar o lixo, colocar suas roupas na máquina de lavar, dobrar suas roupas depois de tirá-las da secadora, fazer seu jantar e fazer todo tipo de tarefas domésticas.

No local de trabalho, Musk sugeriu que esses robôs podem assumir o trabalho da linha de montagem. Além de trabalhar em fábricas ou em condições de trabalho potencialmente adversas, esses robôs também podem trabalhar no escritório. Durante a apresentação, um pequeno videoclipe de um ambiente de escritório mostrou o robô movendo uma caixa como se estivesse entregando a caixa a um humano trabalhando no escritório. Nós até fomos provocados por um pequeno videoclipe do robô regando uma planta em um ambiente de escritório.

Tenho certeza de que cada um de nós pode facilmente encontrar uma litania de maneiras de usar um robô ambulante que tenha um conjunto de recursos semelhantes aos dos humanos.

Eu tenho uma reviravolta para você.

Imagine que o Optimus está sendo usado em uma casa. O robô está realizando tarefas domésticas. Assumimos naturalmente que a Optimus terá alguma forma de interatividade conversacional, talvez como uma Alexa ou Siri. Sem algum meio viável de comunicação com o robô, você teria dificuldade em tê-lo confortavelmente se movendo em sua casa entre você, seu outro significativo, seus filhos, seus animais de estimação e afins.

Para quem está a ver online, não parecemos estar a par de qualquer demonstração de qualquer capacidade de fala ou conversação da Optimus. Tampouco havia qualquer indício de capacidade de processamento.

Em vez disso, só vimos o Bumble C mal conseguir entrar no palco (vacilante, incerto, e acho que causou uma parada cardíaca para os engenheiros enquanto rezavam aos deuses da robótica para que a maldita coisa não desmoronasse ou enlouquecesse) . Optimus foi empurrado ou maltratado para o palco. Não houve caminhada. Fomos informados de que supostamente a Optimus está prestes a poder andar.

Uma esquiva de demonstração clássica e inacreditavelmente, inclusive que parece que grande parte da mídia de notícias convencional comprou isso.

Robôs dançantes em todos os lugares devem ter sentido vergonha pelo que aconteceu naquele palco.

Mas eu discordo. De volta à Optimus a servir de robô ambulante numa casa do dia-a-dia e vamos supor que as crianças estão presentes nesta herdade.

A Califórnia recentemente promulgou uma nova lei conhecida como Lei do Código de Design Apropriado para a Idade da Califórnia (COPPA). Vou discutir essa nova lei em minha coluna e você pode apostar que outros estados em breve estarão promulgando leis semelhantes. Esta é uma lei que qualquer pessoa que desenvolva IA precisa conhecer (bem, qualquer pessoa que crie qualquer tipo de computação que possa entrar em contato com crianças também precisa estar ciente disso).

A essência da lei é que qualquer sistema que possa ser acessado por crianças precisará cumprir as disposições sobre a garantia dos aspectos de privacidade da criança. Várias informações pessoais que um sistema de IA ou qualquer sistema de computação pode coletar sobre a criança devem atender à privacidade de dados e direitos da criança específicos. As penalidades e outras repercussões legais por não cumprir a lei foram especificadas.

Se o Optimus for usado em uma casa que contenha ou possa incluir crianças, o robô pode estar coletando prontamente informações privadas sobre a criança. Enunciados falados podem ser gravados. A localização da criança pode ser gravada. Todo tipo de informação detalhada sobre a criança poderia ser detectada pelo robô.

A equipa da Optimus está a ponderar como cumprir esta nova lei e a emergente multiplicidade de novas leis de IA?

Novamente, isso provavelmente é baixo na lista de prioridades. Meu ponto, porém, é que essa lei e outras leis relacionadas à IA estão surgindo como um incêndio. Um robô ambulante baseado em IA entrará em um ninho de leis de vespas. A Tesla pode obter advogados sobre isso agora e antecipar o que vai surgir legalmente, tentando evitar entrar em atoleiros legais e fornecer orientação aos desenvolvedores e engenheiros de IA, ou fazer a coisa usual orientada para a tecnologia e apenas esperar e ver o que acontece (normalmente apenas depois de ficar atolado em um pântano legal).

Pague-me agora, ou pague-me depois.

Os técnicos muitas vezes não contemplam o pagamento agora e acabam sumariamente sendo pegos de surpresa e pagando mais tarde.

A ÉTICA DA AI E O PROBLEMA DA ROBÓTICA

Em colunas anteriores, cobri os vários esforços nacionais e internacionais para criar e promulgar leis que regulam a IA, veja o link aqui, por exemplo. Também abordei os vários princípios e diretrizes de Ética em IA que muitas nações identificaram e adotaram, incluindo, por exemplo, o esforço das Nações Unidas, como o conjunto de Ética em IA da UNESCO que quase 200 países adotaram. o link aqui.

Aqui está uma lista útil de critérios ou características de IA ética em relação aos sistemas de IA que explorei de perto anteriormente:

• Transparência
• Justiça e equidade
• Não-Maleficência
• Social Corporativa
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Esses princípios de ética da IA ​​devem ser utilizados por desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, trabalham e realizam manutenção em sistemas de IA.

Todas as partes interessadas em todo o ciclo de vida de desenvolvimento e uso da IA ​​são consideradas dentro do escopo de cumprir as normas estabelecidas da IA ​​Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. É preciso uma vila para conceber e colocar em campo a IA, e para a qual toda a vila deve ser versada e obedecer aos preceitos da Ética da IA.

Tesla e Elon Musk estão dando atenção séria e dedicada às ramificações da ética da IA ​​de um robô ambulante?

De acordo com o que foi afirmado nas apresentações, aparentemente, até agora, apenas uma atenção superficial foi dedicada ao assunto.

Musk foi perguntado durante as perguntas e respostas se eles estão analisando os aspectos gerais do que os robôs ambulantes farão à sociedade. Todos nós já sabemos que Musk afirmou repetidamente que vê a IA como um risco existencial para a humanidade, veja minha cobertura em o link aqui. Alguém certamente suporia que, se alguém está fazendo robôs que andam entre nós, e que ele espera que talvez milhões e milhões desses robôs sejam vendidos para uso público e privado, isso naturalmente aumenta os problemas de IA ética da humanidade.

A resposta à pergunta parecia sugerir que os esforços em andamento são prematuros demais para explorar notavelmente as possibilidades da Ética da IA.

Essa é mais uma resposta técnica clássica e lamentável.

Muitos desenvolvedores e engenheiros de IA consideram a Ética da IA ​​um tópico de reflexão tardia. Não há necessidade de confundir os esforços de trabalho de IA existentes. Apenas continue seguindo em frente. Algum dia, com certeza, talvez a ética da IA ​​levante sua cabeça, mas até então está de cabeça para baixo e a toda velocidade.

Infelizmente, uma abordagem de cabeça na areia para a IA ética é uma má notícia para todos. Uma vez que a IA ou, neste caso, o sistema robótico avança no caminho do desenvolvimento, se tornará cada vez mais difícil e caro adotar os preceitos da Ética da IA ​​no sistema. Esta é uma maneira míope de lidar com considerações éticas de IA.

Suponha que eles esperem até que o robô ambulante já esteja sendo colocado nas casas das pessoas. Nessa conjuntura, as chances de danos aos seres humanos aumentaram e, além do potencial de causar danos prejudiciais, uma empresa que esperou até os últimos estágios enfrentará enormes processos judiciais. Você pode apostar que perguntas difíceis serão feitas sobre por que esses tipos de facetas de IA Ética não foram devidamente consideradas e por que não foram tratadas no início do ciclo de vida de desenvolvimento de IA.

O fato de Musk ter repetidamente levantado considerações sobre ética da IA ​​ao discutir os riscos existenciais da IA ​​torna essa aparente supervisão ou falta de preocupação atual com a IA ética em seus robôs ambulantes uma questão ainda mais sedutora.

A sabedoria de Musk torna isso especialmente desconcertante.

Alguns executivos de alto escalão nem sabem que existem questões éticas de IA a serem enfrentadas - discuti ardentemente a importância de as empresas estabelecerem Conselhos de Ética de IA, consulte o link aqui.

AS LEIS DE IA PARA CONDUÇÃO AUTÓNOMA NÃO SÃO AS MESMAS PARA ROBÔS QUE CAMINHAM

Mencionei anteriormente que os Tesla existentes que usam piloto automático e FSD estão no nível 2 de autonomia.

Isso é útil para Tesla e Musk porque eles podem se apegar à ideia de que, como o Nível 2 requer um motorista humano ativamente ao volante, quase tudo o que o sistema autônomo de IA faz é à prova de fuga do ponto de vista da responsabilidade. Tesla e Musk podem simplesmente insistir que o motorista humano é responsável por dirigir.

Observe que esse não será o caso do Nível 4 e do Nível 5, em que a montadora ou o operador da frota, ou alguém precisará intervir como o responsável pelas ações de um carro autônomo.

Além disso, observe que essa alegação de que o motorista humano é responsável só pode ser estendida até o nível 2 e 3, e em breve veremos casos legais sobre até onde isso pode ir.

Durante a apresentação, houve vários pontos de que o trabalho em carros autônomos de IA pode ser facilmente transferido ou reaplicado ao reino de robôs ambulantes. Isso é um pouco verdade. Isso também é um pouco enganoso ou, em alguns casos, um retrato perigoso.

Podemos começar com a transferência óbvia envolvendo o processamento de visão baseado em IA. Carros autônomos usam câmeras de vídeo para coletar imagens e vídeos dos arredores ao redor do veículo. O uso de ML/DL/ANNs normalmente é usado para encontrar padrões computacionalmente nos dados coletados. Você faria isso para identificar onde está a estrada, onde estão os outros carros, onde estão os edifícios e assim por diante.

Em teoria, você pode reutilizar esses ML/DL/ANNs iguais ou semelhantes para tentar descobrir o que um robô ambulante está encontrando. Em uma casa, o sistema de visão do robô estaria escaneando uma sala. O vídeo e as imagens coletadas podem ser examinados computacionalmente para descobrir onde estão as portas, onde estão as janelas, onde está o sofá, onde estão as pessoas, etc.

Parece sensato.

Mas aqui está a reviravolta.

Para os carros autônomos de nível 2, a direção depende de um motorista humano. A responsabilidade legal pelo que o carro faz geralmente está nos ombros do motorista humano. Essa proteção não é provável no caso de um robô ambulante.

Em outras palavras, um robô ambulante está em sua casa. Suponha que você, como adulto, não esteja teleoperando com o robô. O robô está se movendo livremente pela casa com base em qualquer IA que tenha sido configurada no robô ambulante.

O robô esbarra em um aquário. O aquário cai no chão. Uma criança próxima é tristemente cortada por um vidro voador. Felizmente, a criança está bem e os cortes são pequenos.

Quem é o responsável pelo que aconteceu?

Atrevo-me a dizer que todos nós concordamos razoavelmente que o robô é “culpado” por esbarrar no aquário (tudo o mais sendo igual). Há um debate contínuo e acalorado sobre se vamos atribuir personalidade jurídica à IA e, portanto, potencialmente, seremos capazes de responsabilizar a IA por atos ruins. Eu cobri isso em o link aqui.

Nesse caso ou cenário, não quero ficar preso na questão de saber se essa IA tem personalidade jurídica. Eu vou dizer que não. Assumiremos que essa IA não atingiu um nível de autonomia que acreditamos merecer a personalidade jurídica.

A parte responsável parece ser o fabricante do robô ambulante.

O que eles fizeram para criar o robô para evitar esbarrar nas coisas? Era previsível que o robô pudesse fazer isso? Houve um erro dentro do robô que levou a essa ação? Continuamente, podemos questionar legalmente o que aconteceu.

Será que Tesla e Musk perceberam que a piscadela legal que estão fazendo com seus carros provavelmente não será transferida para os robôs que eles estão tentando fazer?

Robôs ambulantes são um animal diferente, por assim dizer.

Mais uma vez, surgem repercussões legais e éticas.

EXPOSIÇÕES LEGAIS PARA ENQUADRAMENTO DAS EQUIPES

As apresentações sugeriram que muitos cruzamentos da equipe autônoma de IA estão ocorrendo com a equipe de robótica ambulante. Pela minha indicação anterior, isso parece sensato. Muitos aspectos do hardware e do software têm semelhanças e você também pode ter dupla função quando puder. Além disso, esperamos que isso acelere o lado da robótica, pois está tentando freneticamente começar do zero e acompanhar as declarações aspiracionais de Musk.

Há, porém, uma reviravolta.

Parece que sempre há uma reviravolta, mas, novamente, a vida parece ser assim.

Suponha que a equipe autônoma de IA seja esticada tentando ajudar a equipe de robótica ambulante. Podemos certamente vislumbrar que isso poderia acontecer prontamente. Aqui estão eles, com as mãos ocupadas tentando alcançar o piloto automático e o FSD para níveis cada vez mais altos de autonomia e, enquanto isso, eles estão sendo puxados para a equipe de robótica ambulante que está avançando em seus esforços.

Até que ponto a equipe autônoma de IA está se distraindo ou sobrecarregada por essa atenção dupla e isso afetará as ambições de direção autônoma?

E, não apenas ambições, mas você pode prever logicamente que o esgotamento da equipe de direção autônoma pode levar a erros no sistema de direção autônoma. Talvez eles não tenham feito a verificação tripla que costumavam fazer. Talvez eles tenham recebido feedback da equipe de robótica ambulante e alterado o código de direção autônoma, embora essa mudança possa não ter sido tão bem testada e bem medida quanto deveria.

Em suma, qualquer pessoa que pretenda processar a Tesla sobre a condução autônoma teria agora uma oportunidade abundante de argumentar que quaisquer problemas que pudessem ser reivindicados ou encontrados no piloto automático ou no FSD não estariam lá, mas a decisão de gerenciamento tomada para encaixar os dois outras equipes díspares para trabalharem juntas.

Imagine como isso pode parecer para um júri.

A equipe de direção autônoma estava avançando e totalmente focada na direção autônoma. Eles então foram levados para esse novo esforço de robótica ambulante. A alegação pode ser que isso levou a erros e omissões no lado da direção autônoma. A empresa queria ter o bolo e a cobertura também, mas acabou partindo o bolo e algumas das coberturas caíram no chão.

Não sabemos se o encaixe criou tais vulnerabilidades. É simplesmente uma possibilidade. Para advogados afiados que procuram perseguir Tesla no lado autônomo, a porta está sendo aberta para fornecer uma abertura legal.

CONCLUSÃO

Muitas reviravoltas resultaram do Tesla AI Day 2022.

Por exemplo, Musk indicou que os robôs ambulantes produzirão na ordem de duas vezes a produção econômica, aparentemente em comparação com os humanos. Ele até seguiu essa afirmação dizendo que o céu é o limite da possibilidade de produtividade.

Onde estão os números definitivos que podem iluminar de forma transparente as melhorias de produtividade de duas ou N vezes?

Não estou dizendo que as duas vezes ou N-vezes estão erradas. A questão é que essas alegações infundadas que surgem do nada são pura hipérbole até que alguma substância para apoiar essas alegações seja fornecida. O aspecto particularmente preocupante é que os repórteres estão relatando que ele fez tais alegações, e essas alegações, por sua vez, serão gradualmente repetidas e repetidas até que se tornem “factuais” e ninguém perceba que foi inventado talvez de improviso.

Outra declaração surpreendente foi que Musk disse que os robôs ambulantes podem custar cerca de US$ 20,000.

Em primeiro lugar, se for esse o caso, é notável, dado o provável custo dos componentes e os custos associados ao desenvolvimento e colocação em campo dos robôs ambulantes, além da presumivelmente necessidade de um bom lucro. Como ele chegou ao número? Porque soa bem ou porque foi baseado em uma análise sólida?

Também não sabemos e nem houve discussão sobre a manutenção associada a estes robôs ambulantes. A manutenção de um carro é bem diferente da manutenção de um robô ambulante. Como o robô chegará a qualquer local de manutenção necessário, considerando o tamanho e o peso volumosos envolvidos? Os trabalhadores de manutenção humana precisarão vir à sua casa para fazer a manutenção? Quanto vai custar a manutenção? Que frequência esperada de manutenção será necessária?

Suponha que o custo seja de $ 20,000 ou semelhante a esse valor. Tenho certeza de que, para Musk, os US$ 20,000 parecem trocados. Quantas pessoas poderiam comprar um desses robôs ambulantes pelo preço de US$ 20,000? Atrevo-me a dizer que não muitos. Você pode tentar argumentar que é o custo de um carro (um carro de baixo custo). Mas um carro tem aparentemente muito mais utilidade do que um robô ambulante.

Com um carro, você pode chegar ao trabalho e ganhar dinheiro para pagar suas contas. Você pode usar um carro para ir buscar suas compras. Um carro pode permitir que você chegue a um hospital ou faça uma viagem por diversão. Um robô ambulante que rega suas plantas em sua casa ou que faz seus lençóis para você não parece ter a mesma utilidade valiosa.

Para esclarecer, sim, haveria muitas pessoas com níveis de renda mais altos que poderiam se dar ao luxo de ter um robô ambulante em sua casa. Nesse sentido, definitivamente haveria algum mercado para robôs ambulantes. A questão, porém, é se isso será justo em nossa sociedade. Pode haver aqueles que podem pagar robôs ambulantes e aqueles que não podem?

Também podemos razoavelmente duvidar que os robôs ambulantes tenham o mesmo senso de respeito social e apoio sincero que os EVs recebem. Você pode vender EVs enfatizando que isso ajuda o meio ambiente em comparação com um carro convencional. O governo também pode fornecer incentivos para isso. Isso também se aplica a robôs ambulantes? Parece uma venda mais difícil.

Mais alguns comentários e vamos encerrar esta discussão por enquanto.

Um notável revirar de olhos sobre os robôs ambulantes envolve a antropomorfização descarada dos robôs.

Antropomorfização refere-se ao retrato da IA ​​como estando em pé de igualdade com os humanos. As pessoas podem ser enganadas ao pensar que a IA pode fazer o que os humanos podem fazer, possivelmente até excedendo o que os humanos podem fazer. Essas pessoas tão enganadas provavelmente acabarão em apuros. Eles vão assumir que a IA pode funcionar de maneiras que os humanos podem.

Quando o Bumble C entrou no palco, ele acenou com os braços. O aceno do braço era exatamente o que você esperaria que um humano fizesse. Sua reação instintiva inicial é que o robô andando estava “pensando” e percebeu que estava andando em um palco na frente de pessoas e câmeras. O robô decidiu que seria educado e sociável acenar para a assembleia.

Garanto-lhe que o robô não estava “pensando” em nenhuma forma de pensamento humano.

Pelo que sabemos, havia um operador que estava em algum lugar próximo ou talvez trabalhando remotamente controlando os braços do robô. Nesse sentido, o robô não tinha nenhum software que operasse os braços.

Suponha que houvesse um software operando as armas. O software provavelmente era extremamente simplista que, uma vez ativado, levantava os braços, acenava e fazia isso por um curto período de tempo. É altamente improvável que o software consistisse em um sistema de processamento de visão que capturasse imagens de vídeo do público e então fizesse um “raciocínio” computacional de optar por acenar com os braços do robô.

Meu ponto é que o ato de ter a onda do robô ambulante é um retrato falso ou enganoso do que o robô pode realmente fazer, e engana as pessoas ao supor que o robô é humano. A propósito, eu disse as mesmas preocupações sobre os robôs dançantes. É fofo e ganha manchetes ter robôs acenando e robôs dançando. Infelizmente, também exagera o que esses robôs podem realmente fazer.

Referir-se ao processador dos robôs ambulantes como um Bot Brain é mais um exemplo de antropomorfização. Esses processadores não são cérebros no sentido de cérebros humanos. É uma apropriação indébita da redação.

Você pode estar exclamando agora que todos ou pelo menos muitos na IA aproveitam a antropomorfização para tentar se destacar e fazer com que sua IA receba elogios e atenção. Sim, eu concordaria com você. Isso faz com que dois erros se transformem em acertos? Eu não acho. Ainda é uma abordagem ruim e precisamos tentar reduzir ou pelo menos reduzir sua popularidade. Isso é como empurrar uma pedra pesada para cima de uma colina íngreme e sem fim.

Agora vamos fazer uma observação final sobre este tópico.

Elon Musk já havia declarado isso sobre para onde a IA está indo: “Marque minhas palavras, a IA é muito mais perigosa do que armas nucleares… por que não temos supervisão regulatória?” Ele fez declarações semelhantes durante o Tesla AI Day.

Concordo com ele em ter supervisão regulatória, embora eu acrescente um pouco de esclarecimento de que tem que ser o tipo certo de supervisão regulatória. Atuei na supervisão regulatória sobre IA que está falhando lamentavelmente, como explicado em o link aqui.

Espera-se que Tesla e Musk não apenas apoiem o advento de leis prudentes e adequadas sobre IA, mas também sejam os primeiros a mostrar a importância de leis brandas, como Ética em IA, e leis rígidas que estão nos livros.

Como a sábia sabedoria nos diz, nossas palavras servem como uma lâmpada para guiar nossos pés e forjar uma luz para o caminho à frente.

Isso cobre as coisas.