A ética da IA ​​e a IA legal são perturbadas por pretensões enganosas conhecidas como lavagem de ética da IA, que são falsas alegações de adesão à IA ética, incluindo carros autônomos autônomos

Vamos explorar a miríade de maneiras pelas quais as palavras “lavar” e “lavar” podem ser esticadas e utilizadas para comunicar uma variedade de pérolas de sabedoria.

Sabemos, por exemplo, que as pessoas às vezes avisam que você não deve lavar sua roupa suja em público. Lembro-me, quando criança, de que os adultos muitas vezes advertiam que uma declaração incorreta poderia levar a lavar a boca com sabão. Outra frase frequentemente citada foi que tudo parece acabar por sair na lavagem.

Se você estava preocupado com algo com o qual não desejava estar associado, a ideia recomendada era ver se podia lavar as mãos. Todos os tipos de considerações relacionadas à lavagem são comumente cogitados, incluindo que você pode ser sumariamente lavado ou lavado. Lavar o ovo do rosto é um velho ditado que ainda aparece ocasionalmente nas conversas.

O uso de cores para representar variações de lavagem também é relativamente conhecido. Diz-se que a noção de branqueamento remonta pelo menos aos anos 1500. Há preocupações expressas sobre lavagem vermelha, lavagem roxa e assim por diante. Atrevo-me a dizer que talvez o greenwashing seja um dos bordões mais usados ​​atualmente, referindo-se ostensivamente a um ato de vazio ao promover a sustentabilidade e, no entanto, não apoiando a conversa afirmada com qualquer substância de espinha dorsal de walk-the-talk.

Você pode não conhecer uma das versões mais recentes de lavagem, ou seja, lavagem de ética de IA.

Alguns preferem encurtar o fraseado para Ethics Washing, embora isso possa produzir alguma confusão, uma vez que essa aparente formulação alternativa pode se referir a praticamente qualquer tipo de lavagem orientada para a ética. A forma específica de Lavagem de Ética que discutirei aqui consiste em ética focada em IA e todas as considerações éticas relacionadas. Por uma questão de clareza, gostaria de sugerir que a lavagem ética abrange uma ampla variedade de lavagem ética que pode ter pouco ou nada a ver com a IA em si. E essa lavagem ética da IA ​​é um tipo particular de lavagem ética que visa especificamente o domínio da IA.

Você pode estar se perguntando, em que consiste exatamente a lavagem da ética da IA?

Minha definição geral é que a lavagem da ética da IA ​​pode ser definida da seguinte forma:

• A lavagem da ética da IA ​​envolve dar um palavrão ou fachada para as preocupações alegadas sobre os preceitos da Ética da IA, incluindo, às vezes, não apenas não cumprir especialmente as abordagens éticas da IA, mas até mesmo subverter ou minar as abordagens da ética da IA.

Para minha cobertura contínua e extensa de Ética em IA e IA Ética, consulte o link aqui e o link aqui, Apenas para nomear alguns.

Um exemplo rápido de lavagem de ética de IA pode ser ilustrativo para você.

Suponha que uma empresa que está criando um sistema de IA deseja deixar o mundo saber o quão grande sua IA será. A empresa decide que um meio de atrair muita atenção positiva da imprensa e das mídias sociais sobre a IA seria divulgar que ela foi concebida para ser totalmente justa e equilibrada em como a IA funciona. A IA é totalmente confiável. A empresa aderiu estritamente aos princípios de criação dos chamados IA responsável, veja minha cobertura em o link aqui. A afirmação é que todos os princípios de Ética de IA predominantes foram integralmente integrados ao sistema de IA.

Parece ótimo!

Apenas um pequeno problema.

Acontece que a empresa não fez nenhuma dessas coisas.

Eles não cumpriram os preceitos da Ética da IA. Disseram que sim, mas não o fizeram. Os líderes da empresa e a equipe de marketing decidiram que alegar que haviam observado estridentemente as considerações éticas da IA ​​seria presumivelmente bom para os negócios. Não há necessidade de realmente fazer o trabalho árduo de lidar com essas diretrizes de Ética de IA irritantes e, em vez disso, apenas dizer que você fez.

Voila, eles instantaneamente são capazes de promover sua IA entrando no movimento da Ética da IA.

Mole-mole.

Mas este é um caminho arriscado e que, de fato, potencialmente gerará grandes problemas.

As empresas e líderes que decidem invocar falsamente a ética da IA ​​quando pouco fizeram para cumprir a IA ética estão potencialmente se preparando para muitas consequências. Primeiro, se um dia eles forem expostos em relação à sua falsidade de ética em IA, eles correm o risco de uma grave reação negativa à reputação. Eles mentiram sobre ter uma mente ética em IA. Além disso, ter sido pego em uma mentira, independentemente de ter a ver com a ética da IA, também os coloca em água quente adicional. É um twofer de mentir.

Em segundo lugar, inúmeras ramificações legais podem afetar eles e sua empresa. Uma é que eles não fizeram o que disseram que fizeram e podem ser potencialmente responsabilizados legalmente por suas falsas alegações. Outra é que sua IA provavelmente acabará violando leis envolvendo áreas socialmente sensíveis, como exibir preconceitos indevidos e agir de maneira discriminatória. A lista de questões legais é longa e pode acabar forçando a empresa a batalhas legais caras e possivelmente afundando todo o navio, por assim dizer.

Por que diabos uma empresa e seus líderes escolheriam usar a lavagem da ética da IA?

Bem, pode ser um pouco caro incorporar práticas de IA Ética, embora o contra-argumento seja que o custo, no final, será prontamente superado pelos benefícios de ter uma IA genuína e de alto calibre na adesão às abordagens de Ética da IA. No entanto, algumas empresas preferem lançar sua IA mais cedo e, mais tarde, imaginam que se preocuparão com as consequências por não terem considerado a IA ética durante o processo de desenvolvimento.

A velha linha parece prevalecer, consistindo em pagar-me agora ou pagar-me mais tarde. Alguns líderes e empresas acham que vale a pena jogar os dados e esperar que eles não tenham que incorrer no preço do pague-me-depois quando optarem por evitar as facetas do pague-me-agora. Eu diria que não existe almoço grátis quando se trata de ética em IA. Ou você faz sua parte ou arca com as consequências.

Isso não quer dizer que não haja muito espaço de manobra em tudo isso.

As empresas podem mergulhar na ética da IA ​​e tentar exagerar o quanto fizeram. Sua suposição potencial é que eles terão uma defesa suficiente para contestar quaisquer acusações de que eles não estavam incorporando a ética da IA. Eles podem apontar para alguma forma de atividades de ética de IA desanimadas que podem tirá-los do gancho. Assim, o debate muda de não ter feito nenhum esforço de ética em IA e se torna se eles fizeram ou não o suficiente.

Este é um argumento que pode ir quase infinitamente e permitir que um fornecedor de lavagem de ética de IA tenha muito espaço de manobra.

Parte dos aspectos frouxos é que ainda não existem padrões universais e definitivamente implementáveis ​​acordados sobre a Ética da IA. Sem um conjunto coeso e abrangente de métricas, quaisquer discussões sobre se a Ética da IA ​​estava sendo observada adequadamente serão tênues e confusas. A empresa vai insistir que fizeram o suficiente. Uma pessoa de fora ou outra alegando que a empresa não fez o suficiente terá uma batalha árdua apresentando tal contra-afirmação. A ambiguidade pode reinar.

Antes de entrar em um pouco mais de carne e batatas sobre as considerações selvagens e confusas subjacentes à lavagem da Ética da IA, vamos estabelecer alguns fundamentos adicionais sobre tópicos profundamente integrais. Precisamos mergulhar brevemente na Ética da IA ​​e especialmente no advento do Machine Learning (ML) e Deep Learning (DL).

Você pode estar vagamente ciente de que uma das vozes mais altas nos dias de hoje no campo da IA ​​e mesmo fora do campo da IA ​​consiste em clamar por uma aparência maior de IA Ética. Vamos dar uma olhada no que significa se referir à Ética da IA ​​e à IA Ética. Além disso, vamos explorar o que quero dizer quando falo de Machine Learning e Deep Learning.

Um segmento específico ou parte da Ética da IA ​​que vem recebendo muita atenção da mídia consiste na IA que exibe preconceitos e desigualdades indesejáveis. Você deve estar ciente de que, quando a última era da IA ​​começou, houve uma enorme explosão de entusiasmo pelo que alguns agora chamam de AI For Good. Infelizmente, na esteira dessa empolgação, começamos a testemunhar AI para mau. Por exemplo, vários sistemas de reconhecimento facial baseados em IA foram revelados como contendo preconceitos raciais e de gênero, que discuti em o link aqui.

Esforços para lutar contra AI para mau estão ativamente em andamento. Além de vociferante legal buscas de refrear as irregularidades, há também um impulso substantivo para abraçar a Ética da IA ​​para corrigir a vileza da IA. A noção é que devemos adotar e endossar os principais princípios éticos da IA ​​para o desenvolvimento e a colocação em campo da IA, fazendo isso para minar o AI para mau e simultaneamente anunciando e promovendo o preferível AI For Good.

Em uma noção relacionada, sou um defensor de tentar usar a IA como parte da solução para os problemas da IA, combatendo fogo com fogo dessa maneira de pensar. Podemos, por exemplo, incorporar componentes de IA ética em um sistema de IA que monitorará como o resto da IA ​​está fazendo as coisas e, assim, potencialmente detectar em tempo real quaisquer esforços discriminatórios, veja minha discussão em o link aqui. Também poderíamos ter um sistema de IA separado que atua como um tipo de monitor de Ética de IA. O sistema de IA serve como um supervisor para rastrear e detectar quando outra IA está entrando no abismo antiético (veja minha análise de tais recursos em o link aqui).

Em um momento, compartilharei com você alguns princípios abrangentes subjacentes à Ética da IA. Existem muitos desses tipos de listas flutuando aqui e ali. Pode-se dizer que ainda não existe uma lista singular de apelo e concordância universal. Essa é a notícia infeliz. A boa notícia é que pelo menos existem listas de Ética em IA prontamente disponíveis e elas tendem a ser bastante semelhantes. Tudo dito, isso sugere que, por uma forma de convergência racional, estamos encontrando nosso caminho em direção a uma semelhança geral do que consiste a Ética da IA.

Primeiro, vamos abordar brevemente alguns dos preceitos gerais da IA ​​ética para ilustrar o que deve ser uma consideração vital para qualquer pessoa que crie, coloque em campo ou use a IA.

Por exemplo, como afirmou o Vaticano no Roma Call For AI Ethics e como eu cobri em profundidade em o link aqui, estes são os seis princípios éticos primários da IA ​​identificados:

• Transparência: Em princípio, os sistemas de IA devem ser explicáveis
• Inclusão: As necessidades de todos os seres humanos devem ser levadas em consideração para que todos possam se beneficiar, e a todos os indivíduos possam ser oferecidas as melhores condições possíveis para se expressar e se desenvolver
• Responsabilidade: Aqueles que projetam e implantam o uso da IA ​​devem proceder com responsabilidade e transparência
• Imparcialidade: Não crie ou aja de acordo com o preconceito, salvaguardando assim a justiça e a dignidade humana
• Confiabilidade: Os sistemas de IA devem ser capazes de funcionar de forma confiável
• Segurança e privacidade: Os sistemas de IA devem funcionar com segurança e respeitar a privacidade dos usuários.

Conforme declarado pelo Departamento de Defesa dos EUA (DoD) em seu Princípios Éticos para o Uso da Inteligência Artificial e como eu cobri em profundidade em o link aqui, estes são os seis principais princípios éticos da IA:

• Responsável: O pessoal do DoD exercerá níveis apropriados de julgamento e cuidado, permanecendo responsável pelo desenvolvimento, implantação e uso dos recursos de IA.
• Equitativo: O Departamento tomará medidas deliberadas para minimizar o viés não intencional nos recursos de IA.
• Rastreável: Os recursos de IA do Departamento serão desenvolvidos e implantados de modo que o pessoal relevante possua uma compreensão adequada da tecnologia, processos de desenvolvimento e métodos operacionais aplicáveis ​​aos recursos de IA, incluindo metodologias transparentes e auditáveis, fontes de dados e procedimentos e documentação de design.
• Confiável: Os recursos de IA do Departamento terão usos explícitos e bem definidos, e a segurança, proteção e eficácia de tais recursos estarão sujeitas a testes e garantias dentro desses usos definidos em todo o seu ciclo de vida.
• Governável: O Departamento projetará e projetará recursos de IA para cumprir suas funções pretendidas, possuindo a capacidade de detectar e evitar consequências não intencionais e a capacidade de desengatar ou desativar sistemas implantados que demonstrem comportamento não intencional.

Também discuti várias análises coletivas de princípios de ética em IA, incluindo um conjunto elaborado por pesquisadores que examinaram e condensaram a essência de vários princípios nacionais e internacionais de ética em IA em um artigo intitulado “The Global Landscape Of AI Ethics Guidelines” (publicado dentro Natureza), e que minha cobertura explora em o link aqui, o que levou a esta lista de keystone:

• Transparência
• Justiça e equidade
• Não-Maleficência
• Social Corporativa
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Como você pode adivinhar diretamente, tentar definir as especificidades subjacentes a esses princípios pode ser extremamente difícil de fazer. Ainda mais, o esforço para transformar esses princípios amplos em algo totalmente tangível e detalhado o suficiente para ser usado na criação de sistemas de IA também é um osso duro de roer. Em geral, é fácil fazer alguns acenos sobre o que são os preceitos da Ética da IA ​​e como eles devem ser geralmente observados, embora seja uma situação muito mais complicada na codificação da IA ​​ter que ser a verdadeira borracha que encontra a estrada.

Os princípios de ética da IA ​​devem ser utilizados por desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, colocam em campo e realizam manutenção em sistemas de IA. Todas as partes interessadas em todo o ciclo de vida de desenvolvimento e uso da IA ​​são consideradas dentro do escopo de cumprir as normas estabelecidas da IA ​​Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. Como afirmado anteriormente, é preciso uma vila para conceber e colocar em campo a IA, e para a qual toda a vila deve ser versada e obedecer aos preceitos da Ética da IA.

Vamos também garantir que estamos na mesma página sobre a natureza da IA ​​de hoje.

Não há nenhuma IA hoje que seja senciente. Nós não temos isso. Não sabemos se a IA senciente será possível. Ninguém pode prever adequadamente se alcançaremos a IA senciente, nem se a IA senciente de alguma forma milagrosamente surgirá espontaneamente em uma forma de supernova cognitiva computacional (geralmente chamada de singularidade, veja minha cobertura em o link aqui).

O tipo de IA em que estou focando consiste na IA não senciente que temos hoje. Se quiséssemos especular loucamente sobre autoconsciente AI, essa discussão pode ir em uma direção radicalmente diferente. Uma IA senciente supostamente seria de qualidade humana. Você precisaria considerar que a IA senciente é o equivalente cognitivo de um humano. Mais ainda, já que alguns especulam que podemos ter IA superinteligente, é concebível que tal IA possa acabar sendo mais inteligente que os humanos (para minha exploração da IA ​​superinteligente como uma possibilidade, veja a cobertura aqui).

Vamos manter as coisas mais realistas e considerar a IA computacional não senciente de hoje.

Perceba que a IA de hoje não é capaz de “pensar” de forma semelhante ao pensamento humano. Quando você interage com Alexa ou Siri, as capacidades de conversação podem parecer semelhantes às capacidades humanas, mas a realidade é que é computacional e carece de cognição humana. A era mais recente da IA ​​fez uso extensivo de Machine Learning (ML) e Deep Learning (DL), que alavancam a correspondência de padrões computacionais. Isso levou a sistemas de IA que têm a aparência de tendências humanas. Enquanto isso, não há nenhuma IA hoje que tenha uma aparência de bom senso e nem a maravilha cognitiva do pensamento humano robusto.

ML/DL é uma forma de correspondência de padrões computacional. A abordagem usual é reunir dados sobre uma tarefa de tomada de decisão. Você alimenta os dados nos modelos de computador ML/DL. Esses modelos buscam encontrar padrões matemáticos. Depois de encontrar esses padrões, se encontrados, o sistema de IA usará esses padrões ao encontrar novos dados. Na apresentação de novos dados, os padrões baseados nos dados “antigos” ou históricos são aplicados para tornar uma decisão atual.

Eu acho que você pode adivinhar onde isso está indo. Se os humanos que tomaram as decisões padronizadas estão incorporando vieses indesejáveis, as chances são de que os dados reflitam isso de maneiras sutis, mas significativas. A correspondência de padrões computacionais de aprendizado de máquina ou aprendizado profundo simplesmente tentará imitar matematicamente os dados de acordo. Não há aparência de senso comum ou outros aspectos sensíveis da modelagem criada por IA per se.

Além disso, os desenvolvedores de IA também podem não perceber o que está acontecendo. A matemática misteriosa no ML/DL pode dificultar a descoberta dos preconceitos agora ocultos. Você esperaria e esperaria, com razão, que os desenvolvedores de IA testassem os vieses potencialmente enterrados, embora isso seja mais complicado do que possa parecer. Existe uma chance sólida de que, mesmo com testes relativamente extensos, ainda haja vieses embutidos nos modelos de correspondência de padrões do ML/DL.

Você poderia usar um pouco o famoso ou infame ditado de trash-in garbage out. O problema é que isso é mais parecido com preconceitos que insidiosamente são infundidos como preconceitos submersos na IA. O algoritmo de tomada de decisão (ADM) da IA ​​torna-se axiomaticamente carregado de iniquidades.

Não é bom.

Vamos agora retornar ao tópico da lavagem da ética da IA.

Existem quatro variantes principais da lavagem da Ética da IA ​​que costumo ver ocorrendo (explicarei isso em um momento):

1) Os lavadores de ética da IA ​​que não sabem que são: Ética de IA lavando por ignorância ou analfabetismo sobre IA e/ou Ética de IA

2) As arruelas de ética da IA ​​que se enquadram nela: Ética de IA lavando por deslizamento inadvertido, embora de outra forma genuína sobre Ética de IA e IA

3) As arruelas de ética da IA ​​que se estendem levemente: Ética da IA ​​lavando com intenção proposital, embora apenas por um pouquinho e às vezes quase desculpável (ou não)

4) Os lavadores de ética da IA ​​que sabem e vendem descaradamente: Ética de IA lavando tudo e por design insidioso e muitas vezes ultrajante

Eu geralmente sugeriria que as quatro variantes variam do, digamos, o mais inocente ao mais culpado, quanto à consciência do que é a lavagem da Ética da IA. Vamos percorrer cada um dos quatro, começando com o primeiro e seguindo para o vergonhoso quarto.

Primeiro, você tem aqueles que são um pouco sujos, pois não sabem o que é a Ética da IA, não sabem o que é a lavagem da Ética da IA ​​e provavelmente também não sabem muito sobre a IA. Você poderia dizer que eles são ignorantes ou analfabetos sobre esses tópicos. Para eles, eles provavelmente estão cometendo uma lavagem de Ética de IA e cega e alegremente não percebem que estão fazendo isso.

Isso é triste.

Também pode ser especialmente ruim se a lavagem da ética da IA ​​estiver sendo feita por uma grande agência de notícias ou influenciador de mídia social de alto nível. Eles podem ter sido alimentados com uma cama de mentiras, e eles não examinaram essas falsidades. Enquanto isso, eles usam seu alcance e influência para perpetuar as alegações de lavagem da ética da IA. Triste e pior ainda que isso preste um desserviço à sociedade. Vergonha para aqueles que se deixam enganar. Eles precisam ficar espertos. Lembre-se, ser enganado e parecer tolo são primos próximos.

O próximo na ordem é a lavagem da Ética da IA, que é um deslize. Imagine que uma empresa esteja se saindo muito bem em seguir os preceitos da Ética da IA. Podemos parabenizá-los por isso. Infelizmente, suponha que em algum momento eles façam um anúncio sobre sua IA que não seja bem apoiado do ponto de vista da Ética da IA. Se esta for uma declaração relativamente inócua ou um erro não intencional, podemos conceder-lhes alguma latitude. É claro que, se o ponto que eles defenderam está notoriamente além dos limites, a derrapagem não é tão facilmente esquecida. Há uma frase famosa que leva uma eternidade para construir uma reputação e, no entanto, leva apenas um breve momento para demoli-la completamente.

Em seguida, entramos nas duas últimas das quatro categorias.

Esses são os culpados que estão totalmente cientes da lavagem da Ética da IA ​​e conscientemente com intenção aberta decidem utilizá-la, talvez como parte de uma estratégia corporativa ou por outros meios divinos. A principal diferença entre esses dois últimos é que a lavagem da Ética da IA ​​pode ser de natureza menor, ou pode ser de natureza significativa e crucial. Você tem alguns que optam por esticar as coisas e apenas ultrapassar um pouco a linha. Há outros que estão dispostos a levar a lavagem da Ética da IA ​​ao extremo.

Você pode estar pensando que certamente qualquer lavagem extrema da ética da IA ​​teria que ser óbvia e que o extremista seria pego com a mão no pote de biscoitos. Todos veriam que o imperador não tem roupas. Lamentavelmente, dada a confusão geral sobre a IA e a Ética da IA ​​no mundo hoje, há escuridão suficiente para que mesmo a lavagem extrema da Ética da IA ​​possa obter um passe livre.

Isso pode ser bastante irritante para aqueles que são sérios e sóbrios sobre a Ética da IA. Eles assistem enquanto outra pessoa joga todo tipo de sujeira que é extremamente evidente na lavagem da Ética da IA. O extremista recebe grande atenção da mídia. Eles têm seus proverbiais 15 minutos de fama. Aqueles que estão fazendo o trabalho real e a coisa certa quando se trata de Ética em IA podem se sentir exasperados e justificadamente chateados quando a lavagem de Ética em IA é realizada impunemente por outros no mercado.

Pode ser quase comparado a sucos e doping que ocorrem nos esportes. Um atleta que colocou seu coração e alma para se tornar naturalmente um atleta de alto nível pode ficar totalmente desanimado se outra pessoa conseguir competir no mesmo nível e o fizer através do uso de drogas proibidas para melhorar o desempenho. Você deve chamar o outro spoiler? Você deve talvez optar silenciosamente por também tomar essas drogas, combatendo fogo com fogo? Este é um enigma. Para minha discussão sobre como o suco ou doping acontece no campo da IA, consulte o link aqui.

Agora que abordamos um pouco sobre a lavagem da ética da IA, podemos apresentar vários outros bordões relacionados que estão igualmente na mesma arena.

Aqui estão alguns que podemos explorar brevemente:

• Teatro de ética da IA
• Compras de ética em IA
• Ataque à ética da IA
• Blindagem ética da IA
• Fairwashing da ética da IA

Vamos examinar brevemente cada um desses bordões. Nem todos concordam com o que cada frase denota precisamente, então vou compartilhar com vocês minhas impressões gerais.

Teatro de Ética da IA

O teatro da Ética da IA ​​pode ser um pouco semelhante à lavagem da Ética da IA, pois a ideia é fazer uma demonstração considerável de ter cumprido os preceitos da Ética da IA ​​de uma maneira considerada encenada e cerimonial. Se a empresa que está realizando o circo ou o teatro de Ética da IA ​​realmente estava cumprindo as práticas da Ética da IA, você pode argumentar que eles deveriam ser capazes de fazê-lo. De fato, você pode argumentar ainda que isso inspirará outras pessoas a também respeitar a Ética da IA.

Por outro lado, parece que o teatro de Ética da IA ​​tende a exagerar. O ato circense de ter todos aqueles pôneis e elefantes tende a exagerar o que foi realmente realizado. Isso, por sua vez, começa a entrar na segunda, terceira ou quarta categoria das medidas de lavagem da Ética da IA ​​mencionadas acima. Se o teatro é mais bom do que ruim (como ser inspirador), ou mais ruim do que bom (possivelmente estimulando a lavagem da ética da IA ​​por outros), continua a ser visto.

Compras de ética em IA

Imagine que uma empresa vai construir um sistema de IA e percebe que eles devem incluir aspectos de Ética da IA ​​durante o ciclo de vida de desenvolvimento da IA. De quais das muitas diretrizes de ética da IA ​​eles devem usar?

Escolher vários deles ao mesmo tempo pode ser confuso e tornar seus esforços de IA excessivamente volumosos. As probabilidades são de que o esforço de desenvolvimento terá maior probabilidade de obedecer às práticas de Ética da IA ​​se houver um único conjunto adotado internamente ao qual todos possam se referir prontamente e entender.

Ok, então um meio de pousar em um conjunto de princípios de Ética em IA seria escolher apenas um dos muitos disponíveis. Outra seria pegar vários conjuntos e tentar juntá-los. O problema com a fusão pode ser que você gaste muita energia e tempo preciosos debatendo sobre a melhor forma de mesclar os conjuntos em um todo abrangente. Esse tipo de atenção provavelmente o desviaria de prosseguir com o processo de desenvolvimento, além de deixar a equipe de IA irritada apenas com os debates acirrados que podem ter ocorrido durante a atividade de fusão da Ética da IA.

No geral, você também pode tentar direcionar sua atenção para um conjunto de diretrizes de Ética em IA que você acredita que serão as mais fáceis de adotar. Isso pareceria perfeitamente bem. Por que tornar a vida mais difícil do que provavelmente já é? Nesse mesmo fôlego, supondo que você escolha um conjunto de Ética de IA que seja diluído. Você está com o objetivo de fazer o mínimo que você pode fazer. Você quer manter a cabeça erguida de que seguiu os preceitos da Ética da IA, enquanto escolhe secretamente o minimalista ou talvez ainda menos do grupo.

Alguns se refeririam a isso como compras de ética de IA.

Você está pesquisando para encontrar os princípios de Ética da IA ​​que lhe darão o caminho mais fácil para afirmar que você está cumprindo a Ética da IA. Isso faz sentido, pois por que você deveria fazer mais do que o necessário? Isso, porém, pode ser distorcido ao encontrar um conjunto pouco velado de ética da IA ​​e apegar-se a ele como se fosse robusto e genuíno quando a realidade é que é esparso e marginal.

Ataque à ética da IA

A noção de bashing da ética da IA ​​é um pouco direta.

Você critica ou denigre a natureza e o uso dos preceitos de Ética da IA. Uma forma comum de criticar seria insistir que as diretrizes de ética da IA ​​são inúteis e não valem o papel em que são impressas. Outra festa popular é que a Ética da IA ​​é um exercício acadêmico que não tem nada a ver com o mundo real. Existe até a exortação de que a Ética da IA ​​é ruim, presumivelmente porque fornece uma cobertura falsa para aqueles que querem parecer que estão desenvolvendo a IA adequadamente. Dessa forma, a Ética da IA ​​é um esquema de encobrimento.

Não vou insistir nos fenômenos de bashing da Ética da IA ​​e sugerir que você veja minha cobertura de por que essas bashes estão erradas ou pelo menos equivocadas, veja o link aqui.

Proteção ética da IA

A blindagem da ética da IA ​​geralmente se refere à ideia de que a ética da IA ​​é um tipo de escudo enganoso que pode esconder ou obscurecer os maus atores e os maus esforços da ética da IA. Eu aludi a isso repetidamente ao longo desta discussão aqui.

Há um escrúpulo contínuo de que alguns exibirão com orgulho que estão usando a Ética da IA ​​e a realidade subjacente é que eles não estão fazendo quase nada do tipo. Para aqueles que dizem que devemos nos livrar completamente do escudo, costumo replicar que isso é como jogar fora o bebê com a água do banho.

Fairwashing de ética em IA

A imparcialidade é importante.

Você deve se lembrar que, quando eu estava discutindo os preceitos de Ética da IA, uma das diretrizes de Ética da IA ​​identificadas com mais frequência consiste em tentar garantir que a IA seja justa ou exiba uma aparência de justiça. Isso deu origem a um bordão de “lavagem justa” que é usado às vezes para evocar a possibilidade de que um sistema de IA seja dito ou reivindicado como justo quando pode não ser justo ou há poucas evidências para apoiar que seja justo. Este é um pouco de um mashup de ética da IA, lavando com a consideração conceitual de que a IA é justa, portanto, a maneira mais rápida de expressar isso é dizendo que há potencialmente lavagem de feiras isso pode acontecer. Pesquisadores descrevem o assunto da seguinte forma: “Em particular, devido à crescente importância dos conceitos de justiça no aprendizado de máquina, uma empresa pode ser tentada a realizar fairwashing, que definimos como promover a falsa percepção de que os modelos de aprendizado utilizados pela empresa são justos, embora possa não ser assim” (por Ulrich Aiivodji, Hiromi Arai, Olivier Fortineau, Sebastien Gambs, Satoshi Hara e Alain Tapp em “Fairwashing: The Risk Of Rationalization”).

Há outra reviravolta sobre a lavagem da ética da IA ​​que você deveria considerar.

Em uma escala um tanto macroscópica, há uma preocupação expressa de que a ascensão da ética da IA ​​seja um escudo ou cobertura para algo ainda maior. Você deve estar ciente de que existem vários esforços em andamento para estabelecer leis sobre a governança da IA. Isso está acontecendo em todo o mundo. Esforços estridentes estão em andamento na UE, que abordei em minhas colunas, e também nos EUA, além de ocorrer em muitos países.

Alguns sugerem que a adoção da Ética da IA ​​pode ser um meio de evitar a promulgação dessas leis. As empresas podem argumentar de forma persuasiva que novas leis não são necessárias porque o uso da Ética da IA ​​lida adequadamente com quaisquer problemas de IA. A ética da IA ​​geralmente é classificada como uma forma de “soft law” e costuma ser voluntária (todo o resto é igual). As leis sobre IA são classificadas como as chamadas “leis duras” e não são de construção voluntária (geralmente).

Costuma-se dizer que as empresas preferem abundantemente as leis brandas às leis duras, dando-lhes mais latitude e margem de manobra. Nem todos concordam com esse sentimento. Alguns dizem que as leis brandas permitem que as empresas se livrem de esforços inadequados e a única maneira de pregá-los é promulgando leis rígidas. Outros apontam que as empresas às vezes preferem leis rígidas, que podem fornecer um campo de jogo mais claro. Leis duras podem potencialmente fazer com que todos os jogadores cumpram as mesmas regras. As leis brandas permitem uma espécie de escolha, criando confusão e perturbando o campo de jogo.

Veja como a pesquisa descreve a ética da IA ​​em meio a essa visão mais ampla do que pode estar acontecendo: está cada vez mais identificada com a adoção de aparências de comportamento ético pelas empresas de tecnologia. Chamamos essa crescente instrumentalização da linguagem ética pelas empresas de tecnologia de “lavagem da ética”. Além dos conselhos de ética da IA, a lavagem da ética inclui outras tentativas de simplificar o valor do trabalho ético, que muitas vezes fazem parte de uma estratégia de comunicação corporativa: a contratação de filósofos morais internos que têm pouco poder para moldar as políticas internas da empresa; o foco no design humano – por exemplo, incentivando os usuários a reduzir o tempo gasto em aplicativos – em vez de enfrentar os riscos inerentes à existência dos próprios produtos; o financiamento do trabalho em sistemas de aprendizado de máquina 'justos' que obscurece positivamente questionamentos mais profundos em torno dos impactos mais amplos desses sistemas na sociedade” (por Elettra Bietti, “From Ethics Washing to Ethics Basshing: A View on Tech Ethics from Within Moral Philosophy”, Anais da Conferência 2020 sobre Justiça, Responsabilidade e Transparência).

Neste momento desta discussão pesada, eu aposto que você está desejoso de alguns exemplos ilustrativos que possam mostrar este tópico. Há um conjunto especial e seguramente popular de exemplos que estão perto de meu coração. Veja bem, na minha qualidade de especialista em IA, incluindo as ramificações éticas e legais, sou frequentemente solicitado a identificar exemplos realistas que mostrem dilemas de ética em IA para que a natureza um tanto teórica do tópico possa ser mais prontamente compreendida. Uma das áreas mais evocativas que apresenta vividamente esse dilema ético da IA ​​é o advento dos verdadeiros carros autônomos baseados em IA. Isso servirá como um caso de uso útil ou um exemplo para uma ampla discussão sobre o tópico.

Aqui está, então, uma questão digna de nota que vale a pena contemplar: O advento dos verdadeiros carros autônomos baseados em IA ilumina alguma coisa sobre a lavagem da Ética da IA ​​e, em caso afirmativo, o que isso mostra?

Permita-me um momento para descompactar a pergunta.

Primeiro, observe que não há um motorista humano envolvido em um verdadeiro carro autônomo. Lembre-se de que os verdadeiros carros autônomos são conduzidos por meio de um sistema de direção de IA. Não há necessidade de um motorista humano ao volante, nem há uma provisão para um humano dirigir o veículo. Para minha cobertura extensa e contínua de Veículos Autônomos (AVs) e especialmente carros autônomos, consulte o link aqui.

Eu gostaria de esclarecer melhor o que quero dizer quando me refiro a verdadeiros carros autônomos.

Compreendendo os níveis de carros autônomos

Para esclarecer, os verdadeiros carros autônomos são aqueles em que a IA dirige o carro inteiramente por conta própria e não há nenhuma assistência humana durante a tarefa de dirigir.

Esses veículos sem motorista são considerados Nível 4 e Nível 5 (veja minha explicação em este link aqui), enquanto um carro que requer um motorista humano para compartilhar o esforço de direção é geralmente considerado no Nível 2 ou Nível 3. Os carros que compartilham a tarefa de direção são descritos como semi-autônomos e normalmente contêm uma variedade de complementos automatizados que são chamados de ADAS (Advanced Driver-Assistance Systems).

Ainda não existe um verdadeiro carro autônomo no Nível 5, e ainda não sabemos se isso será possível, nem quanto tempo levará para chegar lá.

Enquanto isso, os esforços do Nível 4 estão gradualmente tentando obter alguma tração, passando por testes muito estreitos e seletivos em vias públicas, embora haja controvérsia sobre se esse teste deve ser permitido por si só (somos todos cobaias de vida ou morte em um experimento ocorrendo em nossas rodovias e atalhos, alguns afirmam, veja minha cobertura em este link aqui).

Como os carros semi-autônomos exigem um motorista humano, a adoção desses tipos de carros não será muito diferente da condução de veículos convencionais, portanto, não há muito por si novo sobre eles sobre esse tópico (porém, como você verá em um momento, os pontos a seguir apresentados são geralmente aplicáveis).

Para carros semi-autônomos, é importante que o público seja avisado sobre um aspecto perturbador que vem surgindo ultimamente, a saber, apesar dos motoristas humanos que continuam postando vídeos de si mesmos adormecendo ao volante de um carro de Nível 2 ou Nível 3 , todos precisamos evitar ser enganados, acreditando que o motorista pode desviar sua atenção da tarefa de dirigir enquanto dirige um carro semi-autônomo.

Você é a parte responsável pelas ações de direção do veículo, independentemente de quanta automação possa ser lançada no Nível 2 ou Nível 3.

Carros autônomos e lavagem ética de IA

Nos verdadeiros veículos autônomos de nível 4 e 5, não haverá um motorista humano envolvido na tarefa de dirigir.

Todos os ocupantes serão passageiros.

A IA está dirigindo.

Um aspecto a discutir imediatamente envolve o fato de que a IA envolvida nos atuais sistemas de direção de IA não é senciente. Em outras palavras, a IA é totalmente um coletivo de programação e algoritmos baseados em computador e, com certeza, incapaz de raciocinar da mesma maneira que os humanos.

Por que essa ênfase adicional sobre a IA não ser senciente?

Porque quero enfatizar que, ao discutir o papel do sistema de direção da IA, não estou atribuindo qualidades humanas à IA. Esteja ciente de que existe uma tendência contínua e perigosa nos dias de hoje de antropomorfizar a IA. Em essência, as pessoas estão atribuindo uma sensibilidade semelhante à humana à IA de hoje, apesar do fato inegável e indiscutível de que tal IA ainda não existe.

Com esse esclarecimento, você pode imaginar que o sistema de direção de IA não “saberá” nativamente sobre as facetas da direção. A direção e tudo o que isso acarreta precisarão ser programados como parte do hardware e do software do carro que dirige sozinho.

Vamos mergulhar na miríade de aspectos que afetam esse tópico.

Primeiro, é importante perceber que nem todos os carros autônomos com IA são iguais. Cada montadora e empresa de tecnologia de direção autônoma está adotando sua abordagem para criar carros autônomos. Como tal, é difícil fazer declarações abrangentes sobre o que os sistemas de condução de IA farão ou não.

Além disso, sempre que afirmar que um sistema de direção de IA não faz alguma coisa em particular, isso pode, mais tarde, ser ultrapassado por desenvolvedores que de fato programam o computador para fazer exatamente isso. Passo a passo, os sistemas de direção de IA estão sendo gradualmente aprimorados e ampliados. Uma limitação existente hoje pode não existir mais em uma iteração ou versão futura do sistema.

Espero que isso forneça uma litania suficiente de advertências para fundamentar o que estou prestes a relatar.

Você quase certamente já viu manchetes que proclamam a afirmação ousada de que os veículos autônomos estão aqui e os carros autônomos já estão aperfeiçoados. A implicação é geralmente que os aspectos de autonomia são resolvidos. Derivamos IA que é tão boa quanto motoristas humanos, possivelmente até melhor que humanos.

Apenas para estourar essa bolha e acertar as contas, esse ainda não é o caso.

Sabemos que motoristas humanos nos Estados Unidos sofrem cerca de 2.5 milhões de acidentes de carro anualmente, resultando em mais de 40,000 mortes anuais, veja minhas estatísticas em o link aqui. Qualquer pessoa de qualquer tipo razoável daria boas-vindas aos sistemas de direção de IA se pudessem dirigir com a mesma segurança ou com mais segurança do que os motoristas humanos. Além disso, a esperança é que experimentemos mobilidade para todos, permitindo que aqueles que hoje são restritos à mobilidade tenham veículos movidos por IA que forneçam acesso imediato para transporte conveniente e barato.

Alguns especialistas chocantemente vão além e fazem a afirmação vergonhosa de que carros autônomos serão infalíveis. Isso é absolutamente maluco e completamente falso. Pior ainda, está criando expectativas elevadas que não podem ser atendidas. Se você puder convencer a população de que os carros autônomos não podem bater, eles gritarão e berrarão no momento em que ocorrer um acidente relacionado a um carro autônomo. Para minha explicação detalhada de por que a reivindicação uncrashable é louca e um desserviço à sociedade, veja minha cobertura em o link aqui.

Pode-se dizer que todos esses tipos de exageros ou outras falsidades estão cobertos pelos preceitos da Ética da IA, pois, se você está seguindo os princípios da Ética da IA, não deveria estar fazendo esses tipos de alegações infundadas e infundadas. Assim, essas deturpações e inverdades estão prontamente dentro da rubrica de lavagem de ética da IA.

A lavagem de ética de IA associada a veículos autônomos e carros autônomos é ampla e descontroladamente abundante, infelizmente. Uma pesquisa casual e improvisada na Internet mostrará zilhões de alegações malucas e sem suporte sobre veículos autônomos. Isso não se limita apenas às pessoas que estão em seus próprios blogs. As principais agências de notícias se envolvem nisso. Grandes empresas se envolvem nisso. As startups ficam presas nisso. As empresas de capital de risco ficam presas nisso. Os acionistas ficam presos nisso. E assim por diante.

Eu diria com uma alta confiança sombria de que a lavagem da ética da IA ​​nesse domínio específico é desenfreada.

Uma variante especializada do bordão sobre a lavagem da ética da IA ​​que implica autonomia e sistemas autônomos é a noção de autonowashing. Aqui está a autora Liza Dixon descrevendo isso: “Adaptado para automação, autonowashing é definido como a prática de fazer declarações não verificadas ou enganosas que deturpam o nível apropriado de supervisão humana exigido por um produto, serviço ou tecnologia parcial ou semi-autônomo. A autolavagem também pode ser estendida a sistemas totalmente autônomos, nos casos em que as capacidades do sistema são exageradas além do que pode ser executado de forma confiável, sob todas as condições. Autonowashing faz algo parecer mais autônomo do que realmente é. O objetivo da autolavagem é diferenciar e/ou oferecer vantagem competitiva a uma entidade, através do uso de palavreado superficial destinado a transmitir um nível de confiabilidade do sistema desalinhado com as capacidades técnicas do sistema. A autolavagem também pode ocorrer inadvertidamente, quando alguém repete inconscientemente informações errôneas sobre as capacidades de um sistema automatizado para outro. A autolavagem é uma forma de desinformação e, de certa forma, viral” (Perspectiva Interdisciplinar da Pesquisa em Transportes, “Autonowashing: The Greenwashing of Vehicle Automation”, 2020).

Como um lembrete da minha indicação anterior, existem quatro variantes principais de lavagem de ética em IA que eu costumo ver ocorrendo e elas também são facilmente encontradas no campo de veículos autônomos:

• Os lavadores de ética da IA ​​que não sabem que são: AI Ética lavando por ignorância ou analfabetismo sobre AI e/ou AI Ética em veículos autônomos
• As arruelas de ética da IA ​​que se enquadram nela: Ética de IA lavando por derrapagem inadvertida, embora genuína sobre Ética de IA e IA em veículos autônomos
• As arruelas de ética da IA ​​que se estendem levemente: Ética de IA lavando por intenção proposital, embora apenas por um pouquinho e às vezes quase desculpável (ou não) em veículos autônomos
• Os lavadores de ética da IA ​​que sabem e vendem descaradamente: Ética de IA lavando tudo e por design insidioso e muitas vezes ultrajante em veículos autônomos

Além disso, você pode ver prontamente instâncias de outros tipos de lavagem de ética de IA e doenças de lavagem associadas no campo da autonomia, incluindo:

• Teatro de ética da IA em veículos autônomos e carros autônomos
• Compras de ética em IA em veículos autônomos e carros autônomos
• Ataque à ética da IA em veículos autônomos e carros autônomos
• Blindagem ética da IA em veículos autônomos e carros autônomos
• Fairwashing da ética da IA em veículos autônomos e carros autônomos

Conclusão

A lavagem da ética da IA ​​está ao nosso redor. Estamos tomando banho nele.

Espero que, ao chamar sua atenção para esse assunto sério e aparentemente sem fim, você seja capaz de discernir quando está sendo lavado pela Ética da IA. Pode ser difícil descobrir. Aqueles que lavam a ética da IA ​​podem ser extremamente inteligentes e desonestos.

Um truque útil é misturar na lavagem um pouco de verdade que se mistura com as falsidades ou exageros. Como você pode facilmente detectar e concordar com a parte verdadeira, você é potencialmente levado a acreditar que a outra parte falsa ou enganosa também é verdadeira. Uma forma astuciosa e desagradável de engano.

Vamos chamar de bobagem.

Podemos lavar a boca daqueles que executam diretamente a lavagem da Ética da IA?

Lamento informar que não é tão fácil quanto se poderia desejar. Dito isto, só porque pegar e chamar a atenção para a lavagem da Ética da IA ​​pode ser árduo e às vezes ser como Sísifo empurrando uma pedra pesada colina acima, precisamos tentar.

Caso você não saiba, Zeus o encarregou de fazer essa pedra empurrando para a eternidade e a imensa rocha rolaria para sempre de volta quando o esforço chegasse ao topo. Acho que estamos enfrentando a mesma situação quando se trata de lavagem de ética em IA.

Sempre haverá mais lavagem de ética de IA que precisa ser lavada. Essa é uma garantia infalível com nada insosso sobre isso.