Ética da IA ​​lutando apaixonadamente pelo seu direito legal de ser uma exceção

Dizem que há uma exceção para toda regra.

O problema, porém, é que muitas vezes a regra permanente prevalece e há pouca ou nenhuma permissão para que uma exceção seja reconhecida ou aceita. O caso médio é usado apesar da possibilidade estridente de que uma exceção esteja em primeiro plano. Uma exceção não tem tempo de antena. Não tem a chance de ser devidamente considerado.

Tenho certeza que você deve saber do que estou falando.

Você já tentou obter algum tipo de atendimento ao cliente individualizado pelo qual você foi tratado descuidadamente sem qualquer distinção para o seu caso particular e suas necessidades específicas?

Isso, sem dúvida, aconteceu com você, provavelmente inúmeras vezes.

Vou levá-lo através de uma tendência perturbadora que está surgindo sobre como a Inteligência Artificial (IA) está sendo incansavelmente concebida para forçar o ajuste de tudo no paradigma de tamanho único.

As exceções não são detectadas ou optam por ser deformadas como se não fossem exceções. A base para isso é parcialmente devido ao advento do Machine Learning (ML) e Deep Learning (DL). Como você verá em breve, ML/DL é uma forma de correspondência de padrões computacional, do tipo que é “mais fácil” de desenvolver e implantar se você estiver disposto a ignorar ou contornar exceções. Isso é altamente problemático e levanta preocupações notáveis ​​sobre a ética da IA. Para minha cobertura geral contínua e extensa de Ética em IA e IA Ética, consulte o link aqui e o link aqui, Apenas para nomear alguns.

As coisas não precisam ser assim e saiba que isso está sendo alimentado por aqueles que estão criando e implantando IA, optando por ignorar ou minimizar o tratamento de exceções em suas misturas de IA.

Quando regra de exceções

Vamos primeiro descompactar a natureza do caso médio versus a realização de exceções.

Meu exemplo favorito desse tipo de abordagem sem exceções de casos míopes ou míopes é intensamente iluminado por quase qualquer episódio da aclamada e ainda imensamente popular série de TV conhecida como House, MD (geralmente apenas expresso como House, que decorreu de 2004 a 2012 e pode ser visto hoje nas redes sociais e outros meios de comunicação). O show envolvia um personagem fictício chamado Dr. Gregory House que era rude, insuportável e pouco convencional, mas ele era retratado como um gênio médico que poderia descobrir as mais obscuras doenças e enfermidades. Outros médicos e até pacientes podem não gostar necessariamente dele, mas ele fez o trabalho.

Veja como um episódio típico se desenrolou (alerta de spoiler genérico!).

Um paciente aparece no hospital onde o Dr. House está na equipe. O paciente está apresentando inicialmente sintomas um tanto comuns e vários outros médicos se revezam tentando diagnosticar e curar o paciente. O estranho é que as tentativas de ajudar o paciente falham em melhorar as condições adversas ou pior ainda tendem a sair pela culatra. O paciente fica cada vez pior.

Porque o paciente agora é visto como uma espécie de curiosidade médica, e já que ninguém mais pode descobrir do que o paciente está sofrendo, o Dr. House é trazido para o caso. Isso às vezes é feito propositalmente para explorar suas proezas médicas, enquanto em outros casos ele ouve sobre o caso e seus instintos inatos o atraem para as circunstâncias incomuns.

Gradualmente descobrimos que o paciente tem alguma doença extremamente rara. Apenas o Dr. House e sua equipe de médicos internos são capazes de descobrir isso.

Agora que compartilhei com vocês o enredo principal dos episódios, vamos mergulhar nas lições aprendidas que ilustram a natureza do caso médio versus exceções.

As histórias fictícias são projetadas para mostrar como pensar dentro da caixa às vezes pode errar o alvo. Todos os outros médicos que estão inicialmente tentando ajudar o paciente estão obscurecidos em seus processos de pensamento. Eles querem forçar os sintomas e facetas apresentadas em um diagnóstico médico convencional. O paciente é apenas um dos muitos que eles presumivelmente já viram antes. Examine o paciente e, em seguida, prescreva os mesmos tratamentos e soluções médicas que eles usaram repetidamente ao longo de suas carreiras médicas.

Lave, enxágue e repita.

Em certo sentido, você pode justificar essa abordagem. As chances são de que a maioria dos pacientes terá as doenças mais comuns. Dia após dia, esses médicos encontram os mesmos problemas médicos. Você poderia sugerir que os pacientes que entram no hospital estão realmente em uma linha de montagem médica. Cada um flui ao longo dos protocolos padronizados do hospital como se fossem partes de uma fábrica ou fábrica de montagem.

O caso médio prevalece. Isso não apenas é geralmente adequado, mas também permite que o hospital e a equipe médica otimizem seus serviços médicos de acordo. Os custos podem ser reduzidos quando você cria os processos médicos para lidar com o caso médio. Há um conselho bastante famoso, muitas vezes martelado na mente dos estudantes de medicina, a saber, que se você ouvir sons de cascos vindos da rua, é provável que você esteja pensando em um cavalo em vez de em uma zebra.

Eficiente, produtivo, eficaz.

Até que uma exceção se infiltre no meio.

Talvez uma zebra do zoológico tenha escapado e passeado pela sua rua.

Isso significa que as exceções devem ser a regra e que devemos deixar de lado a regra do caso médio em vez de nos concentrarmos exclusivamente nas exceções?

Você seria pressionado a afirmar que todos os nossos encontros e serviços diários devem ser focados em exceções e não no caso médio.

Note que não estou fazendo tal sugestão. O que estou afirmando é que devemos garantir que sejam permitidas exceções e que precisamos reconhecer quando surgem exceções. Menciono isso porque alguns especialistas tendem a proclamar em voz alta que, se você é um defensor do reconhecimento de exceções, você deve se opor à criação para o caso médio.

Essa é uma falsa dicotomia.

Não caia nessa.

Podemos ter o nosso bolo e comê-lo também.

Defendendo o direito de ser uma exceção

Em seguida, talvez forneça um pouco de choque que relacione tudo isso com o crescente uso da IA.

Os sistemas de IA estão cada vez mais sendo criados para se concentrar no caso médio, muitas vezes em detrimento do reconhecimento de exceções.

Você pode se surpreender ao saber que isso está acontecendo. A maioria de nós suporia que, como a IA é uma forma de automação de computador, a beleza de automatizar as coisas é que você geralmente pode incorporar exceções. Isso geralmente pode ser feito a um custo menor do que se você estivesse usando mão de obra humana para realizar um serviço semelhante. Com trabalho humano, pode ser caro ou proibitivo ter todos os tipos de mão de obra disponíveis que possam lidar com exceções. As coisas são muito mais fáceis de gerenciar e colocar em prática se você puder presumir que seus clientes ou clientes são todos do calibre de caso médio. Mas o uso de sistemas informatizados deve acomodar exceções, prontamente. Nesse modo de pensar, deveríamos estar torcendo ruidosamente para que mais recursos informatizados venham à tona.

Considere isso como um enigma alucinante e reserve um momento para refletir sobre esta questão irritante: Como pode a IA que, de outra forma, é considerada o melhor da automação, aparentemente inexoravelmente marchando pelo caminho rotinizado e sem exceções que, ironicamente ou inesperadamente, imaginávamos estar indo na direção exatamente oposta?

Responda: Machine Learning e Deep Learning estão nos levando a uma existência sem exceções, embora não porque temos que seguir obrigatoriamente esse caminho (podemos fazer melhor).

Vamos desempacotar isso.

Suponha que decidamos usar o Machine Learning para criar IA que será usada para descobrir diagnósticos médicos. Coletamos um monte de dados históricos sobre pacientes e suas circunstâncias médicas. O ML/DL que configuramos tenta realizar uma correspondência de padrão computacional que examinará os sintomas dos pacientes e processará uma doença esperada associada a esses sintomas.

Com base nos dados alimentados, o ML/DL determina matematicamente que sintomas como coriza, dor de garganta, dores de cabeça e dores estão fortemente associados ao resfriado comum. Um hospital opta por usar essa IA para fazer a pré-triagem de pacientes. Com certeza, os pacientes que relatam esses sintomas ao chegarem ao hospital são “diagnosticados” como provavelmente tendo um resfriado comum.

Mudando de assunto, vamos adicionar um toque do Dr. House a tudo isso.

Um paciente chega ao hospital e é diagnosticado pela IA. A IA indica que o paciente parece ter um resfriado comum com base nos sintomas de coriza, dor de garganta e dores de cabeça. O paciente recebe prescrições aparentemente adequadas e aconselhamento médico para lidar com um resfriado comum. Tudo isso é parte integrante da abordagem de caso médio usada ao conceber a IA.

Acontece que o paciente acaba tendo esses sintomas por vários meses. Um especialista em doenças raras e alimentos percebe que esses mesmos sintomas podem ser reflexo de um vazamento de líquido cefalorraquidiano (LCR). O especialista trata o paciente com diversos procedimentos cirúrgicos relacionados a tais vazamentos. O paciente se recupera (a propósito, esta história notável sobre um paciente com vazamento de LCR que foi inicialmente diagnosticado como tendo um resfriado comum baseia-se vagamente em um caso médico real).

Agora vamos refazer nossos passos nesta saga médica.

Por que a IA que estava fazendo a pré-triagem de ingestão não conseguiu avaliar que o paciente pode ter essa doença rara?

Uma resposta é que, se os dados de treinamento usados ​​para criar o ML/DL não contivessem tais instâncias, não haveria nada neles para a correspondência de padrões computacionais corresponder. Dada a ausência de dados que abranjam exceções à regra, a regra geral ou o próprio caso médio serão considerados aparentemente imaculados e aplicados sem qualquer hesitação.

Outra possibilidade é que tenha havido uma instância desse raro vazamento de LCR nos dados históricos, mas foi apenas uma instância específica e, nesse sentido, um valor atípico. O restante dos dados estava matematicamente próximo do caso médio apurado. Surge então a questão sobre o que fazer com o chamado outlier.

Esteja ciente de que lidar com esses valores discrepantes é uma questão que difere muito de como os desenvolvedores de IA podem decidir lidar com a aparência de algo fora do caso médio determinado. Não há uma abordagem obrigatória que os desenvolvedores de IA sejam obrigados a adotar. É um pouco do Velho Oeste o que qualquer desenvolvedor de IA pode fazer em qualquer instância de levantamento de exceção de seus esforços de desenvolvimento de ML/DL.

Aqui está minha lista das maneiras pelas quais essas exceções são frequentemente inapropriadamente tratado:

• Exceção assumida como um erro
• Exceção assumida como indigna
• Exceção assumida como ajustável na “norma”
• Exceção não notada
• Exceção notada, mas sumariamente ignorada
• Exceção notada e depois esquecida
• Exceção notada e ocultada da vista
• Etc.

Um desenvolvedor de IA pode decidir que a raridade nada mais é do que um erro nos dados. Pode parecer estranho que alguém pense dessa forma, especialmente se você tentar humanizá-lo, por exemplo, imaginando que o paciente com o vazamento de LCR é aquele caso. Há uma forte tentação, porém, de que se todos os seus dados fora de contexto dizem basicamente uma coisa, talvez consistindo em milhares e milhares de registros e todos eles estão convergindo para um caso médio, a ocorrência de um dado estranho pode prontamente (preguiçosamente!) ser interpretado como um erro total. O “erro” pode então ser descartado pelo desenvolvedor de IA e não considerado dentro do domínio em que o ML/DL está sendo treinado.

Outro meio de lidar com uma exceção seria decidir que é um assunto indigno. Por que se preocupar com uma raridade quando você está correndo para colocar um ML/DL em funcionamento? Jogue fora o outlier e siga em frente. Nenhum pensamento vai necessariamente para as repercussões no caminho.

Ainda outra abordagem envolve dobrar a exceção no restante do meio de caso médio. O desenvolvedor de IA modifica os dados para se adequar ao restante da norma. Há também a chance de o desenvolvedor de IA não perceber que a exceção existe.

O ML/DL pode relatar que a exceção foi detectada, que então o desenvolvedor de IA deve instruir o ML/DL sobre como o valor atípico deve ser tratado matematicamente. O desenvolvedor de IA pode colocar isso em uma lista de tarefas e depois esquecer de lidar com isso ou simplesmente optar por ignorá-lo e assim por diante.

Em suma, a detecção e resolução de lidar com exceções quando se trata de IA não tem nenhuma abordagem especificamente estipulada ou convincentemente equilibrada e fundamentada por si só. As exceções são frequentemente tratadas como párias indignas e o caso médio é o vencedor. Lidar com exceções é difícil, pode ser demorado, requer uma aparência de habilidades de desenvolvimento de IA hábeis e, de outra forma, é um incômodo em comparação com agrupar as coisas em uma gravata borboleta bacana de um pacote de tamanho único.

Até certo ponto, é por isso que a ética da IA ​​e a IA ética são um tópico tão crucial. Os preceitos da Ética da IA ​​nos fazem permanecer vigilantes. Os tecnólogos de IA às vezes podem ficar preocupados com a tecnologia, particularmente com a otimização da alta tecnologia. Eles não estão necessariamente considerando as maiores ramificações sociais.

Além de empregar os preceitos da Ética da IA ​​em geral, há uma questão correspondente sobre se devemos ter leis para governar vários usos da IA. Novas leis estão sendo divulgadas nos níveis federal, estadual e local que dizem respeito ao alcance e à natureza de como a IA deve ser concebida. O esforço para redigir e promulgar tais leis é gradual.

Nessa discussão em particular sobre o papel das exceções, surge um ponto de vista provocativo de que talvez devesse haver um direito legal associado a ser uma exceção. Pode ser que o único meio viável de obter reconhecimento de boa-fé para alguém possivelmente sendo uma exceção implique a utilização do longo braço da lei.

Colocar em prática um novo tipo de direito humano.

O direito de ser considerado uma exceção.

Considere esta proposta: “O direito de ser uma exceção não implica que todo indivíduo is uma exceção, mas que, quando uma decisão pode causar danos ao sujeito da decisão, o tomador de decisão deve considerar a possibilidade de que o sujeito pode ser uma exceção. O direito de ser uma exceção envolve três ingredientes: prejudicar, individualização e incerteza. O tomador de decisão deve optar por infligir danos apenas quando considerar se a decisão é adequadamente individualizada e, crucialmente, a incerteza que acompanha o componente orientado por dados da decisão. Quanto maior o risco de dano, mais séria a consideração” (por Sarah Cen, em um trabalho de pesquisa intitulado O direito de ser uma exceção na tomada de decisão baseada em dados, MIT, 12 de abril de 2022).

Você pode ficar tentado a supor que já temos esse direito.

Não necessariamente. De acordo com o trabalho de pesquisa, o direito humano reconhecido internacionalmente mais próximo pode ser o da dignidade individual. Em teoria, a noção de que deveria haver um reconhecimento da dignidade de tal forma que um indivíduo e sua singularidade específica devam ser englobados coloca você dentro do limite de um potencial direito humano de exceção. Um escrúpulo é que as leis existentes que governam o domínio da dignidade são consideradas um tanto nebulosas e excessivamente maleáveis, portanto, não bem sintonizadas com a construção legal específica de um direito de exceção.

Aqueles que defendem um novo direito que consiste em um direito humano de ser uma exceção argumentariam que:

• Esse direito praticamente forçaria legalmente os desenvolvedores de IA a lidar explicitamente com exceções
• As empresas que fazem IA estariam mais legalmente no gancho por não lidar com exceções
• A IA provavelmente seria mais equilibrada e mais robusta em geral
• Aqueles que usam IA ou sujeitos a IA estariam melhor
• Quando a IA não acomoda exceções, o recurso legal seria prontamente viável
• Os criadores de IA também estarão em melhor situação (sua IA cobriria uma gama mais ampla de usuários)
• Etc.

Aqueles que se opõem a um novo direito rotulado como direito humano de exceção tendem a dizer:

• Os direitos humanos e os direitos legais existentes cobrem isso suficientemente e não há necessidade de complicar as coisas
• Um fardo indevido seria colocado nos ombros dos fabricantes de IA
• Esforços para criar IA se tornariam mais caros e tenderiam a desacelerar o progresso da IA
• Surgiriam falsas expectativas de que todos exigiriam que fossem uma exceção
• O próprio direito estaria, sem dúvida, sujeito a diferentes interpretações
• Aqueles que mais ganharão serão a profissão de advogado quando os casos legais dispararem
• Etc.

Em suma, a oposição a esse novo direito geralmente argumenta que este é um jogo de soma zero e que um direito legal de ser uma exceção custará mais do que o benefício benéfico. Aqueles que acreditam que esse novo direito é sensatamente necessário estão aptos a enfatizar que este não é um jogo de soma zero e que no final todos se beneficiam, incluindo aqueles que fazem IA e aqueles que usam IA.

Você pode ter certeza de que esse debate que abrange implicações legais, éticas e sociais associadas à IA e às exceções será alto e persistente.

Carros autônomos e a importância das exceções

Considere como isso se aplica no contexto de sistemas autônomos, como veículos autônomos e carros autônomos. Já houve várias críticas sobre a mentalidade de caso médio do desenvolvimento de IA para carros autônomos e veículos autônomos.

Por exemplo, no início, muito poucos projetos de carros autônomos acomodavam aqueles que têm alguma forma de deficiência física ou deficiência. Não se pensou muito em abranger mais amplamente uma gama completa de necessidades dos pilotos. Em geral, essa conscientização aumentou, embora ainda existam preocupações sobre se isso está suficientemente avançado e tão amplamente adotado quanto deveria ser.

Outro exemplo do caso médio versus uma exceção tem a ver com algo que pode pegá-lo desprevenido.

Está pronto para começar?

O design e a implantação de muitos dos sistemas de direção de IA e carros autônomos de hoje tendem a fazer uma suposição silenciosa ou tácita de que os adultos estarão andando no carro autônomo. Sabemos que quando um motorista humano está ao volante, é claro que há um adulto no veículo, por definição, já que geralmente obter uma licença para dirigir se baseia em ser um adulto (bem, ou quase um). Para carros autônomos que têm IA fazendo toda a direção, não há necessidade de um adulto estar presente.

O ponto é que podemos ter crianças andando de carro sozinhas sem a presença de nenhum adulto, pelo menos isso é possível no caso de carros autônomos totalmente autônomos e movidos por IA. Você pode enviar seus filhos para a escola pela manhã usando um carro autônomo. Em vez de você ter que dar carona aos seus filhos, ou ter que usar um motorista humano de um serviço de compartilhamento de caronas, você pode simplesmente fazer com que seus filhos entrem em um carro autônomo e sejam levados para a escola.

Nem tudo são rosas quando se trata de ter filhos em carros autônomos.

Como não é mais necessário ter um adulto no veículo, isso implica que as crianças também não se sentirão influenciadas ou, digamos, controladas pela presença de um adulto. As crianças vão enlouquecer e rasgar o interior dos carros autônomos? As crianças tentarão escalar ou alcançar as janelas do carro autônomo? Que outros tipos de travessuras eles podem fazer, levando a possíveis ferimentos e danos graves?

Eu cobri o debate acalorado sobre a ideia de crianças andando sozinhas em carros autônomos, veja o link aqui. Alguns dizem que isso nunca deveria ser permitido. Alguns dizem que é inevitável e precisamos descobrir a melhor forma de fazê-lo funcionar.

Conclusão

Vamos retornar ao tema abrangente do caso médio versus a exceção.

Todos nós parecemos concordar que sempre haverá alguma exceção à regra. Uma vez que uma regra tenha sido formada ou identificada, devemos procurar exceções. Quando encontramos exceções, devemos pensar em qual regra essa exceção provavelmente se aplica.

Muitas das IA que estão sendo criadas hoje são moldadas em torno da formulação da regra, enquanto os desafios associados às exceções tendem a ser abandonados e ignorados.

Para aqueles que gostam de ser bajuladores e dizem que não há exceções à regra de que sempre há exceções à regra, eu reconheço que esse chiste parece ser um quebra-cabeças mental. Ou seja, como podemos ter uma regra de que sempre há exceções, mas essa mesma regra não parece se aplicar à regra de que sempre há exceções à regra?

Faz sua cabeça girar.

Felizmente, não há necessidade de complicar excessivamente essas questões preocupantes. Esperamos que possamos viver com a regra prática e vital que devemos procurar e acomodar as exceções a todas as regras.

Isso resolve as coisas, então agora vamos trabalhar nisso.