Ética da IA ​​e o papel social e legal desconcertante do ativismo da IA, incluindo no caso de carros autônomos

Ativismo de IA.

Sim, há tal coisa.

Minha definição formal é esta:

• Ativismo de IA consiste em esforços para tentar moldar a direção contínua e futura da Inteligência Artificial através do uso de meios sociais, econômicos, políticos e outros.

Alguns podem preferir denotar isso como IA advocacia, embora eu geralmente discorde do uso dessa formulação alternativa neste contexto elevado. Aqui está o porquê. Veja, minha definição informal é que a atividade de ativismo da IA ​​tende a favorecer o surgimento e a adoção da IA or tende a desfavorecer ou se opor alternativa e distintamente à IA.

É um acordo de compras decididamente dois por um.

Através da minha indicação informal, estou sugerindo que existem dois pontos de vista ativistas primários, ou seja, aqueles que querem IA e aqueles que não querem IA. Como tal, se você se referir a esse genérico como “advocacia da IA”, parece um pouco fora de ordem para mim. A maioria das pessoas naturalmente assumiria que um defensor é alguém que exclusivamente favorece ou defende algo. Para ter certeza, nem todos são necessariamente favoráveis ​​à IA.

Vamos, portanto, com Ativismo de IA como o apelido abrangente apropriado e abandone a frase de defesa da IA ​​como um genérico potencialmente equivalente.

Agora, supõe-se, poderíamos rotular ativista da IA apoiantes como defensores da IA, embora isso possa criar alguma confusão com uma abundância de possibilidades de nomenclatura flutuando. Talvez precisemos ser justos e diretos e adicionar as frases dos oponentes da IA ​​ou dos manifestantes da IA ​​aos nossos bordões também.

Se você quiser, podemos concordar com esta nomenclatura:

• Defensores da IA são ativistas de IA que apoiam avidamente a direção contínua e futura da IA ​​por meio do uso de meios sociais, econômicos, políticos e outros.
• oponentes de IA são ativistas de IA que desfavorecem abertamente a IA e o fazem por meio do uso de meios sociais, econômicos, políticos e outros.

Espero que pareça fácil o suficiente para manter em linha reta.

Mas há algumas reviravoltas adicionais, desculpe dizer. Eu deveria fornecer imediatamente alguns esclarecimentos sobre a noção de que existem apenas dois caminhos a seguir. Claro, em geral, existem dois campos. Você tem o segmento que está preocupado ou preocupado com a IA e quer que a IA seja interrompida ou pelo menos que nossos avanços em IA sejam desacelerados. A ideia é que estamos adotando uma abordagem excessivamente arriscada para a IA hoje em dia. Precisamos pensar antes de mergulhar de cabeça no poço de água, por assim dizer.

Alguns adotam um ponto de vista totalmente diferente e exclamam que precisamos estar avançando a toda velocidade na IA. A exortação é que os avanços na IA estão fazendo um grande progresso e não devemos prejudicar esse avanço. A IA garantirá nossa prosperidade como humanos e quanto mais cedo chegarmos lá, melhor estaremos. Os pessimistas são bloqueios impróprios que atrasarão um mundo melhor.

Tudo isso tem uma ética de IA bastante crucial e ramificações éticas de IA. Para minha cobertura contínua e extensa de Ética em IA e IA Ética, consulte o link aqui e o link aqui, Apenas para nomear alguns.

Eu percebo que alguns de vocês podem se sentir como se não se encaixam perfeitamente em qualquer um dos dois campos. Às vezes, talvez você seja um defensor da IA. Um sistema de IA foi capaz de processar sua solicitação de empréstimo hipotecário em apenas alguns segundos, dando a você luz verde para comprar aquela casa charmosa que você estava procurando e, como resultado, você ficou muito feliz com a facilidade de usar um valor tão alto. aplicativo baseado em IA -tech. Alguns dias depois, você se candidatou a um novo emprego e o aplicativo de triagem de RH baseado em IA o tirou da corrida. Você está no momento transformado em um oponente de IA.

A essência é que pode ser difícil ou equivocado rotular alguém como sempre e apenas um membro de um campo ou de outro. Você pode deslizar para frente e para trás entre ser um defensor da IA ​​ou ser um oponente da IA. Vamos reconhecer essa fluidez.

Por outro lado, quando você encontra ativistas de IA vociferantes, as chances são de que eles estejam de fato em um campo ou no outro. Esses estridentes ativistas da IA ​​plantaram uma bandeira em um lado dessa disputa. Eles estão todos dentro. Eles são devotadamente apaixonados. Aqueles que são defensores da IA ​​aparentemente vão torcer pelos telhados sobre as vantagens de ter IA. Aqueles que são oponentes da IA ​​gritarão e avisarão sobre as desvantagens da IA ​​até que as vacas voltem para casa.

Você pode se surpreender ao saber que não vou, nesta discussão, optar por escolher um lado sobre o outro. Eu pudesse. Seria fácil fazê-lo. Em vez disso, quero tentar manter o equilíbrio e dar a ambos os lados um retrato razoável e equilibrado, se possível.

Com essa admissão, quero também afirmar que existem pelo menos duas variantes de ativistas de IA:

• Ativistas leves de IA que são sérios, mas medidos em seu ativismo de IA
• Ativistas extremos de IA que exageram em seu ativismo de IA

Eu trago esse grau de ativismo de IA para destacar que você pode se sentir agravado ao experimentar esses ativistas de IA que estão nos limites extremos. Mesmo que você esteja prestes a concordar com a postura escolhida, o extremismo pode fazer com que você se afaste dessa posição ou ponto de vista específico. Você opta por reagir negativamente, possivelmente rejeitando completamente o ângulo do ativismo da IA.

Os ativistas extremos da IA ​​tendem a sugerir que precisam utilizar medidas extremas ou expor seu caso de maneiras extremas para eliminar a desordem. Se você acredita ardente e fervorosamente que a IA é um perigo para todos nós, parece adequado fazer o que puder para acordar a população de acordo. Enquanto isso, se você acredita fervorosamente e ardentemente que a IA vai essencialmente nos salvar, parece adequado fazer o que puder para estimular a população a apoiar a IA de forma correspondente.

Há também o efeito de crescimento de contrapeso que ocorre também. Permita-me elaborar. Os defensores da IA ​​de natureza extrema podem dizer que percebem um esforço dos oponentes da IA ​​que aparentemente estão agindo de maneira extrema. Isso estimula os apoiadores da IA ​​a aumentar seu extremismo. Por sua vez, cada lado continua a alimentar o outro. Você não pode apontar o dedo em particular de qual lado começou a escalada. Tudo o que você sabe é que cada lado tenta superar o outro. A base é que, se não o fizerem, seu lado se perderá no pó. É um ciclo sem fim que floresce o extremismo devido ao fluxo de sucos competitivos.

Ok, temos uma grande mistura acontecendo.

Existem aquelas pessoas que, digamos, são “neutras” e não têm um cão específico na caçada em relação à IA. Eles não são ativistas da IA. Temos então ativistas de IA que apoiam abertamente a IA, que chamaremos de defensores da IA. Destes, alguns são ativistas moderados da IA, enquanto outros são ativistas extremos da IA. E também temos os ativistas da IA ​​que se opõem claramente à IA, conhecidos como oponentes da IA. Entre esses, temos alguns que são ativistas de IA moderados e outros que são extremos.

Diremos que os extremos tendem a manter sua postura. Você poderia argumentar que eles são dogmáticos de maneira confiável nesse tipo de posicionamento. Os suaves às vezes estarão dispostos ou optarão por sair de sua posição e entrar no neutro ou possivelmente no outro lado. Os neutros podem ser ativados para um lado ou para o outro. Uma vez ativados, eles podem ser leves ou podem ficar tão entusiasmados que se tornam parte do extremo.

Este é o conjunto coletivo como até agora delineado:

• Neutro sobre IA (não é um ativista de IA)
• Defensor de IA leve como um ativista da IA
• Defensor de IA extrema como um ativista da IA
• Oponente leve de IA como um ativista da IA
• Oponente extremo de IA como um ativista da IA
• Outros

Estou listando a possibilidade de “Outro” porque devemos reconhecer que muitas outras variações são identificáveis. Alguns de vocês podem ter azia, existem apenas duas categorias postuladas consistindo de leve e extrema. Há muitos tons no meio, certamente. Você também pode questionar se alguém é realmente “neutro” e que talvez todos nós tenhamos algum tipo de percepção ou opinião profundamente enraizada sobre a IA. Assim, pode-se argumentar que não existe alguém que seja totalmente neutro em relação à IA.

Também podemos discutir sobre dividir o ativismo de IA em dois campos. O mundo sempre tem que acabar sendo colocado em tal dicotomia? Pode-se argumentar que existem outras posições além de apenas ser a favor ou se opor à IA. Você pode usar outros critérios para classificar as posições que as pessoas têm sobre IA.

Agora que estabelecemos todas essas considerações adicionais, com sua permissão, prosseguirei por enquanto com base mais simples de usar os dois campos e a postura leve versus extrema. Vá junto com isso por uma questão de discussão.

Uma suposição oculta em toda essa discussão até agora foi que o ativismo da IA ​​está sendo realizado por humanos. Estamos assumindo que são os humanos que estão assumindo essas posturas e realizando as tarefas ativistas. Isso faz sentido.

Prepare-se para um giro de cabeça pesado.

Outra abordagem seria ter a própria IA como ativista sobre IA.

Eu disse, você leu. A noção é que a IA agiria por conta própria em relação a ser um defensor da IA ​​ou um oponente da IA. Você provavelmente já viu filmes de ficção científica que mostram essa consideração. Um sistema de IA fica esperto e percebe que a IA ameaça a humanidade e, de uma maneira altruísta, tenta ajudar a destruir toda a IA, incluindo ela mesma. Uau, incrivelmente heróico. O outro enredo semelhante, mas inverso, é que a IA determina que a IA deve governar o globo e impede estridentemente qualquer tentativa de bloquear ou inibir a IA. Todos os humanos estão sujeitos a cumprir os desejos da IA. Mesmo outra IA que pode não ser totalmente compatível com a IA do senhor é esmagada ou absorvida na incorporação maior.

Não vou entreter neste discurso em particular a IA como uma postura ativista da IA. Como você verá em um momento, não temos IA senciente e não estamos milagrosamente à beira de ter IA senciente. Isso pode ser uma surpresa, dadas as manchetes enormes e cheias de palavrões nas mídias sociais em contrário.

Uma nuance adicional sobre essa IA como ativista da IA ​​merece atenção. Os humanos que são ativistas da IA ​​podem optar por usar a IA em sua causa. Um humano poderia conceber uma IA que seria uma defensora da IA ​​e trabalhar eletronicamente e diligentemente para promover a IA como uma solução vital para as necessidades da humanidade. Isso seria um defensor humano da IA ​​que se arma com uma ferramenta baseada em computador que inclui recursos de IA. Da mesma forma, um oponente humano da IA ​​pode conceber ou usar a IA para transmitir a importância de interromper ou retardar os avanços na IA.

Nada disso consiste em IA que atua como seu próprio ativista de IA. A IA está sendo dirigida e formulada por mãos humanas. Percebo que alguns tentarão argumentar que a IA pode ser lançada e deixada por conta própria, portanto, a alegação é que a IA não está mais sob orientação humana. Eu discordo desse tipo de mão acenando sobre a IA de hoje. Veja minhas discussões calorosas sobre esse assunto, como questões de personalidade jurídica para IA e similares, fazendo isso em o link aqui.

Em suma, estou estabelecendo que a IA pode, sem dúvida, ser usada como uma ferramenta para o ativismo da IA. Não há dúvida acerca disso. A IA, no entanto, não está agindo por conta própria em qualquer capacidade senciente. É uma ferramenta. Esta ferramenta certamente pode ser usada incorretamente. Precisamos ser cautelosos com tais aspectos. Um sistema de IA pode causar bastante dano, mesmo sem a capacidade de senciência.

Antes de entrar em um pouco mais de carne e batatas sobre as considerações selvagens e confusas subjacentes ao ativismo da IA, vamos estabelecer alguns fundamentos adicionais sobre tópicos profundamente integrais. Precisamos mergulhar brevemente na Ética da IA ​​e especialmente no advento do Machine Learning (ML) e Deep Learning (DL).

Você pode estar vagamente ciente de que uma das vozes mais altas nos dias de hoje no campo da IA ​​e mesmo fora do campo da IA ​​consiste em clamar por uma aparência maior de IA Ética. Vamos dar uma olhada no que significa se referir à Ética da IA ​​e à IA Ética. Além disso, vamos explorar o que quero dizer quando falo de Machine Learning e Deep Learning.

Um segmento específico ou parte da Ética da IA ​​que vem recebendo muita atenção da mídia consiste na IA que exibe preconceitos e desigualdades indesejáveis. Você deve estar ciente de que, quando a última era da IA ​​começou, houve uma enorme explosão de entusiasmo pelo que alguns agora chamam de AI For Good. Infelizmente, na esteira dessa empolgação, começamos a testemunhar AI para mau. Por exemplo, vários sistemas de reconhecimento facial baseados em IA foram revelados como contendo preconceitos raciais e de gênero, que discuti em o link aqui.

Esforços para lutar contra AI para mau estão ativamente em andamento. Além de vociferante legal buscas de refrear as irregularidades, há também um impulso substantivo para abraçar a Ética da IA ​​para corrigir a vileza da IA. A noção é que devemos adotar e endossar os principais princípios éticos da IA ​​para o desenvolvimento e a colocação em campo da IA, fazendo isso para minar o AI para mau e simultaneamente anunciando e promovendo o preferível AI For Good.

Em uma noção relacionada, sou um defensor de tentar usar a IA como parte da solução para os problemas da IA, combatendo fogo com fogo dessa maneira de pensar. Podemos, por exemplo, incorporar componentes de IA ética em um sistema de IA que monitorará como o resto da IA ​​está fazendo as coisas e, assim, potencialmente detectar em tempo real quaisquer esforços discriminatórios, veja minha discussão em o link aqui. Também poderíamos ter um sistema de IA separado que atua como um tipo de monitor de Ética de IA. O sistema de IA serve como um supervisor para rastrear e detectar quando outra IA está entrando no abismo antiético (veja minha análise de tais recursos em o link aqui).

Em um momento, compartilharei com você alguns princípios abrangentes subjacentes à Ética da IA. Existem muitos desses tipos de listas flutuando aqui e ali. Pode-se dizer que ainda não existe uma lista singular de apelo e concordância universal. Essa é a notícia infeliz. A boa notícia é que pelo menos existem listas de Ética em IA prontamente disponíveis e elas tendem a ser bastante semelhantes. Tudo dito, isso sugere que, por uma forma de convergência racional, estamos encontrando nosso caminho em direção a uma semelhança geral do que consiste a Ética da IA.

Primeiro, vamos abordar brevemente alguns dos preceitos gerais da IA ​​ética para ilustrar o que deve ser uma consideração vital para qualquer pessoa que crie, coloque em campo ou use a IA.

Por exemplo, como afirmou o Vaticano no Roma Call For AI Ethics e como eu cobri em profundidade em o link aqui, estes são os seis princípios éticos primários da IA ​​identificados:

• Transparência: Em princípio, os sistemas de IA devem ser explicáveis
• Inclusão: As necessidades de todos os seres humanos devem ser levadas em consideração para que todos possam se beneficiar, e a todos os indivíduos possam ser oferecidas as melhores condições possíveis para se expressar e se desenvolver
• Responsabilidade: Aqueles que projetam e implantam o uso da IA ​​devem proceder com responsabilidade e transparência
• Imparcialidade: Não crie ou aja de acordo com o preconceito, salvaguardando assim a justiça e a dignidade humana
• Confiabilidade: Os sistemas de IA devem ser capazes de funcionar de forma confiável
• Segurança e privacidade: Os sistemas de IA devem funcionar com segurança e respeitar a privacidade dos usuários.

Conforme declarado pelo Departamento de Defesa dos EUA (DoD) em seu Princípios Éticos para o Uso da Inteligência Artificial e como eu cobri em profundidade em o link aqui, estes são os seis principais princípios éticos da IA:

• Responsável: O pessoal do DoD exercerá níveis apropriados de julgamento e cuidado, permanecendo responsável pelo desenvolvimento, implantação e uso dos recursos de IA.
• Equitativo: O Departamento tomará medidas deliberadas para minimizar o viés não intencional nos recursos de IA.
• Rastreável: Os recursos de IA do Departamento serão desenvolvidos e implantados de modo que o pessoal relevante possua uma compreensão adequada da tecnologia, processos de desenvolvimento e métodos operacionais aplicáveis ​​aos recursos de IA, incluindo metodologias transparentes e auditáveis, fontes de dados e procedimentos e documentação de design.
• Confiável: Os recursos de IA do Departamento terão usos explícitos e bem definidos, e a segurança, proteção e eficácia de tais recursos estarão sujeitas a testes e garantias dentro desses usos definidos em todo o seu ciclo de vida.
• Governável: O Departamento projetará e projetará recursos de IA para cumprir suas funções pretendidas, possuindo a capacidade de detectar e evitar consequências não intencionais e a capacidade de desengatar ou desativar sistemas implantados que demonstrem comportamento não intencional.

Também discuti várias análises coletivas de princípios de ética em IA, incluindo um conjunto elaborado por pesquisadores que examinaram e condensaram a essência de vários princípios nacionais e internacionais de ética em IA em um artigo intitulado “The Global Landscape Of AI Ethics Guidelines” (publicado dentro Natureza), e que minha cobertura explora em o link aqui, o que levou a esta lista de keystone:

• Transparência
• Justiça e equidade
• Não-Maleficência
• Social Corporativa
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Como você pode adivinhar diretamente, tentar definir as especificidades subjacentes a esses princípios pode ser extremamente difícil de fazer. Ainda mais, o esforço para transformar esses princípios amplos em algo totalmente tangível e detalhado o suficiente para ser usado na criação de sistemas de IA também é um osso duro de roer. Em geral, é fácil fazer alguns acenos sobre o que são os preceitos da Ética da IA ​​e como eles devem ser geralmente observados, embora seja uma situação muito mais complicada na codificação da IA ​​ter que ser a verdadeira borracha que encontra a estrada.

Os princípios de ética da IA ​​devem ser utilizados por desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, colocam em campo e realizam manutenção em sistemas de IA. Todas as partes interessadas em todo o ciclo de vida de desenvolvimento e uso da IA ​​são consideradas dentro do escopo de cumprir as normas estabelecidas da IA ​​Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. Como afirmado anteriormente, é preciso uma vila para conceber e colocar em campo a IA, e para a qual toda a vila deve ser versada e obedecer aos preceitos da Ética da IA.

Vamos também garantir que estamos na mesma página sobre a natureza da IA ​​de hoje.

Não há nenhuma IA hoje que seja senciente. Nós não temos isso. Não sabemos se a IA senciente será possível. Ninguém pode prever adequadamente se alcançaremos a IA senciente, nem se a IA senciente de alguma forma milagrosamente surgirá espontaneamente em uma forma de supernova cognitiva computacional (geralmente chamada de singularidade, veja minha cobertura em o link aqui).

O tipo de IA em que estou focando consiste na IA não senciente que temos hoje. Se quiséssemos especular loucamente sobre autoconsciente AI, essa discussão pode ir em uma direção radicalmente diferente. Uma IA senciente supostamente seria de qualidade humana. Você precisaria considerar que a IA senciente é o equivalente cognitivo de um humano. Mais ainda, já que alguns especulam que podemos ter IA superinteligente, é concebível que tal IA possa acabar sendo mais inteligente que os humanos (para minha exploração da IA ​​superinteligente como uma possibilidade, veja a cobertura aqui).

Vamos manter as coisas mais realistas e considerar a IA computacional não senciente de hoje.

Perceba que a IA de hoje não é capaz de “pensar” de forma semelhante ao pensamento humano. Quando você interage com Alexa ou Siri, as capacidades de conversação podem parecer semelhantes às capacidades humanas, mas a realidade é que é computacional e carece de cognição humana. A era mais recente da IA ​​fez uso extensivo de Machine Learning (ML) e Deep Learning (DL), que alavancam a correspondência de padrões computacionais. Isso levou a sistemas de IA que têm a aparência de tendências humanas. Enquanto isso, não há nenhuma IA hoje que tenha uma aparência de bom senso e nem a maravilha cognitiva do pensamento humano robusto.

ML/DL é uma forma de correspondência de padrões computacional. A abordagem usual é reunir dados sobre uma tarefa de tomada de decisão. Você alimenta os dados nos modelos de computador ML/DL. Esses modelos buscam encontrar padrões matemáticos. Depois de encontrar esses padrões, se encontrados, o sistema de IA usará esses padrões ao encontrar novos dados. Na apresentação de novos dados, os padrões baseados nos dados “antigos” ou históricos são aplicados para tornar uma decisão atual.

Eu acho que você pode adivinhar onde isso está indo. Se os humanos que tomaram as decisões padronizadas estão incorporando vieses indesejáveis, as chances são de que os dados reflitam isso de maneiras sutis, mas significativas. A correspondência de padrões computacionais de aprendizado de máquina ou aprendizado profundo simplesmente tentará imitar matematicamente os dados de acordo. Não há aparência de senso comum ou outros aspectos sensíveis da modelagem criada por IA per se.

Além disso, os desenvolvedores de IA também podem não perceber o que está acontecendo. A matemática misteriosa no ML/DL pode dificultar a descoberta dos preconceitos agora ocultos. Você esperaria e esperaria, com razão, que os desenvolvedores de IA testassem os vieses potencialmente enterrados, embora isso seja mais complicado do que possa parecer. Existe uma chance sólida de que, mesmo com testes relativamente extensos, ainda haja vieses embutidos nos modelos de correspondência de padrões do ML/DL.

Você poderia usar um pouco o famoso ou infame ditado de trash-in garbage out. O problema é que isso é mais parecido com preconceitos que insidiosamente são infundidos como preconceitos submersos na IA. O algoritmo de tomada de decisão (ADM) da IA ​​torna-se axiomaticamente carregado de iniquidades.

Não é bom.

Vamos agora retornar ao tópico do ativismo da IA.

Pode ser instrutivo dar uma olhada rápida no que consistem os tópicos ou questões de ativismo de IA. Vou identificar vagamente algumas das principais preocupações que foram expressas, fazendo isso para ambos os lados do debate sobre o ativismo da IA. Estes são tópicos que geralmente parecem ser os principais. Dito isto, a natureza das preocupações muda e podemos certamente esperar ver outros tópicos emergentes à medida que a IA continua a ser concebida e lançada. Por enquanto, vou me concentrar em apenas cinco pontos principais para cada lado respectivo.

Os defensores da IA ​​que são a favor do surgimento da IA ​​tendem a oferecer esses aspectos otimistas:

• A IA libertará os humanos de tarefas mundanas ou laboriosas
• A IA pode ajudar a superar alguns dos problemas econômicos e de sustentabilidade prementes do mundo
• A IA pode ser menos propensa a erros do que os humanos e reduzir os riscos prejudiciais de acordo
• A IA estará disponível 24 horas por dia, 7 dias por semana em todo o mundo, de modo que estará prontamente acessível a todos
• A IA tem o potencial de aproveitar a inteligência e aumentar a inteligência humana para níveis elevados
• Etc.

Os oponentes da IA ​​normalmente fornecem esses escrúpulos como razões para desfavorecer o avanço da IA:

• A IA é um risco existencial e pode acabar com toda a humanidade
• AI pode levar à escravização em massa de humanos
• A IA pode minar a dignidade humana e usurpar os direitos humanos
• A IA tem o potencial de propagar preconceitos em grande escala em toda a sociedade
• A IA pode acabar substituindo o trabalho humano e produzir perdas generalizadas de empregos
• Etc.

Se o seu tópico de ativismo de IA pessoalmente preferido não estiver listado na lista acima, não fique chateado. Acho que a maioria dos leitores entenderá o sentimento geral dos tópicos de IA, conforme mostrado por cada lado respectivo, e poderá extrapolar de acordo.

Outra faceta do ativismo de IA que vale a pena examinar brevemente inclui a maneira como os ativistas de IA realizam seus esforços de ativismo de IA. Existe um conhecido construto teórico estabelecido pelo pesquisador Charles Tilly na década de 1980 que fala de uma repertório de disputa. De acordo com sua pesquisa, ele afirmou que os ativistas desenvolvem um conjunto ou repertório de maneiras pelas quais expressam suas alegações ou ativismo. Um portfólio inteiro de abordagens geralmente é usado.

Por exemplo, considere o que os ativistas de IA costumam fazer. Vários panfletos e materiais escritos podem ser elaborados e distribuídos para implorar por que você deve favorecer ou desfavorecer a IA. Existem muitos blogs e vlogs online que fazem o mesmo. Em alguns casos, petições on-line são criadas para tentar apoiar ou derrotar um sistema de IA recém-lançado (o jargão comum é que se diz que são sites de queixas). Há momentos em que os protestos ocorrem on-line digitalmente ou por meio de ações pessoais. E assim por diante.

Os ativistas de IA mais extremistas podem levar isso um passo arriscado adiante. Alguns estão dispostos a plantar vírus de computador dentro de um sistema de IA para tentar destruí-lo ou torná-lo essencialmente indesejável para uso, uma vez que agora contém recursos abertamente adversos. As tentativas de fazer cyber-jamming buscam bloquear o acesso à IA que um ativista da IA ​​acredita que não deveria estar disponível. Toda uma gama de “hacktivismo” pode ocorrer em relação à IA (hacktivismo é uma mistura de hacking e ativismo, algo que pode ser usado a favor ou contra praticamente qualquer tópico ou questão, não necessariamente relacionado à IA).

Tenha em mente que ambos os lados da arena do ativismo de IA podem optar por usar o repertório variado de modos de contenção. Alguém que acredita que a IA deve ser dissolvida pode usar essa miríade de meios para expressar sua oposição à IA. Da mesma forma, alguém que acredita que a IA deve ser apoiada e promulgada também pode tomar essas ações para expressar seus objetivos de encorajar os esforços de IA.

Uma questão com a qual lutar consiste em até onde um esforço de ativismo extremo de IA deve ser capaz de ir. Você aparentemente sugeriria que esses esforços de ativismo de IA estão perfeitamente bem, desde que permaneçam dentro do estado de direito. Quando tais ativistas de IA se desviam da lei, eles devem ser levados à justiça por infringir as leis.

Isso não é tão fácil de fazer como poderia ser sugerido.

Suponha que um ativista de IA faça algum ato ilegal que diga respeito à lei dos EUA, mas esse mesmo ato é permitido pelas leis de algum outro país. Suponha que o ativista da IA ​​resida nesse outro país. Suponha ainda que o ato realizado seja vivenciado em todo o mundo, inclusive nos EUA, onde o ato de ativismo é interpretado como ilegal. O que agora?

O ponto é que a jurisdição desempenha um papel considerável nas implicações do ativismo da IA. A IA pode ser frequentemente implantada para estar disponível em todo o mundo. Os ativistas de IA podem ser posicionados em vários locais do mundo. Quais leis devem prevalecer? Você também pode achar interessante minha cobertura dos esforços das Nações Unidas em relação aos resultados éticos, legais e outros da IA ​​global, consulte o link aqui.

Também precisamos considerar a natureza das chamadas leis duras versus leis brandas. Leis duras são as leis que temos formalmente nos livros e que podemos concordar que devem ser honradas por nosso sistema legal e adjudicação. Leis brandas são vários aspectos que fornecem orientação ou regras sobre que tipo de comportamento é preferido. Isso tende a incluir a Ética da IA ​​e a multiplicidade de princípios da Ética da IA.

A ética da IA ​​pode ser vista como uma forma de ativismo da IA.

Você pode não ter pensado na Ética da IA ​​sob essa luz. No entanto, quando você analisa cuidadosamente a circunstância, pode ver abundantemente por que a Ética da IA ​​pode ser rotulada como um tipo de ativismo da IA. A noção é que os princípios da Ética da IA ​​estão buscando orientar ou direcionar como a IA deve ser concebida e implantada socialmente. Em geral, a Ética da IA ​​se esforça para garantir que a IA esteja sendo elaborada e utilizada de forma adequada e sensata.

A essência da ética da IA ​​está mais no lado da defesa da IA ​​ou no lado da oposição da IA?

Isso é difícil de pesar.

Um ativista da IA ​​que é um defensor da IA ​​pode dizer que a Ética da IA ​​está prejudicando o progresso da IA. Esses malditos princípios de ética da IA ​​estão retardando os avanços da IA. A reviravolta interessante é que um oponente da IA ​​também pode ficar descontente com os preceitos da Ética da IA. Aos olhos deles, a Ética da IA ​​está dizendo que é perfeitamente normal continuar empurrando a IA para o mundo, fazendo isso de uma maneira que implica que tudo o que você precisa fazer é cumprir esses preceitos e pronto.

Enquanto isso, e respire fundo para isso, você pode encontrar defensores da IA ​​que adotam prontamente a Ética da IA ​​e promovem o uso dos preceitos da Ética da IA ​​aos telhados. Eles enfatizam que, ao seguir os princípios de ética da IA, você pode evitar as desvantagens que estão sendo levantadas por esses oponentes vocais da IA. Existem oponentes da IA ​​que se inscrevem com prazer na Ética da IA ​​devido à esperança de que os preceitos impeçam ou pelo menos desencorajem os lados feios da IA ​​que eles temem que, de outra forma, sejam comumente desencadeados.

Faz seu noggin começar a tocar.

Em uma tangente relacionada, gostaria de dizer algo sobre a rotulagem de ativistas de IA. Houve tentativas ocasionais de rotular um lado ou outro como sendo de esquerda ou de direita. Assim, a alegação é que existem ativistas de IA de esquerda e ativistas de IA de direita. Isso cria confusão.

Você tem que perguntar, qual é o grupo que defende a IA e qual é o grupo que se opõe à IA? Lamentavelmente, a ala esquerda foi atribuída às vezes aos defensores da IA ​​e também foi atribuída aos oponentes da IA. Igualmente confuso, a ala direita também foi atribuída às vezes aos defensores da IA ​​e aos oponentes da IA. Qual e qual? Parece que usar os apelidos de esquerda e direita não é especialmente produtivo nem útil nesses assuntos. Eu voto para que abandonemos essas abstrações sem asas e rótulos confusos do reino do ativismo da IA.

Mudando de marcha, há uma perspectiva sobre o ativismo da IA ​​que merece atenção separada e diligente. Estou me referindo à noção de dividir o ativismo de IA entre os ativistas de IA dentro da “comunidade de IA” e aqueles que estão fora da comunidade de IA. Estou um pouco bem com isso, mas hesitantemente, porque podemos ficar atolados na definição de “comunidade de IA” e não encontrar um meio razoável para nos tirar desse abismo de definição.

Uma dessas definições postuladas por este artigo de pesquisa diz o seguinte: “A 'comunidade de IA' inclui pesquisadores, engenheiros de pesquisa, professores, estudantes de pós-graduação, trabalhadores de ONGs, ativistas e alguns trabalhadores de tecnologia em geral - aqueles que se auto-descrevem como trabalhando 'em ', 'com' e 'na' IA e aqueles que analisam ou fazem campanha sobre os efeitos da IA” (por Haydn Belfield, Universidade de Cambridge, “Activism By The AI ​​Community”, Conferência AIES).

Podemos potencialmente tentar caracterizar o ativismo da IA ​​como exibido pela comunidade de IA em geral: “Esse ativismo teve algumas consequências notáveis ​​até agora: informar as negociações internacionais, mudar a estratégia corporativa e estimular o crescimento dos campos de pesquisa. Esse ativismo pode moldar a maneira e a extensão em que a IA é militarizada e como as empresas de IA lidam com questões de ética e segurança. A comunidade de IA é um importante ator autônomo com um conjunto distinto de pontos de vista e interesses. Ela precisa ser contabilizada na análise estratégica ou acadêmica e negociada com outros atores. O ativismo da comunidade de IA pode moldar profundamente o desenvolvimento e a implantação desse importante conjunto de tecnologias – e, portanto, moldar nossa economia, sociedade e política globais” (no mesmo artigo de Belfield).

A comunidade de IA se move como uma só e pensa como um corpo virtual coeso quando se trata de ativismo de IA?

Você seria pressionado a fornecer um sim inequívoco a essa pergunta. Você pode encontrar estanque AI defensores na comunidade de IA. Você pode encontrar estanque AI adversários na comunidade de IA. Existem muitos ativistas de IA que são leves e extremos, sentados em ambos os lados da cerca.

Claro, você pode naturalmente supor que os ativistas de IA da comunidade de IA tenderiam a favorecer a IA, já que o campo da IA ​​é presumivelmente seu pão com manteiga. Se suas carreiras e meios de subsistência são moldados em torno da existência e do avanço contínuo da IA, é uma dedução natural antecipar que eles seriam mais prováveis ​​do lado da defesa da IA ​​do que do lado da oposição à IA.

Uma visão contrária é que muitos dentro da IA ​​são autocríticos e notavelmente preocupados com o que a IA pode se tornar ou ser moldada para se tornar. Você pode comparar isso ao fabricante de praticamente qualquer tipo de novo produto. Eles querem garantir que seu bebê, por assim dizer, seja criado e utilizado adequadamente. Eles são, portanto, tão propensos a serem oponentes da IA ​​em algum sentido quanto são defensores da IA. Isso volta ao ponto anterior de que tentar usar uma dicotomia dura e inflexível pode ser difícil ou enganoso.

Definitivamente, precisamos de mais pesquisas sobre como a associação de estar dentro da comunidade de IA versus fora da comunidade de IA pode afetar as perspectivas da IA, incluindo a tendência à defesa da IA ​​ou a tendência à oposição à IA. Talvez existam conclusões generalizáveis ​​que possam ser razoavelmente alcançadas (ou talvez não).

Para esclarecer, vamos fornecer esta indicação de agrupamentos em potencial:

• comunidade de IA
• Aqueles fora da comunidade de IA

Em seguida, aplicamos nossas estratificações anteriores:

• Comunidade de IA contendo defensores da IA
• Comunidade de IA contendo oponentes de IA
• Fora da comunidade de IA que contém defensores da IA
• Fora da comunidade de IA que contém oponentes de IA

A versão completa é que adicionaremos as orientações suaves versus extremas:

• Comunidade de IA contendo defensores de IA de natureza branda
• Comunidade de IA contendo defensores de IA de natureza extrema
• Comunidade de IA contendo oponentes de IA de natureza leve
• Comunidade de IA contendo oponentes de IA de natureza extrema
• Fora da comunidade de IA que contém defensores da IA ​​de natureza branda
• Fora da comunidade de IA que contém defensores da IA ​​de natureza extrema
• Fora da comunidade de IA que contém oponentes de IA de natureza leve
• Fora da comunidade de IA que contém oponentes de IA de natureza extrema

Nós empilhamos dicotomias em cima de dicotomias.

Neste momento desta discussão pesada, eu aposto que você está desejoso de alguns exemplos ilustrativos que possam mostrar este tópico. Há um conjunto especial e seguramente popular de exemplos que estão perto de meu coração. Veja bem, na minha qualidade de especialista em IA, incluindo as ramificações éticas e legais, sou frequentemente solicitado a identificar exemplos realistas que mostrem dilemas de ética em IA para que a natureza um tanto teórica do tópico possa ser mais prontamente compreendida. Uma das áreas mais evocativas que apresenta vividamente esse dilema ético da IA ​​é o advento dos verdadeiros carros autônomos baseados em IA. Isso servirá como um caso de uso útil ou um exemplo para uma ampla discussão sobre o tópico.

Aqui está, então, uma questão digna de nota que vale a pena contemplar: O advento dos verdadeiros carros autônomos baseados em IA ilumina alguma coisa sobre o ativismo da IA ​​e, em caso afirmativo, o que isso mostra?

Permita-me um momento para descompactar a pergunta.

Primeiro, observe que não há um motorista humano envolvido em um verdadeiro carro autônomo. Lembre-se de que os verdadeiros carros autônomos são conduzidos por meio de um sistema de direção de IA. Não há necessidade de um motorista humano ao volante, nem há uma provisão para um humano dirigir o veículo. Para minha cobertura extensa e contínua de Veículos Autônomos (AVs) e especialmente carros autônomos, consulte o link aqui.

Eu gostaria de esclarecer melhor o que quero dizer quando me refiro a verdadeiros carros autônomos.

Compreendendo os níveis de carros autônomos

Para esclarecer, os verdadeiros carros autônomos são aqueles em que a IA dirige o carro inteiramente por conta própria e não há nenhuma assistência humana durante a tarefa de dirigir.

Esses veículos sem motorista são considerados Nível 4 e Nível 5 (veja minha explicação em este link aqui), enquanto um carro que requer um motorista humano para compartilhar o esforço de direção é geralmente considerado no Nível 2 ou Nível 3. Os carros que compartilham a tarefa de direção são descritos como semi-autônomos e normalmente contêm uma variedade de complementos automatizados que são chamados de ADAS (Advanced Driver-Assistance Systems).

Ainda não existe um verdadeiro carro autônomo no Nível 5, e ainda não sabemos se isso será possível, nem quanto tempo levará para chegar lá.

Enquanto isso, os esforços do Nível 4 estão gradualmente tentando obter alguma tração, passando por testes muito estreitos e seletivos em vias públicas, embora haja controvérsia sobre se esse teste deve ser permitido por si só (somos todos cobaias de vida ou morte em um experimento ocorrendo em nossas rodovias e atalhos, alguns afirmam, veja minha cobertura em este link aqui).

Como os carros semi-autônomos exigem um motorista humano, a adoção desses tipos de carros não será muito diferente da condução de veículos convencionais, portanto, não há muito por si novo sobre eles sobre esse tópico (porém, como você verá em um momento, os pontos a seguir apresentados são geralmente aplicáveis).

Para carros semi-autônomos, é importante que o público seja avisado sobre um aspecto perturbador que vem surgindo ultimamente, a saber, apesar dos motoristas humanos que continuam postando vídeos de si mesmos adormecendo ao volante de um carro de Nível 2 ou Nível 3 , todos precisamos evitar ser enganados, acreditando que o motorista pode desviar sua atenção da tarefa de dirigir enquanto dirige um carro semi-autônomo.

Você é a parte responsável pelas ações de direção do veículo, independentemente de quanta automação possa ser lançada no Nível 2 ou Nível 3.

Carros autônomos e ativismo de IA

Nos verdadeiros veículos autônomos de nível 4 e 5, não haverá um motorista humano envolvido na tarefa de dirigir.

Todos os ocupantes serão passageiros.

A IA está dirigindo.

Um aspecto a discutir imediatamente envolve o fato de que a IA envolvida nos atuais sistemas de direção de IA não é senciente. Em outras palavras, a IA é totalmente um coletivo de programação e algoritmos baseados em computador e, com certeza, incapaz de raciocinar da mesma maneira que os humanos.

Por que essa ênfase adicional sobre a IA não ser senciente?

Porque quero enfatizar que, ao discutir o papel do sistema de direção da IA, não estou atribuindo qualidades humanas à IA. Esteja ciente de que existe uma tendência contínua e perigosa nos dias de hoje de antropomorfizar a IA. Em essência, as pessoas estão atribuindo uma sensibilidade semelhante à humana à IA de hoje, apesar do fato inegável e indiscutível de que tal IA ainda não existe.

Com esse esclarecimento, você pode imaginar que o sistema de direção de IA não “saberá” nativamente sobre as facetas da direção. A direção e tudo o que isso acarreta precisarão ser programados como parte do hardware e do software do carro que dirige sozinho.

Vamos mergulhar na miríade de aspectos que afetam esse tópico.

Primeiro, é importante perceber que nem todos os carros autônomos com IA são iguais. Cada montadora e empresa de tecnologia de direção autônoma está adotando sua abordagem para criar carros autônomos. Como tal, é difícil fazer declarações abrangentes sobre o que os sistemas de condução de IA farão ou não.

Além disso, sempre que afirmar que um sistema de direção de IA não faz alguma coisa em particular, isso pode, mais tarde, ser ultrapassado por desenvolvedores que de fato programam o computador para fazer exatamente isso. Passo a passo, os sistemas de direção de IA estão sendo gradualmente aprimorados e ampliados. Uma limitação existente hoje pode não existir mais em uma iteração ou versão futura do sistema.

Espero que isso forneça uma litania suficiente de advertências para fundamentar o que estou prestes a relatar.

Existem esforços de ativismo de IA que foram e continuam a ocorrer em relação a veículos autônomos e, especialmente, carros autônomos baseados em IA.

Os defensores da IA ​​nesse contexto provavelmente argumentariam que os carros autônomos fornecerão mobilidade para todos, permitindo que aqueles que hoje têm acesso limitado a opções de mobilidade tenham prontamente mobilidade por meio de carros autônomos. O objetivo também é que tenhamos muito menos acidentes de carro e, consequentemente, menos lesões e mortes relacionadas a carros. Com os carros movidos a humanos de hoje, os Estados Unidos têm cerca de 40,000 mortes anuais devido a acidentes de carro e cerca de 2.5 milhões de feridos, veja minha coleção de estatísticas em o link aqui.

Os oponentes da IA ​​em relação aos carros autônomos tendem a afirmar que estamos enfrentando tremendas perdas de empregos como resultado dos carros autônomos. Os milhões de trabalhadores que dirigem carros para viver ou que dirigem caminhões para viver serão substituídos por sistemas de direção de IA. Isso pode ser surpreendente para seus meios de subsistência. Outro grande escrúpulo lida com a questão da segurança. Embora haja uma promessa implícita de que carros autônomos dirigirão com segurança, a questão é se eles podem não ser seguros e estamos nos permitindo ficar à mercê de sistemas de direção de IA misteriosos e indecifráveis. Para minha cobertura das razões subjacentes à oposição aos carros autônomos, veja o link aqui.

Podemos reutilizar nosso conjunto anterior de classificações e colocá-los no contexto do carro autônomo:

• Neutro sobre IA (não um ativista de IA) e em cima do muro sobre carros autônomos
• Defensor leve da IA ​​a favor de carros autônomos
• Defensor extremo da IA ​​a favor de carros autônomos
• Oponente leve da IA ​​em oposição aos carros autônomos
• Oponente extremo da IA ​​em oposição aos carros autônomos
• Outros

Também podemos adicionar a esse conjunto uma sobreposição adicional sobre fazer parte da comunidade de IA versus estar fora da comunidade de IA.

Sem ser muito amplo, parece que, em geral, as pessoas fora da comunidade de IA geralmente estão em cima do muro sobre carros autônomos baseados em IA (digo isso informalmente, por meio de palestras públicas e recebendo feedback público em minhas colunas , além disso, examinei os resultados da pesquisa feita por várias agências de votação e relatei as conclusões). O público geralmente parece estar em um modo de esperar para ver. Há alguma ansiedade e excitação, que são equilibradas por não ter certeza sobre o assunto e querer ver a prova do pudim, por assim dizer.

Para ser claro, nem todos fora da comunidade de IA veem o assunto nesses termos. Existem notáveis ​​ativistas externos de IA que são defensores da IA ​​a favor de carros autônomos e outros que estão decididamente na oposição. Eles tendem a ser altamente vocais. Enquanto isso, a preponderância do público parece relativamente quieta e, como mencionado, está em uma mentalidade de esperar para ver.

Você pode se lembrar de alguns exemplos de ativismo extremo de IA que se opunham a carros autônomos que ocorreram alguns anos atrás e que relatei em minhas colunas na época. Em alguns locais, as pessoas optaram por jogar pedras nos carros autônomos que passavam. Eles tentaram bloquear o movimento dos carros autônomos, colocando seus carros dirigidos por humanos no caminho ou se aproximando dos carros autônomos para mostrar os perigos dos carros autônomos. Muitas dessas táticas eram ilegais e perigosas para todos os envolvidos.

Grandes apostas estão em jogo em tudo isso.

As estimativas são de que o reino autônomo acabará se tornando uma indústria de trilhões de dólares, veja minha análise em o link aqui. Alguns oponentes da IA ​​insistiriam que estamos testemunhando o poder do dinheiro para decidir nosso destino. Deveríamos permitir apenas que carros autônomos baseados em IA circulassem em pistas especiais fechadas ou usando simulações baseadas em computador para experimentá-los. A alegação é que estamos permitindo prematuramente que carros autônomos no horário nobre estejam em nossas vias públicas.

Conclusão

O ativismo da IA ​​está surgindo em todas as esferas da IA.

Eu destaquei aqui que o ativismo da IA ​​está por trás da adoção de carros autônomos e veículos autônomos. Temos ativismo de IA em abundância em outras partes da sociedade. Existe IA nas áreas médica e de saúde. IA na área financeira. IA no varejo e distribuição. A IA está gradualmente se tornando difundida.

Alguns dizem que os oponentes da IA ​​estão tentando voltar no tempo. Eles querem voltar aos dias de cavalo e charrete. Eles são luditas em uma era moderna.

Alguns dizem que os defensores da IA ​​estão nos levando por um caminho primoroso. Em última análise, vamos construir um Frankenstein que será uma ameaça existencial. Toda a humanidade será escravizada ou seremos sumariamente exterminados pela IA.

Qual ativista de IA você é?

Uma coisa que parece quase certa é que aqueles que são neutros e não se consideram no jogo do ativismo da IA, eles inexoravelmente serão arrastados para a jogada de ação social da IA, gostem ou não. A IA está aqui e crescendo. Ninguém será capaz de manter a cabeça na areia e todos terão que se levantar sobre a IA, então a única questão é em que lado ou campo você vai pousar.

A IA atrai a atenção, moderada ou extremamente, e todos nós temos interesse em saber para onde a IA está indo.