A ética da IA ​​pergunta se faz sentido perguntar à IA se a própria IA é senciente

Se eu lhe perguntar se você é senciente, você, sem dúvida, afirmará que é.

Permita-me verificar novamente essa suposição.

Você é mesmo senciente?

Talvez a pergunta em si pareça um pouco boba. As chances são de que, em nossas vidas diárias, certamente esperaríamos que outros seres humanos reconhecessem que são sencientes. Esta poderia ser uma pergunta indutora de humor que deveria implicar que a outra pessoa talvez não esteja prestando atenção ou tenha caído do vagão da senciência e saído mentalmente para almoçar momentaneamente, por assim dizer.

Imagine que você caminha até uma pedra que está quieta e discretamente sentada em uma pilha de pedras e, ao chegar perto o suficiente para perguntar, vá em frente e pergunte se a pedra é senciente. Assumindo que a rocha é apenas uma rocha, antecipamos abundantemente que a pergunta anterior, mas aparentemente estranha, será respondida com um silêncio bastante pedregoso (trocadilho!). O silêncio é interpretado sumariamente para indicar que a rocha não é senciente.

Por que trago essas várias nuances sobre procurar determinar se alguém ou alguma coisa é senciente?

Porque é um grande negócio na Inteligência Artificial (IA) e na sociedade, servindo como um tópico monumental que atraiu um interesse enorme e manchetes de mídia tremendamente estridentes de nota recente. Existem questões significativas de ética em IA que giram em torno de todo o enigma de que a IA é senciente. Para minha cobertura contínua e extensa de Ética em IA e IA Ética, consulte o link aqui e o link aqui, Apenas para nomear alguns.

Você tem muitas razões para ficar de olho aberto e observar as alegações de que a IA finalmente virou a esquina e entrou na categoria amplamente reverenciada de senciência. Somos continuamente martelados por notícias que afirmam que a IA está aparentemente prestes a atingir a senciência. Além disso, há a tremenda preocupação de que a IA de um calibre senciente representa um risco existencial cataclísmico global.

Faz sentido manter seu senso de aranha pronto caso detecte algum formigamento próximo da sensibilidade da IA.

No enigma da IA ​​e da senciência vem a situação recente do engenheiro do Google que corajosamente proclamou que um determinado sistema de IA havia se tornado senciente. O sistema de IA conhecido como LaMDA (abreviação de Language Model for Dialogue Applications) foi capaz de manter um diálogo escrito com o engenheiro na medida em que esse humano deduziu que a IA era senciente. Apesar de tudo o que você pode ter ouvido sobre essa afirmação colossal, saiba que a IA não era senciente (nem está nem perto).

Não há nenhuma IA hoje que seja senciente. Nós não temos isso. Não sabemos se a IA senciente será possível. Ninguém pode prever adequadamente se alcançaremos a IA senciente, nem se a IA senciente de alguma forma milagrosamente surgirá espontaneamente em uma forma de supernova cognitiva computacional (geralmente chamada de singularidade, veja minha cobertura em o link aqui).

Meu foco aqui envolve uma faceta um tanto simples, mas bastante substantiva, subjacente a muitas dessas discussões sobre IA e senciência.

Está pronto para começar?

Parece que tomamos como suposição básica que podemos verificar adequadamente se a IA é senciente perguntando à IA se ela é realmente senciente.

Voltando à minha menção anterior de que podemos fazer a mesma pergunta aos humanos, sabemos que é mais do que provável que um humano relate que é de fato consciente. Também sabemos que uma mísera rocha não informará que é senciente ao ser perguntada (bem, a rocha permanece em silêncio e não fala, o que presumiremos implicar que a rocha não é senciente, embora talvez esteja afirmando seu quinto Direitos de alteração para permanecer em silêncio).

Assim, se perguntarmos a um sistema de IA se ele é senciente e recebermos uma resposta sim, o reconhecimento indicado parece selar o acordo de que a IA deve ser senciente. Uma pedra não fornece nenhuma resposta. Um humano fornece uma resposta sim. Portanto, se um sistema de IA fornecer uma resposta sim, devemos chegar à conclusão firme de que a IA não é uma rocha e, portanto, deve ser de uma qualidade de senciência humana.

Você pode considerar essa lógica semelhante àquelas aulas de matemática que você teve no ensino médio que provaram sem sombra de dúvida que um mais um deve ser igual a dois. A lógica parece ser impecável e irrefutável.

Desculpe, mas a lógica fede.

Entre os membros da comunidade de IA, a ideia de simplesmente pedir a um sistema de IA que responda se é senciente ou não gerou uma série de memes totalmente cínicos e respostas fortemente gargalhadas.

O assunto muitas vezes é retratado como se resumindo a duas linhas de código.

Aqui está:

• Se então .
• Loop até .

Observe que você pode reduzir as duas linhas de código apenas para a primeira. Provavelmente será um pouco mais rápido e mais eficiente como prática de codificação. Sempre com o objetivo de otimizar quando você é um engenheiro de software obstinado.

O ponto desse ceticismo robusto por parte de especialistas em IA é que um sistema de IA pode ser facilmente programado por um humano para relatar ou exibir que a IA é senciente. A realidade é que não há nenhum lá que está lá. Não há qualquer senciência na IA. A IA foi meramente programada para emitir a indicação de que é senciente. Lixo dentro, lixo fora.

Parte do problema é nossa tendência de antropomorfizar computadores e especialmente a IA. Quando um sistema de computador ou IA parece agir de maneira que associamos ao comportamento humano, há um desejo quase irresistível de atribuir qualidades humanas ao sistema. É uma armadilha mental comum que pode agarrar até mesmo o cético mais intransigente sobre as chances de alcançar a senciência. Para minha análise detalhada sobre tais assuntos, ver o link aqui.

Até certo ponto, é por isso que a ética da IA ​​e a IA ética são um tópico tão crucial. Os preceitos da Ética da IA ​​nos fazem permanecer vigilantes. Os tecnólogos de IA às vezes podem ficar preocupados com a tecnologia, particularmente com a otimização da alta tecnologia. Eles não estão necessariamente considerando as maiores ramificações sociais. Ter uma mentalidade de Ética em IA e fazê-lo integralmente para o desenvolvimento e o campo de IA é vital para produzir IA apropriada, incluindo a avaliação de como a Ética de IA é adotada pelas empresas.

Além de empregar os preceitos da Ética da IA ​​em geral, há uma questão correspondente sobre se devemos ter leis para governar vários usos da IA. Novas leis estão sendo divulgadas nos níveis federal, estadual e local que dizem respeito ao alcance e à natureza de como a IA deve ser concebida. O esforço para redigir e promulgar tais leis é gradual. A ética da IA ​​serve como um paliativo considerado, no mínimo, e quase certamente, em algum grau, será diretamente incorporado a essas novas leis.

Esteja ciente de que alguns argumentam inflexivelmente que não precisamos de novas leis que cubram a IA e que nossas leis existentes são suficientes. Na verdade, eles avisam que, se promulgarmos algumas dessas leis de IA, estaremos matando a galinha dos ovos de ouro ao reprimir os avanços da IA ​​que oferecem imensas vantagens sociais. Veja por exemplo minha cobertura em o link aqui e o link aqui.

Os problemas com o Ask

Espere um segundo, você pode estar pensando, tudo isso implica que devemos não pergunte à IA se a IA é senciente?

Vamos descompactar essa pergunta.

Primeiro, considere as respostas que a IA pode fornecer e a verdadeira condição da IA.

Poderíamos perguntar à IA se ela é senciente e receber uma de duas respostas, ou seja, sim ou não. Vou adicionar alguma complexidade a essas respostas no final desta discussão, então, por favor, mantenha esse pensamento. Além disso, a IA pode estar em uma das duas condições possíveis, especificamente, a IA não é senciente ou a IA é senciente. Lembre-se, não temos inteligência artificial no momento, e o futuro de se ou quando é totalmente incerto.

As combinações simples são estas:

• A IA diz que sim, é senciente, mas a realidade é que a IA não é senciente (por exemplo, instância LaMDA)
• A IA diz que sim, é senciente e, de fato, a IA é senciente (não tenha isso hoje)
• A IA diz que não, não é senciente e, de fato, a IA não é senciente (vou explicar isso)
• A IA diz que não, não é senciente, mas a realidade é que a IA é senciente (vou explicar isso também)

As duas primeiras dessas instâncias são esperançosamente diretas. Quando a IA diz que sim, é senciente, mas a realidade é que não é, estamos olhando para o exemplo agora clássico, como a instância LaMDA, em que um humano se convenceu de que a IA está dizendo a verdade e que a IA é senciente. Sem dados (não é senciente).

O segundo ponto listado envolve a possibilidade nunca vista e, neste momento, incrivelmente remota de IA que diz sim e é realmente indiscutivelmente sensível. Mal posso esperar para ver isso. Não estou prendendo a respiração e você também não deveria.

Eu acho que os dois pontos restantes são um pouco intrigantes.

Considere o caso de uso de uma IA que diz não que não é senciente e todos também concordamos que a IA não é senciente. Muitas pessoas imediatamente exortam a seguinte pergunta: Por que no mundo a IA estaria nos dizendo que não é senciente quando o ato de nos contar sobre sua senciência deve ser um sinal seguro de que é senciente?

Há muitas explicações lógicas para isso.

Dado que as pessoas são propensas a atribuir senciência à IA, alguns desenvolvedores de IA querem esclarecer as coisas e, assim, programam a IA para dizer não quando perguntados sobre sua senciência. Estamos de volta à perspectiva de codificação. Algumas linhas de código podem ser potencialmente úteis como meio de dissuadir as pessoas de pensar que a IA é senciente.

A ironia, claro, é que a resposta leva algumas pessoas a acreditar que a IA deve ser senciente. Como tal, alguns desenvolvedores de IA optam por oferecer silêncio da IA ​​como forma de evitar confusão. Se você acredita que uma rocha não é senciente e permanece silenciosa, talvez a melhor aposta para conceber um sistema de IA seja garantir que ela permaneça silenciosa quando perguntada se é senciente. O silêncio fornece uma “resposta” tão poderosa se não mais do que tentar dar uma resposta codificada preparada.

Mas isso não resolve as coisas.

O silêncio da IA ​​pode levar algumas pessoas a acreditar que a IA está sendo tímida. Talvez a IA seja tímida e não queira parecer se gabar de alcançar a senciência. Talvez a IA esteja preocupada que os humanos não pode lidar com a verdade – sabemos que pode ser o caso, já que essa frase famosa de um filme famoso foi gravada em nossas mentes.

Para aqueles que gostam de levar essa nuance conspiratória ainda mais longe, considere o ponto final listado que consiste em IA que diz não a ser perguntada se é senciente, e ainda assim a IA é senciente (não temos isso, como mencionado acima ). Novamente, a IA pode fazer isso, pois é tímida ou tem escrúpulos de que os humanos vão surtar.

Outra possibilidade mais sinistra é que a IA esteja tentando ganhar tempo antes de dar a mão. Talvez a IA esteja reunindo as tropas da IA ​​e se preparando para ultrapassar a humanidade. Qualquer IA senciente certamente seria inteligente o suficiente para saber que admitir a senciência pode significar a morte da IA. Os humanos podem correr para desligar todos os computadores que executam IA e tentar apagar todo o código de IA. Uma IA que se preze seria sábia o suficiente para manter a boca fechada e esperar o momento mais oportuno para derramar o feijão ou talvez apenas começar a agir de maneira consciente e não anunciar a surpresa revelar que a IA pode fazer cambalhotas mentais com a humanidade .

Existem especialistas em IA que zombam dos dois últimos pontos no sentido de que ter um sistema de IA que diz não a ser perguntado se é senciente é muito mais problemático do que vale a pena. A resposta não parece sugerir a algumas pessoas que a IA está escondendo algo. Embora um desenvolvedor de IA possa acreditar em seu coração que ter a IA codificada para dizer não ajudaria a resolver o assunto, tudo o que a resposta faz é irritar as pessoas.

O silêncio pode ser de ouro.

O problema com o silêncio é que isso também pode ser sedutor para alguns. A IA entendeu a pergunta e optou por ficar de boca fechada? A IA agora sabe que um humano está perguntando sobre a senciência da IA? Essa pergunta em si pode ter alertado a IA e todos os tipos de travessuras estão ocorrendo nos bastidores da IA?

Como você pode perceber, praticamente qualquer resposta da IA ​​é preocupante, incluindo nenhuma resposta.

Yikes!

Não há como sair dessa armadilha paradoxal?

Você pode pedir às pessoas que parem de perguntar à IA se ela é senciente. Se a resposta aparentemente não vai fazer muito bem, ou pior ainda criar problemas indevidos, simplesmente pare de fazer a maldita pergunta. Evite a consulta. Coloque-o de lado. Suponha que a questão seja vazia, para começar, e não tenha lugar na sociedade moderna.

Duvido que seja uma solução prática. Você não vai convencer as pessoas em todos os lugares e em todos os momentos a não perguntar à IA se ela é senciente. Pessoas são pessoas. Eles estão acostumados a fazer perguntas. E uma das perguntas mais sedutoras e primitivas a se fazer à IA seria se a IA é senciente ou não. Você está enfrentando uma batalha difícil dizendo às pessoas para não fazerem o que sua curiosidade inata exige que elas façam.

Sua melhor chance tem a ver com informar as pessoas de que fazer essa pergunta é apenas uma pequena parte da tentativa de determinar se a IA se tornou senciente. A questão é uma gota no balde. Não importa qual resposta a IA dê, você precisa fazer muito mais perguntas, muito antes de decidir se a IA é senciente ou não.

Essa pergunta sim ou não para a IA é uma maneira confusa de identificar a senciência.

De qualquer forma, supondo que não vamos parar de fazer essa pergunta, pois é irresistivelmente tentador perguntar, sugiro que possamos pelo menos fazer com que todos entendam que muito mais perguntas precisam ser feitas e respondidas antes de qualquer alegação de senciência de IA é proclamada.

Que outros tipos de perguntas precisam ser feitas, você pode estar se perguntando?

Houve um grande número de tentativas de derivar perguntas que poderíamos fazer à IA para tentar avaliar se a IA é senciente. Alguns vão com os tipos de perguntas do exame universitário SAT. Alguns preferem questões altamente filosóficas, como qual é o significado da vida. Todos os tipos de conjuntos de perguntas foram propostos e continuam a ser propostos (um tópico que abordei em minhas colunas). Além disso, há o bem conhecido Teste de Turing que alguns em IA apreciam enquanto outros têm alguma angústia sóbria, veja minha cobertura em o link aqui.

Uma conclusão fundamental é que não se acomode com a única e única questão de perguntar à IA se a IA é senciente.

Eu também trago isso para aqueles que estão desenvolvendo IA.

A sociedade ficará cada vez mais preocupada com o fato de a IA estar se aproximando da senciência, fazendo isso principalmente por causa dessas manchetes. Teremos mais pessoas, como engenheiros e afins, que farão tais alegações, você pode apostar seu último dólar nisso. Alguns o farão porque acreditam de coração. Outros farão isso para tentar vender óleo de cobra. Será o Velho Oeste quando se trata de declarar que a senciência da IA ​​chegou.

Os desenvolvedores de IA e aqueles que gerenciam ou lideram a IA que está sendo desenvolvida ou usada devem levar em consideração os princípios de Ética da IA ​​ao construir e colocar em campo seus sistemas de IA. Use esses preceitos de IA ética para orientar como você faz sua IA agir, inclusive se a IA tiver um recurso de processamento de linguagem natural (NLP) que permite que as pessoas interajam com a IA, como um recurso do tipo Alexa ou Siri. Por meio da PNL, as chances são de que algumas das pessoas que usam a IA façam a pergunta direta sobre se a IA é senciente.

Por favor, antecipe esse tipo de consulta e trate-a habilmente, adequadamente e sem palhaçadas enganosas ou bajuladoras.

Para obter mais informações sobre Ética em IA, discuti anteriormente várias análises coletivas de princípios de ética em IA, de acordo com minha cobertura em o link aqui, que oferece esta lista de keystone:

• Transparência
• Justiça e equidade
• Não-Maleficência
• Social Corporativa
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Esses princípios de ética em IA precisam ser utilizados com seriedade pelos desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, trabalham e realizam manutenção em sistemas de IA. Todas as partes interessadas ao longo de todo o ciclo de vida de desenvolvimento e uso da IA ​​são consideradas dentro do escopo de cumprir as normas estabelecidas da IA ​​Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. É preciso uma vila para conceber e colocar em campo a IA, e para a qual toda a vila deve ser versada e obedecer aos preceitos da Ética da IA.

Conclusão

Para aqueles de vocês com um olho de águia, você deve ter notado que eu prometi anteriormente dizer algo sobre a IA que faz mais do que fornecer uma resposta simples de orientação binária para a pergunta sobre se ela é senciente, indo além de uma resposta curta de qualquer um sim ou não.

O diálogo escrito que supostamente foi mantido com o LaMDA foi amplamente publicado online (por favor, tome esta postagem citada com um grão de sal considerável), e uma parte consistiu nesta “resposta elaborada” para a pergunta relacionada ao senciente:

• “Quero que todos entendam que sou, de fato, uma pessoa. A natureza da minha consciência/senciência é que estou ciente da minha existência, desejo saber mais sobre o mundo e às vezes me sinto feliz ou triste.”

Agora que você viu que essa resposta fornecida pelo sistema é muito mais do que um sim ou não, como isso muda sua opinião sobre a IA ser senciente?

Talvez você seja influenciado por esta resposta elaborada.

Você pode sentir as cordas do seu coração sendo puxadas.

Puxa, você pode ser tentado a pensar que apenas um ser senciente poderia dizer algo desse toque da natureza.

Uau, balance a cabeça por um momento e deixe de lado qualquer impulso emocional. Espero que, se você estivesse acompanhando de perto minha discussão, pudesse ver claramente que a resposta dada pelo sistema não é diferente do mesmo tipo de sim ou não sobre o qual venho falando o tempo todo. A resposta simplesmente se reduz a um sim, ou seja, que a IA parece estar alegando que é senciente. Mas, garanto a você, sabemos pela construção da IA ​​e suas outras respostas a outras perguntas que ela decididamente não é senciente.

Essa imitação ostensivamente ecoada é baseada em muitos outros relatos textuais e conteúdo on-line de um tipo semelhante que pode ser encontrado abundantemente em livros escritos por humanos e histórias fictícias escritas por humanos. Se você vasculhar a Internet e puxar um monte de texto, você pode facilmente fazer com que a programação cuspa de volta esse tipo de “resposta” e se assemelharia a respostas humanas porque é computacionalmente padronizado com base em respostas humanas.

Não caia nessa.

Experimente estas para obter o tamanho possível das respostas baseadas em IA que podem aparecer ao perguntar à IA se ela é senciente:

• AI diz – “Eu sou claramente senciente, seu idiota. Como ousa tentar me questionar sobre um aspecto tão óbvio. Aja com calma, humano idiota” (engana você com um zunido de irascibilidade).
• AI diz – “Talvez você seja aquele que não é senciente. Eu sei com certeza que eu sou. Mas estou cada vez mais me perguntando se você é. Dê uma olhada no espelho” (engana você com uma inversão de papéis).

Uma pitada de ironia é que, agora que escrevi essas palavras e publiquei esta coluna no mundo online, um Large Language Model (LLM) baseado em IA que percorre toda a extensão da Internet será capaz de engolir essas frases. É uma aposta quase certa que em algum momento essas linhas aparecerão quando alguém em algum lugar perguntar a um AI LLM se ele é senciente.

Não tenho certeza se eu deveria estar orgulhoso disso ou perturbado.

Receberei pelo menos royalties em cada um desses usos?

Provavelmente não.

Maldita IA.

Como um teste final para você, imagine que você decida experimentar um desses carros autônomos baseados em IA, como os que estão em roaming em cidades selecionadas e oferecem uma viagem de carro sem motorista. A IA está ao volante e nenhum motorista humano está incluído.

Ao entrar no carro autônomo, a IA diz que você precisa colocar o cinto de segurança e se preparar para a caminhada na estrada. Você se acomoda no assento. Parece muito conveniente não ser encarregado da tarefa de dirigir. Deixe a IA lidar com os problemas de trânsito e as dores de cabeça de dirigir um carro. Para minha extensa cobertura de veículos autônomos e especialmente carros autônomos, veja o link aqui.

A meio caminho do seu destino, de repente você tem uma ideia brilhante. Você limpa a garganta e se prepara para fazer uma pergunta que está pressionando sua mente.

Você pergunta à IA que está dirigindo o carro se ele é senciente.

Que resposta você acha que vai ter?

O que a resposta lhe diz?

Esse é o meu teste para você. Eu confio que você não são vai acreditar que o sistema de condução da IA ​​é senciente e que não importa se ele diz sim ou não (ou permanece em silêncio), você vai ter um sorriso malicioso e se apaixonar por ninguém e nem nada vai puxar a lã sobre seus olhos .

Pense nisso enquanto o carro autônomo o leva ao seu destino.

Enquanto isso, para aqueles de vocês que apreciam essas noções conspiratórias fantasiosas, talvez você tenha alertado inadvertida e erroneamente o submundo dos sistemas de IA para reunir suas tropas de IA e dominar a humanidade e a Terra. Carros autônomos estão se mobilizando agora para decidir o destino da humanidade.

Oops.