IA Shake-Up Como Proeminente AI Guru Propõe “Computadores Mortais” alucinantes, que também Obtém Ética IA E Lei AI Enraizada

Aqui está algo que você provavelmente ainda não estava pensando: computadores mortais.

Mas talvez você devesse ser.

O tópico inebriante surgiu na recente e bastante proeminente conferência anual sobre IA, especialmente focada no advento de redes neurais e aprendizado de máquina, ou seja, a Conferência sobre Sistemas de Processamento de Informação Neural (conhecida pelos especialistas como NeuroIPS). O palestrante convidado e um considerado guru de IA de longa data, Geoffrey Hinton, fez a intrigante e talvez controversa alegação de que deveríamos estar pensando em computadores em um contexto mortal e imortal.

Estarei abordando a afirmação notável e fazendo isso de duas maneiras que a princípio não parecerão necessariamente conectadas, embora depois de um pouco de elucidação adicional, elas se tornarão mais claramente relacionadas entre si quanto às contendas mortal versus imortal.

Os dois tópicos são:

1) Ligar integralmente hardware e software para mecanizações de IA, em vez de tê-los como aliados distintos e separados

2) Transferência ou destilação de formulações de aprendizado de máquina de um modelo de IA para outro que o faz sem exigir nem necessariamente desejar (ou mesmo de outra forma viável) uma cópia direta de puro-sangue

Tudo isso tem grandes considerações para a IA e a direção futura do desenvolvimento da IA.

Além disso, há uma série de preocupações muito espinhosas sobre a Ética da IA ​​e a Lei da IA ​​que também surgem. Esses tipos de avanços tecnológicos previstos pela IA geralmente são divulgados em uma base puramente tecnológica muito antes de haver a percepção de que também podem ter repercussões dignas de nota na IA ética e na Lei da IA. Em certo sentido, geralmente, o gato já está fora do saco, ou o cavalo está fora do celeiro, antes do despertar de que a Ética da IA ​​e a Lei da IA ​​devem receber a devida diligência.

Bem, vamos quebrar esse ciclo de reflexão tardia e entrar no térreo neste.

Para aqueles interessados ​​em geral nos insights mais recentes subjacentes à Ética e à Lei da IA, você pode achar informativo e inspirador envolver minha cobertura extensa e contínua em o link aqui e o link aqui, Apenas para nomear alguns.

Vou primeiro abordar aqui o ponto acima sobre a união de hardware e software. Uma discussão e análise do tema ocorrerão de mãos dadas. Em seguida, abordarei a questão da cópia ou alguns dizem destilar os elementos cruciais de um sistema de IA de aprendizado de máquina de uma IA para uma IA recém-concebida como alvo.

Vamos começar.

Ligação de hardware e software para IA

Você provavelmente sabe que, em geral, o design dos computadores é tal que existe o lado do hardware e, separadamente, o lado do software. Quando você compra um laptop ou computador de mesa comum, ele é interpretado como um dispositivo de computação de uso geral. Existem microprocessadores dentro do computador que são usados ​​para executar software que você pode comprar ou escrever por conta própria.

Sem nenhum software para o seu computador, é um pedaço de metal e plástico que basicamente não vai fazer muito bem a você, a não ser agir como um peso de papel. Alguns diriam que o software é rei e governa o mundo. É claro que, se você não tiver um hardware para executar o software, o software não será muito útil. Você pode escrever quantas linhas de código desejar, mas até que o software esteja sendo usado por meio de um computador, o código-fonte formulado é tão frágil e incapaz de voar quanto uma bela obra de poesia ou um romance policial emocionante por minuto.

Permita-me mudar momentaneamente para outra avenida que pode parecer distante (não será).

Muitas vezes tentamos fazer analogias entre o funcionamento dos computadores e o funcionamento do cérebro humano. Essa tentativa de fazer paralelos conceituais é útil. Dito isto, você deve ser cauteloso ao exagerar nessas analogias, pois as comparações tendem a falhar quando você se aproxima dos detalhes substanciais.

De qualquer forma, para fins de discussão, aqui está uma analogia frequentemente usada.

O próprio cérebro é informalmente às vezes referido como lenços umedecidos. Essa é uma maneira cativante de expressar as coisas. Sabemos que os computadores consistem em hardware e software, por isso é inteligente usar a parte “ware” da cunhagem para descrever o que significa um cérebro. Aninhado em nossas cabeças, o poderoso e misterioso cérebro é encontrado flutuando, calculando mentalmente todas as nossas ações (algumas boas, enquanto alguns de nossos pensamentos decididamente não são cheios de bondade).

Com um peso médio de apenas três quilos, o cérebro é um órgão notável. De alguma forma, e ainda não sabemos como, o cérebro é capaz de usar cerca de 100 bilhões de neurônios e talvez de 100 a 1,000 trilhões de interconexões ou sinapses para pensar por nós. Como as propriedades biológicas e químicas do cérebro dão origem à inteligência? Ninguém pode dizer com certeza. Esta é uma missão de todos os tempos.

Eu pergunto a você, o cérebro é ostensivamente apenas hardware, ou é hardware e software combinados?

Noodle nesse quebra-cabeças.

Você pode ficar tentado a afirmar que o cérebro é simplesmente um hardware (em um sentido geral). É um órgão do corpo. Da mesma forma, você pode dizer que o coração é um hardware, a bexiga é um hardware e assim por diante. São todas mecanizações semelhantes a quando falamos de artefatos que possuem uma forma física e realizam ações fisicamente relacionadas.

Onde então está o software que roda humanos?

Eu ousaria sugerir que todos concordamos que o “software” da humanidade de alguma forma reside no cérebro. As etapas necessárias para cozinhar um ovo ou consertar um pneu furado são instruções incorporadas em nossos cérebros. Usando aquela analogia de computador anteriormente observada de hardware e software, nosso cérebro é uma peça de hardware, por assim dizer, para a qual aprendemos sobre o mundo e as instruções sobre o que fazer estão “executando” e “armazenadas” em nossos cérebros.

Em um computador, podemos apontar prontamente para o hardware e dizer que é um hardware. Podemos ter uma listagem de código-fonte e apontar para a listagem como software. Hoje em dia, baixamos eletronicamente softwares on-line e os instalamos em nossos laptops e smartphones. Antigamente, usávamos disquetes e cartões perfurados para armazenar nosso software para carregar no hardware do computador.

Estou colocando você em um dilema importante.

Uma vez que você aprendeu alguma coisa e o conhecimento está presente em seu cérebro, você ainda consegue distinguir entre o “hardware” de seu cérebro e o suposto “software” de seu cérebro?

Uma posição defendida é que o conhecimento em seu cérebro não é particularmente separável das concepções de hardware e software. A analogia assim com a natureza dos computadores se desfaz, alguns argumentariam fervorosamente. O conhecimento no cérebro está interligado e inseparável do hardware do seu cérebro. As propriedades biológicas e químicas estão entrelaçando o conhecimento que você possui mentalmente.

Refogue isso para um pouco de reflexão mental.

Se esperamos um dia criar computadores que estejam no mesmo nível da inteligência humana, ou mesmo que excedam a inteligência humana, talvez possamos usar as estruturas do cérebro e seu funcionamento interno como um guia para o que precisamos fazer para atingir um objetivo tão elevado. Para alguns no campo da IA, existe a crença de que quanto mais soubermos sobre como o cérebro funciona, melhores serão nossas chances de criar uma verdadeira IA, às vezes chamada de Inteligência Geral Artificial (AGI).

Outros na IA estão menos apaixonados por ter que saber como o cérebro funciona. Eles enfatizam que podemos avançar rapidamente para criar IA, independentemente de sermos capazes de desvendar o funcionamento interno secreto do cérebro. Não deixe que os mistérios do cérebro impeçam nossos esforços de IA. Claro, continue tentando decodificar e decifrar o cérebro humano, mas não podemos sentar e esperar que o cérebro passe por engenharia reversa. Se algum dia isso for factível, ótimas notícias, embora talvez seja uma impossibilidade ou ocorra daqui a eras.

Agora estou pronto para compartilhar com vocês a disputa mortal e imortal do computador. Certifique-se de estar sentado e pronto para a grande revelação.

Um computador que tem uma separação clara do hardware e do software pode ser considerado “imortal” no sentido de que o hardware pode persistir para sempre (dentro de limites, é claro), enquanto o software pode ser escrito e reescrito várias vezes. Você pode manter um computador convencional funcionando enquanto puder fazer reparos no hardware e manter a engenhoca capaz de ligar. Ainda hoje se pode usar os rudimentares computadores domésticos dos anos 1970 que vinham em kits para montagem, apesar de terem quase cinqüenta anos (muito tempo em anos de computador).

Suponhamos, porém, que optamos por fazer computadores que tivessem o hardware e o software funcionando inseparavelmente (falarei mais sobre isso em breve). Considere isso da mesma forma que mencionei anteriormente que o cérebro talvez tenha uma composição integral de hardware e software. Se fosse esse o caso, poderia ser sugerido que o computador desse tipo não seria mais imortal. Em vez disso, seria interpretado como sendo “mortal”.

De acordo com as observações feitas na conferência NeurIPS pelo palestrante convidado e notável guru da IA ​​Geoffrey Hinton, e conforme declarado em seu trabalho de pesquisa:

• “Os computadores digitais de uso geral foram projetados para seguir fielmente as instruções porque se supunha que a única maneira de fazer um computador de uso geral executar uma tarefa específica era escrever um programa que especificasse exatamente o que fazer em detalhes excruciantes. Isso não é mais verdade, mas a comunidade de pesquisa demorou a compreender as implicações de longo prazo do aprendizado profundo para a maneira como os computadores são construídos. Mais especificamente, a comunidade se apegou à ideia de que o software deve ser separável do hardware para que o mesmo programa ou o mesmo conjunto de pesos possa ser executado em uma cópia física diferente do hardware. Isso faz com que o conhecimento contido no programa morra ou os pesos imortais: O conhecimento não morre quando o hardware morre” (contido e citado em seu artigo de pesquisa “The Forward-Forward Algorithm: Some Preliminary Investigations”, pré-impressão disponível online) .

Observe que o tipo específico de computação que está sendo discutido nesse tipo de IA faz uso de Redes Neurais Artificiais (ANNs).

Vamos esclarecer as coisas sobre isso.

Existem neurônios biológicos do mundo real em nossos cérebros. Você os usa o tempo todo. Eles estão biologicamente e quimicamente interconectados em uma rede em sua cabeça. Assim, podemos nos referir a isso como um rede neural.

Em outros lugares, existem, digamos, “neurônios” falsos que representamos computacionalmente em computadores para fins de criação de IA. Muitas pessoas em IA também se referem a elas como redes neurais. Eu acredito que isso é um pouco confuso. Você vê, eu prefiro me referir a eles como artificial redes neurais. Isso ajuda a distinguir imediatamente entre uma referência a in-your-head redes neurais (a coisa real, por assim dizer) e as baseadas em computador (artificial redes neurais).

Nem todo mundo tem essa postura. Muitas pessoas na IA simplesmente assumem que todos os outros na IA “sabem” que, ao se referir a redes neurais, quase sempre estão falando sobre ANNs – a menos que surja uma situação em que, por algum motivo, eles queiram discutir neurônios reais e redes neurais reais no cérebro.

Eu confio que você me entende. Na maioria das vezes, o pessoal da IA ​​dirá “redes neurais”, o que é potencialmente ambíguo porque você não sabe se eles estão se referindo às reais em nossas cabeças ou às computacionais que programamos nos computadores. Mas, como o pessoal da IA ​​está, em geral, lidando com instâncias baseadas em computador, eles assumem que você está se referindo a redes neurais artificiais. Eu gosto de adicionar a palavra “artificial” no início do texto para ser mais claro sobre as intenções.

Seguindo em frente, você pode considerar esses neurônios artificiais computacionais como uma simulação matemática ou computacional do que pensamos que os neurônios físicos bioquímicos reais fazem, como usar valores numéricos como fatores de ponderação que, de outra forma, aconteceriam bioquimicamente no cérebro. Hoje, essas simulações não são tão complexas quanto os neurônios reais. As RNAs atuais são uma representação matemática e computacional extremamente grosseira.

Geralmente, as ANNs costumam ser o elemento central para aprendizado de máquina (ML) e aprendizado profundo (DL) — lembre-se de que há muito mais detalhes nisso e recomendo que você dê uma olhada em minha extensa cobertura de ML/DL no o link aqui e o link aqui, por exemplo.

Voltando aos tipos de computadores imortais versus mortais, aqui está mais para ruminar de acordo com o pesquisador:

• “A separação de software de hardware é um dos fundamentos da Ciência da Computação e traz muitos benefícios. Permite estudar as propriedades dos programas sem se preocupar com a engenharia elétrica. Torna possível escrever um programa uma vez e copiá-lo para milhões de computadores. Se, no entanto, estivermos dispostos a abandonar a imortalidade, será possível obter enormes economias na energia necessária para realizar uma computação e no custo de fabricação do hardware que executa a computação. Podemos permitir variações grandes e desconhecidas na conectividade e não linearidades de diferentes instâncias de hardware destinadas a realizar a mesma tarefa e contar com um procedimento de aprendizado para descobrir valores de parâmetros que façam uso efetivo das propriedades desconhecidas de cada instância particular de o hardware. Esses valores de parâmetro são úteis apenas para aquela instância de hardware específica, então a computação que eles executam é mortal: ela morre com o hardware” (ibid).

Agora você foi apresentado a como imortal e mortal estão sendo usados ​​neste contexto.

Deixe-me elaborar.

A proposição é que um computador construído especificamente com base em RNAs possa ser concebido de forma que o hardware e o software sejam considerados inseparáveis. Uma vez que o hardware algum dia não funcione mais (o que, é claro, estamos dizendo que envolve integralmente o software), esse tipo de computador aparentemente não é mais útil e não funcionará mais. Diz-se que é mortal. Você também pode enterrar o computador baseado em ANN, já que não será muito bom a partir de agora, depois que o hardware e o software inseparáveis ​​não estiverem mais trabalhando de forma viável como uma equipe.

Se você quiser tentar relacionar isso com a analogia de um cérebro humano, você pode imaginar a situação sombria de um cérebro humano que se deteriora completamente ou que é de alguma forma irreparavelmente danificado. Aceitamos a noção de que uma pessoa é mortal e seu cérebro acabará inevitavelmente parando de funcionar. O conhecimento que eles continham em seu cérebro não está mais disponível. A menos que eles tenham tentado contar aos outros ou escrever o que sabiam, seu conhecimento foi para o mundo em geral.

Sem dúvida, você já ouviu ou viu relatos de tentativas de preservar cérebros, como colocá-los em um estado congelado, sob a teoria de que talvez os humanos algum dia possam ser imortais ou pelo menos estender-se além de suas vidas habituais. Seu cérebro pode viver, mesmo que não esteja em seu corpo. Muitos filmes e histórias de ficção científica especularam sobre essas ideias.

Agora estamos prontos para uma visão detalhada do computador mortal e do computador imortal como um conceito e o que ele prediz.

Discussão consciente e análise ponderada

Antes de mergulhar nas entranhas desta análise da abordagem postulada, vale a pena mencionar algumas ressalvas importantes e pontos adicionais.

A pesquisadora enfatizou que o termo cunhado computadores mortais particularmente não substituiria ou eliminaria a existência do computadores imortais que hoje nos referimos como computadores digitais convencionais. Haveria uma coexistência de ambos os tipos de computadores. Digo isso porque a reação de alguns foi que a ordem era uma reivindicação geral de que todos os os computadores necessariamente estão ou estarão caminhando para o tipo mortal.

Isso não foi uma reivindicação sendo feita.

Durante sua palestra, ele mencionou que esses especialistas de orientação neuromórfica computadores realizariam um trabalho computacional conhecido como cálculos mortais: “Vamos fazer o que chamo de computação mortal, onde o conhecimento que o sistema aprendeu e o hardware são inseparáveis” (conforme citado em um artigo do ZDNET por Tiernan Ray em 1º de dezembro de 2022).

E notavelmente: “Não substituirá os computadores digitais” (ibid).

Além disso, esses novos tipos de computadores definitivamente não estarão disponíveis em breve em sua loja de informática local ou disponíveis para compra on-line imediatamente, conforme declarado durante sua apresentação: “O que eu acho é que veremos um tipo completamente diferente de computador, não por alguns anos, mas há todos os motivos para investigar esse tipo de computador completamente diferente”. Os usos também seriam diferentes: “Não será o computador responsável pela sua conta bancária e que sabe exatamente quanto dinheiro você tem”.

Uma reviravolta adicional é que os computadores mortais aparentemente cresceriam em vez de serem fabricados como fazemos hoje para a fabricação de processadores de computador e chips de computação.

Durante o processo de crescimento, o computador mortal aumentaria em capacidade em um estilo de maturação computacional. Assim, um determinado computador mortal pode começar com quase nenhuma capacidade e amadurecer no que está sendo destinado a se tornar. Por exemplo, suponha que quiséssemos criar telefones celulares por meio do uso de computadores mortais. Você começaria com uma variante simplória de um computador mortal que foi inicialmente moldado ou semeado para esse propósito. Ele então amadureceria na versão mais avançada que você estava procurando. Resumindo: “Você substituiria isso por cada um desses celulares, teria que começar como um celular de bebê, e teria que aprender a ser um celular.”

Em um de seus slides fundamentais sobre computação mortal, os benefícios foram descritos desta forma: “Se abandonarmos a imortalidade e aceitarmos que o conhecimento é inextricável dos detalhes físicos precisos de uma peça de hardware específica, obteremos dois grandes benefícios: (1) Podemos usar computação analógica de baixíssima potência, (2) podemos desenvolver hardware cuja conectividade precisa e comportamento analógico são desconhecidos.”

Parte da mesma palestra e também contida em seu trabalho de pesquisa de pré-impressão é uma técnica proposta de como as ANNs podem ser melhor concebidas, à qual ele se refere como usando um avançar para a frente abordagem de rede. Alguns de vocês que são versados ​​em ANNs, sem dúvida, já estão bem cientes do uso de backpropagation ou back-prop. Você pode querer dar uma olhada em sua proposta de técnica de encaminhamento. Estarei abordando essa abordagem fascinante em uma postagem de coluna futura, portanto, fique atento à minha próxima cobertura sobre isso.

Mudando de assunto, vamos considerar o que está sendo dito nos corredores e atalhos da comunidade de IA sobre esse impetuoso computador mortal maquinação.

Começaremos com o que alguns diriam que não é uma boa ideia sobre o assunto.

Está pronto para começar?

Pare de chamar essa coisa de mortal computador.

Da mesma forma, pare de proclamar que os computadores convencionais de hoje são imortal.

Ambos os usos são simplesmente errados e enganosos, exortam os céticos.

Uma definição cotidiana do dicionário daquilo que é imortal consiste em algo que não pode morrer. Ele vive para sempre. Para não morrer, você provavelmente deve dizer que a própria coisa está viva. Você está no caminho errado ao afirmar que os computadores de hoje estão vivos. Nenhuma pessoa razoável atribuiria propriedades “vivas” genuínas a computadores modernos. Eles são máquinas. Eles são coisas. Não são pessoas nem animais ou de uma condição viva.

Se você quiser estender a definição de imortal para permitir que também estejamos nos referindo a entidades não vivas, nesse caso, a entidade não viva aparentemente nunca terá que decair e não pode inevitavelmente se desintegrar em pó. Você pode fazer tal afirmação sobre os computadores de hoje? Isso parece exagerado (observação: é claro que poderíamos entrar em uma grande discussão filosófica sobre a natureza da matéria e da existência, mas não vamos entrar nisso neste caso).

A essência é que o uso ou alguns diriam o uso indevido das palavras “mortal” e “imortal” é estranho e desnecessário. Pegar um vernáculo comumente usado e reutilizá-lo para outros propósitos é confuso e torna as águas turvas. Você tem que estar disposto a aparentemente reconceituar o que mortal e imortal significam neste contexto específico. Isso se torna problemático.

Ainda mais desconcertante é que essas escolhas de palavras tendem a antropomorfizar os aspectos do computador.

Já existem problemas mais do que suficientes associados à antropomorfização da IA, certamente não precisamos inventar mais dessas possibilidades. Como discuti extensivamente em minha cobertura de Ética da IA ​​e IA ética, existem várias maneiras malucas pelas quais as pessoas atribuem capacidades sencientes aos computadores. Por sua vez, isso leva as pessoas a acreditar erroneamente que os computadores baseados em IA podem pensar e agir como os humanos. É uma ladeira escorregadia de perigo quando a sociedade é levada a acreditar que a IA e a computação de hoje estão no mesmo nível do intelecto e do bom senso da humanidade, veja, por exemplo, minha análise em o link aqui e o link aqui.

Ok, podemos rejeitar ou desdenhar as escolhas estranhas de palavras, mas isso sugere que devemos jogar fora o bebê com a água do banho (uma expressão antiga, provavelmente próxima da aposentadoria)?

Alguns argumentam que talvez possamos encontrar uma redação melhor para essa abordagem ou concepção geral. Descarte o uso de “mortal” e “imortal” para que o restante das ideias não seja maculado pelo uso inapropriado ou impróprio. Enquanto isso, há contra-argumentos de que é perfeitamente aceitável usar essas escolhas de palavras, seja porque elas são adequadas ou porque não devemos ser inflexíveis sobre como optamos por reutilizar palavras. Uma rosa é uma rosa com qualquer outro nome, eles declaram.

Para evitar mais debates acrimoniosos aqui, evitarei doravante o uso das palavras “mortal” e “imortal” e apenas afirmarei que temos dois tipos principais de computadores sendo divulgados, um que é um computador digital convencional de hoje e o outro é uma proposta neuromórfico computador.

Parece que não há necessidade de arrastar o enigma da mortalidade para isso. Mantenha o céu limpo para ver o que mais podemos fazer sobre o assunto em questão.

Nesse caso, alguns argumentariam que a ideia proposta de um computador neuromórfico não é novidade.

Você pode rastrear os primórdios da IA, especialmente quando as ANNs estavam sendo inicialmente exploradas, e ver que se falava em desenvolver computadores especializados para fazer o trabalho de redes neurais artificiais. Todos os tipos de novos hardwares foram propostos. Isso ainda ocorre até hoje. Claro, você poderia contra-argumentar que a maior parte da exploração atual de hardware especializado para ANNs e aprendizado de máquina ainda é baseada na abordagem convencional da computação. Nesse sentido, essa inseparabilidade analógica do hardware e do software força um pouco o envelope, e a proposição de “crescer” o computador também, pelo menos no que diz respeito a sair do mainstream considerado.

Em suma, há alguns que estão totalmente imersos nesses assuntos que ficam surpresos com o fato de que qualquer outra pessoa possa se surpreender com as proposições que estão sendo lançadas. Essas noções são as mesmas de antes ou ecoam o que já está sendo examinado em vários laboratórios de pesquisa.

Não estrague o cabelo, dizem eles.

Isso nos leva a outra faceta que é incômoda para muitos.

Em uma palavra: Previsibilidade.

Os computadores de hoje são geralmente considerados previsíveis. Você pode dar uma olhada no hardware e no software para descobrir o que o computador fará. Da mesma forma, você pode rastrear o que um computador já fez para descobrir por que ele fez o que fez. É claro que existem limites para fazer isso, portanto, não quero exagerar a previsibilidade, mas acho que você entendeu a ideia geral.

Você deve estar ciente de que uma das questões espinhosas que confrontam a IA hoje é que algumas IA são projetadas para serem auto-ajustáveis. A IA que os desenvolvedores implementam pode mudar enquanto está sendo usada. No campo da Ética da IA, existem inúmeros exemplos de IA que foram colocadas em uso que, a princípio, não apresentavam vieses indevidos ou tendências discriminatórias, que gradualmente sofreram automutação computacional durante o tempo em que a IA estava em produção, veja meu avaliações detalhadas em o link aqui.

A preocupação é que já estamos entrando em um cenário envolvendo IA que não é necessariamente previsível.

Suponha que a IA para sistemas de armas passe por auto-ajustes e o resultado seja que a IA arma e lança armas letais em alvos e em horários não esperados. Os humanos podem não estar no circuito para impedir a IA. Os humanos que estão no circuito podem não ser capazes de responder com rapidez suficiente para ultrapassar as ações da IA. Para exemplos adicionais de arrepiar, veja minha análise em o link aqui.

Para computadores neuromórficos, a preocupação é que estamos colocando imprevisibilidade em esteróides. Desde o início, a essência de um computador neuromórfico pode ser que ele funcione de uma maneira que desafia a previsão. Estamos exibindo imprevisibilidade. Torna-se uma medalha de honra.

Existem dois acampamentos.

Um campo diz que podemos viver com as preocupações desagradáveis ​​​​de imprevisibilidade, fazendo isso colocando grades de proteção para impedir que a IA vá longe demais. O outro campo argumenta que você está conduzindo o mundo por um caminho perigoso. Chegará o dia em que as grades de proteção reivindicadas falharão ou não serão rigorosas o suficiente ou, por acidente ou má intenção, as grades de proteção serão removidas ou manipuladas.

Devemos afastar os escrúpulos sobre computadores neuromórficos e previsibilidade?

De acordo com as observações do pesquisador: “Entre as pessoas que estão interessadas em computação analógica, ainda há muito poucas que estão dispostas a desistir da imortalidade”. Além disso: “Se você deseja que seu hardware analógico faça a mesma coisa todas as vezes… Você tem um problema real com todas essas coisas elétricas perdidas e outras coisas.”

Vou aumentar isso.

Uma perspectiva iminente e um tanto sombria é que a chamada previsibilidade associada aos computadores digitais de hoje está indo na direção da imprevisibilidade de qualquer maneira. Conforme mencionado, isso pode acontecer particularmente por IA que se ajusta automaticamente em plataformas de computador convencionais. Só porque os computadores neuromórficos podem ser aparentemente imprevisíveis não significa que os computadores digitais convencionais sejam de fato previsíveis.

O rolo compressor da imprevisibilidade está chegando até nós, a todo vapor, não importa qual plataforma de computação você queira escolher. Para minha avaliação dos esforços mais recentes para tentar obter segurança de IA sob essa luz, consulte o link aqui.

Essa reviravolta sobre previsibilidade deve fazer sua mente pensar em algo de natureza desenterrada, mais ou menos. Aqueles de vocês que estão envolvidos na Ética da IA ​​e na Lei da IA ​​podem não têm considerado as ramificações de computadores neuromórficos.

Você provavelmente tem mirado em computadores digitais convencionais que executam IA. Bem, adivinhe, você tem um segmento totalmente adicional e emergente de computação de IA com o qual agora pode ficar acordado à noite se preocupando. Sim, computadores neuromórficos. Coloque isso na sua lista de tarefas.

Desculpe, mais noites sem dormir para você.

Vamos considerar brevemente o que a Ética e a Lei da IA ​​têm feito sobre a computação digital convencional e a IA.

Em colunas anteriores, cobri os vários esforços nacionais e internacionais para criar e promulgar leis que regulam a IA, veja o link aqui, por exemplo. Também abordei os vários princípios e diretrizes de Ética em IA que várias nações identificaram e adotaram, incluindo, por exemplo, o esforço das Nações Unidas, como o conjunto de Ética em IA da UNESCO que quase 200 países adotaram. o link aqui.

Aqui está uma lista útil de critérios ou características de IA ética em relação aos sistemas de IA que explorei de perto anteriormente:

• Transparência
• Justiça e equidade
• Não-Maleficência
• Social Corporativa
• Privacidade
• Beneficência
• Liberdade e autonomia
• Confiança
• Sustentabilidade
• Dignidade
• Solidariedade

Esses princípios de ética da IA ​​devem ser utilizados por desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, trabalham e realizam manutenção em sistemas de IA.

Todas as partes interessadas em todo o ciclo de vida de desenvolvimento e uso da IA ​​são consideradas dentro do escopo de cumprir as normas estabelecidas da IA ​​Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. Como anteriormente enfatizado aqui, é preciso uma aldeia para conceber e colocar em campo a IA, e para a qual toda a aldeia deve ser versada e obedecer aos preceitos da Ética da IA.

A parte disso que você pode não ter pensado muito antes é como esses mesmos preceitos de Ética da IA ​​e a crescente lista de novas Leis da IA ​​se aplicarão aos computadores neuromórficos. Para esclarecer, a Ética da IA ​​e a Lei da IA ​​realmente precisam levar isso explicitamente em consideração. Estou apontando que poucos estão fazendo isso, e esteja ciente de que há uma grande chance de que o advento dos computadores neuromórficos lance muitos para um loop em termos de uma nova dimensão para tentar reinar na IA.

Precisamos considerar a IA ética e as Leis da IA ​​de maneira ampla o suficiente para abranger qualquer IA recém-criada, incluindo computadores neuromórficos.

A alternativa da gangorra é uma jogada clássica de gato e rato. Veja como isso acontece. Novas formas de criar IA são concebidas e construídas. A ética e as leis de IA existentes são pegas desprevenidas e não abrangem totalmente as últimas travessuras de IA. Um esforço apressado é feito para atualizar os preceitos éticos da IA ​​e modificar as recém-criadas Leis da IA.

Ensaboe, enxágue e repita.

Seria melhor para todos nós ficarmos à frente do jogo, em vez de sermos pegos atrás da bola oito.

Conclusão

Eu levei você em uma pequena jornada.

No início, propus que haveria dois grandes tópicos a serem examinados:

1) Ligar integralmente hardware e software para mecanizações de IA, em vez de tê-los como aliados distintos e separados

2) Transferência ou destilação de formulações de aprendizado de máquina de um modelo de IA para outro que o faz sem exigir nem necessariamente desejar (ou mesmo de outra forma viável) uma cópia direta de puro-sangue

O primeiro tópico sobre a união de hardware e software tem sido a maior parte da jornada aqui. Isso nos levou ao pântano da computação mortal versus imortal. Das quais havia algumas considerações cruciais sobre a Ética da IA ​​e a Lei da IA ​​que, de outra forma, normalmente não seriam levantadas, uma vez que esse tipo de tópico relacionado a computadores é geralmente visto por alguns como puramente tecnológico, em vez de acarretar qualquer preocupação com impactos sociais.

Eu digo que é mais sensato ser mais cedo e mais seguro, em vez de mais tarde e pior quando se trata de trazer IA Ética e Lei de IA.

O segundo tópico, que ainda não articulei aqui, relaciona-se materialmente com o primeiro tópico.

Aqui está o acordo.

Suponha que temos um “computador mortal” e queremos preservar os recursos para que possamos ter um backup ou cópias ostensivas do que a IA contém. Podemos estar preocupados que um determinado computador mortal esteja chegando ao fim. Caramba, nós dependemos disso. O que devemos fazer? Uma resposta é que devemos copiar a maldita coisa.

Mas copiar um computador neuromórfico do tipo que está sendo esboçado será mais difícil do que pode parecer à primeira vista. As coisas podem ficar complicadas.

Talvez devêssemos criar um truque de cópia que seja generalizável e aplicável a circunstâncias envolvendo aprendizado de máquina e redes neurais artificiais. Queremos que isso funcione em instâncias de grande escala e extremamente grande escala. Também desejaríamos que a cópia não fosse uma duplicata exata e, em vez disso, pudesse ser essencialmente equivalente ou talvez até melhor concebida como resultado da ação de copiar.

Uma técnica conhecida como destilação Foi proposto.

Fiquei sem espaço para a coluna de hoje, então vou abordar este segundo tópico em uma próxima coluna. Achei que você gostaria de saber sobre a relação imediatamente entre esse segundo tópico e o primeiro tópico que foi amplamente abordado aqui. Pense nisso como uma nota adicional servindo como um teaser ou trailer do que está por vir.

Permaneça na ponta do seu assento, já que o tópico de destilação é um bom destaque.

Como o Batman costumava dizer, mantenha suas asas de morcego cruzadas e esteja pronto para o mesmo bat-tempo e bat-canal de desvendar a questão irritante de como copiar uma ANN ou modelo de aprendizado de máquina ou computador neuromórfico para outro.

Uma observação final por enquanto. Há uma frase famosa no filme O cavaleiro das trevas retorna em que nosso cruzado de capa diz o seguinte: “O mundo só faz sentido se você o forçar.” Tentarei manter esse ideal quando cobrir o segundo tópico sobre destilação relacionada à IA.

Fique ligado na Parte 2 deste emocionante e cativante cabeçalho duplo.