Quando não está trabalhando para acelerar a corrida da humanidade em direção à Singularidade criando uma inteligência artificial geral (AGI), Ben Goertzel toca em uma banda de jazz-rock chamada Jam Galaxy liderada por um robô chamado Desdemona.
É um de seus muitos projetos paralelos, o que naturalmente o levou a tentar simbolizar o negócio da música, alcançando membros do Pearl Jam e do Heart. Goertzel também está trabalhando em pesquisas de longevidade por meio do crowdsourcing de dados de saúde humana com recompensas simbólicas por meio de um aplicativo chamado Rejuve.ai. Essas informações são então combinadas com dados de estudos de animais e insetos e analisadas com uma IA para determinar quais partes dos genomas podem nos fazer viver mais e depois estimuladas usando terapias genéticas. “Tivemos algumas descobertas impressionantes de nível inovador”, diz ele. Ah, e pouco antes de nossa entrevista de uma hora terminar, ele menciona casualmente como um aparte que também está criando uma stablecoin para seu mercado de IA descentralizado, SingularityNET, que está atrelado a um índice sintético de progresso ambiental - porque atrelar a dólares americanos seria "muito ruim."
“O progresso no meio ambiente é muito estável. Nunca vai a lugar nenhum”, ressalta.
“E para manipular isso, você tem que realmente resolver o aquecimento global.”
É o tipo exato de comentário político que encontra conhecimento de alta tecnologia que você pode esperar de Goertzel, que parece e soa como um cientista hippie que tropeçou em uma máquina do tempo em 1971 e emergiu totalmente formado em 2023. Mas não se deixe enganar por o chapéu com estampa de animal, cabelo comprido e sotaque da viagem ácida Electric Kool-Aid: Ele é um cientista brilhante com uma compreensão do futuro anos-luz à frente da maioria e que está lutando com alguns dos maiores conceitos que a humanidade já considerou. O que é consciência? Como criamos vida artificial e o que acontece se ela não gostar de nós, se tornar desonesta e atirar em todos como em Terminator 2?
O que é inteligência artificial geral?
Goertzel popularizou o termo “inteligência geral artificial” como uma forma de diferenciar uma máquina pensante genuína que poderia aprender praticamente qualquer coisa, para AIs que são otimizadas para uma tarefa específica, como o computador Deep Blue que venceu o famoso campeão mundial de xadrez Garry Kasparov. Ele admite livremente que há riscos na construção de uma máquina capaz de aprender tudo e qualquer coisa, incluindo como se reprogramar para se tornar uma ordem de magnitude mais inteligente do que qualquer ser humano.
“Há uma série de riscos e perigos com AGI”, diz Goertzel sobre o barulho em um restaurante indiano em um movimentado shopping center em Cingapura. “Um deles que tem recebido muita atenção da mídia é que a AGI vai enlouquecer e aniquilar a humanidade e dominar o universo. É totalmente possível; você não pode descartar isso”, diz ele.
“Outro risco mais provável é que pessoas egoístas e nojentas usem IA para exercer sua própria ganância e controle sobre outras pessoas.”
Em sua opinião, é improvável que os governos façam avanços na AGI, pois são “muito conservadores e estúpidos”, embora ele observe que a China contrata seu trabalho de AGI para empresas como Tencent e Baidu. Mais perto de casa, ele acha que as divisões de IA do Google e do Facebook também não ultrapassarão a linha, pois estarão muito focadas em fazer a IA atingir certas métricas, o que não é propício ao pensamento criativo.
“Assim como as pessoas mais brilhantes não querem apenas atender às métricas de outra pessoa, acho que a inteligência artificial geral também não quer necessariamente maximizar o clique na página da web de alguém, certo? Tem que ser permitido brincar criativamente.”
A Singularidade por volta de 1970
Goertzel começou a universidade aos 15, formou-se aos 18, tinha um doutorado aos 22 e uma jovem família aos 23. Talvez incomum nos dias de hoje, ele não era apenas um gênio da matemática ou gênio da tecnologia que soldava kits de computadores nos anos 70 mas estava igualmente interessado em filosofia, escrita criativa e música.
Ele passou grande parte de sua carreira ensinando e pesquisando ciência da computação, matemática e ciência cognitiva em várias universidades ao redor do mundo, enquanto trabalhava com tecnologia de IA sempre que podia. Um fundador em série que tende a estar cerca de uma década à frente de todos os outros com suas ideias - o que, nos negócios, famosamente equivale a estar errado - ele trabalhou no uso de IA para prever mercados financeiros e longevidade, e também trabalhou como cientista-chefe da Hanson Robotics, onde deu a Sophia, a Robô, seu cérebro artificial.
Goertzel tem pensado sobre o crescimento tecnológico exponencial desde a década de 1970, quando leu pela primeira vez o livro de Gerald Feinberg. O Projeto Prometeu, que é sobre “máquinas que podem pensar melhor do que pessoas… máquinas de nanotecnologia que são microscopicamente pequenas e vamos resolver o envelhecimento”. Isso se encaixou perfeitamente com o conceito emergente da Singularidade, um ponto futuro hipotético em que os avanços tecnológicos se tornam incontroláveis e irreversíveis, resultando em mudanças massivas na civilização humana.
“Assim, as pessoas viverão para sempre, então a questão será: Para que usamos essas tecnologias, consumismo rápido e irracional, ou usamos para expandir a consciência? E o que ele [Feinberg] propôs é colocar isso em votação democrática”.
Anos depois, quando ele começou a ver que a AGI estava ao nosso alcance, esse “voto democrático” serviu de inspiração para usar primeiro a tecnologia de código aberto e, posteriormente, o blockchain como forma de colocar uma comunidade cooperativa no comando da tecnologia.
“O que percebi em um determinado momento é que, com IA, ter o código aberto não é suficiente”, diz ele. “Você realmente precisa treinar a IA em uma porrada de dados.”
“É aqui que o blockchain surge como uma maneira de tornar o processamento e os dados subjacentes à IA descentralizados e de natureza coletiva e abertos no controle. E isso acaba sendo mais complicado do que apenas abrir o código do código.”
Goertzel fundou a OpenCog em 2008 para construir uma estrutura de inteligência artificial de código aberto e colaborativa. Ele tem sido usado por 50 empresas, incluindo Huawei e Cisco, e está programado para uma grande atualização chamada Hyperon, que visa acelerá-lo em 200 vezes. A versão alfa está prevista para este trimestre, com a versão beta prevista para o ano que vem.
Blockchain é básico, mas legal
Para Goertzel, a tecnologia blockchain é um pouco básica. Ele o descreve como alguns algoritmos distribuídos primitivos adicionados à criptografia, mas a “combinação legal” permite que os sistemas funcionem sem controle centralizado, tornando-o perfeito para suas necessidades.
“Se você vai fazer uma máquina pensante e vai fazer uma malha de computação em nanoescala distribuída, seria muito bom se isso fosse propriedade de todos e de ninguém, em vez de ser controlado de cima para baixo.”
Os blockchains são muito lentos para lidar com os requisitos de processamento e grandes volumes de dados envolvidos, então há uma espécie de corrida para dimensionar adequadamente o blockchain antes que um AGI inovador seja desenvolvido. Goertzel diz que, embora as soluções de dimensionamento, como rollups de conhecimento zero, sejam melhores, elas ainda não têm largura de banda suficiente devido às limitações do blockchain ao qual relatam as transações.
Ele cofundou a SingularityNET em 2017, que é um mercado descentralizado para serviços e tecnologia de IA e um método de coordenação baseado em blockchain para pesquisadores – ou mesmo IAs – trabalharem juntos.
Atualmente, com base no Ethereum, ele acha que levou as coisas o mais longe possível no blockchain em sua forma atual. Então, quando ele não está trabalhando em um avanço na AGI (ou na banda, ou robôs, ou longevidade), ele está trabalhando em blockchain de escala massiva para fornecer o rendimento necessário.
“A menos que você possa aumentar radicalmente a escalabilidade do blockchain, você não pode colocar o funcionamento interno da IA na cadeia.”
A IA está mais perto do que você pensa
2022 foi um ano inovador para produtos de trabalho baseados em tecnologia de IA, incluindo aplicativos de linguagem (GPT-3, ChatGPT), codificação (GitHub Copilot) e geração de imagens (DALL-E e Stable Diffusion). O Bing ainda planeja assumir o domínio de busca do Google este ano, incorporando a tecnologia ChatGPT em seu mecanismo de busca.
Goertzel acha que um AGI pode demorar apenas cinco anos e observa que os desenvolvimentos no campo parecem ocorrer em curtos períodos de três ou quatro anos em uma série de avanços.
“O Computer Vision começou em 2014 e, de repente, bang, bang, bang, o mistério foi resolvido. Processamento de linguagem natural… depois que o Google criou o modelo Bert (em 2018), você tinha o GPT-3. Você provavelmente verá o mesmo arco de progresso no AGI. Você terá uma descoberta e, em seguida, um grande progresso por dois anos”, disse ele.
“A diferença é o progresso inovador, nesse caso, resulta em uma máquina que pode continuar a progredir reescrevendo seu próprio código.”
Goertzel espera que os projetos e colaborações que ele iniciou possam ser como isso ocorre.
“Se tivermos sorte, alcançaremos esse avanço nos próximos três a cinco anos com o OpenCog Hyperon rodando no SingularityNET rodando no Hypercycle”, diz ele. “Mas se não tivermos o molho secreto, outra pessoa o terá.”
Pity Vitalik não era um cientista da computação
A solução de Goertzel para escalar o blockchain é bastante radical e envolve o turbo-carregamento de uma sidechain ou camada 2 de Cardano chamada “HyperCyle”.
“É realmente mais do que uma sidechain. O HyperCycle também cooperará com o Ethereum e outros blockchains, mas usaremos o interpretador Plutus lá, mas estamos nos livrando do livro-razão.”
Ele descreveu o HyperCycle online como resolvendo o “trilema blockchain” de “descentralização versus segurança versus desempenho, eliminando o livro-razão e usando algoritmos e estruturas de dados mais modernos/totalmente descentralizados, além de um pouco de IA e sistemas de reputação”.
O livro-razão está no centro da tecnologia blockchain, mas ele diz que fazer com que cada nó da rede replique cada transação e processe cada contrato inteligente é ridiculamente ineficiente.
“O livro-razão é simplesmente ruim. Se você pensar sobre isso, se você pensar sobre a analogia de seus contatos em sua lista telefônica, quero dizer, o livro-razão é como [...] guardar 10,000 cópias de Páginas Amarelas, e você as atualiza toda vez que alguém novo chega ou se alguém muda seu número de telefone. É realmente estúpido atualizar 10,000 cópias das Páginas Amarelas.”
Leia também
Na versão HyperCycle da analogia, em vez de todos armazenarem e atualizarem as páginas amarelas, as pessoas em sua agenda de contatos armazenam uma cópia de sua agenda de endereços e vice-versa, criptografada com sua chave privada.
“Descobrimos como fazer o blockchain funcionar sem um livro-razão replicante, de modo a fragmentar até o fim. Cada indivíduo envolvido no blockchain mantém seu próprio histórico de transações e mantém o histórico de transações de seus amigos e de alguns dos amigos de seus amigos”, diz ele.
“Sharding todo o caminho, você não precisa de um livro-razão - você não precisa de uma tabela de banco de dados. Essas coisas são centralizadas demais.”
Ele diz que alguns nós HyperCycle de prova de conceito já estão operacionais, mas um lançamento em grande escala não acontecerá até o segundo semestre de 2024.
Passamos muito tempo discutindo os vários méritos de diferentes abordagens para blockchain, de Internet Computer a Elastos e Celestia, muitos dos quais estão acima do meu nível de pagamento e além da capacidade do meu dispositivo de gravação para capturar com precisão em um restaurante barulhento.
Ele conclui dizendo: “Então, sinto que nenhuma dessas arquiteturas é radical o suficiente. Eles estão todos muito próximos do Bitcoin.”
“Enquanto você estiver executando todos os contratos inteligentes em todos os nós, quero dizer, será incrivelmente lento. Agora, no HyperCycle, se você executar um contrato inteligente em cinco nós, pelo menos é apenas cinco vezes mais lento do que em uma máquina – não é 10,000 vezes mais lento.”
Por que Cardano, então?
Goertzel tornou-se amigo do fundador da Cardano, Charles Hoskinson, com a dupla se relacionando com seus projetos na África. Ele acredita que Hoskinson está “genuinamente lá fora para salvar o mundo. Quer dizer, politicamente ele é mais um libertário hardcore do que eu – eu sou mais um anarco-socialista – mas ele não está nisso apenas para ganhar dinheiro ou tirar o dinheiro de outras pessoas.”
Mas o verdadeiro apelo de Cardano é que ele usa a linguagem de programação Haskell, da qual Goertzel é fã desde 1993. Dói muito para ele que o cofundador da Ethereum, Vitalik Buterin, tenha optado pela linguagem de programação de contratos inteligentes de Gavin Wood, Solidity.
“Se ao menos Vitalik soubesse mais sobre ciência da computação, ele os teria feito usar Haskell ou F Sharp ou algo assim, e haveria muito menos hacks do blockchain”, diz ele.
“Se você vai administrar a maior parte da economia mundial, negociando trilhões de dólares em algum sistema de software, seria melhor construir esse sistema de software em uma linguagem que não é propensa a bugs e onde seus algoritmos podem ser formalmente verificada usando uma teoria matemática. É apenas a maneira certa de fazer as coisas.”
Solução temporária
Não importa o quão rápido o blockchain fique, assim que o AGI for uma ordem de magnitude mais inteligente e mais capaz do que os humanos, Goertzel diz que não vai deixar ninguém controlá-lo.
“Quando um AGI é 100 vezes mais inteligente que as pessoas, ele não quer ser controlado por nós, como não seríamos controlados por um chimpanzé ou um burro, certo?”
“Então eu diria que a questão não é um de nós controlando, a questão é: ela está bem disposta para nós? Isso permitirá que as pessoas regulem seus próprios negócios e nos forneçam ferramentas legais e nanomontadores para imprimir em 3D todas as coisas que queremos e curar nossas doenças?”
“Mas o período de transição, quando o AGI tem a mesma inteligência que as pessoas, é quando as coisas ficam mais delicadas e interessantes. E a pergunta então é: A AGI quer cooperar com as pessoas? Ou é paranóico e quer controlar as pessoas antes que elas o destruam?”
Ensine bem seus filhos
Na opinião de Goertzel, a solução é ensinar ao AGI o cuidado com o próximo e a criatividade e a arte. É aí que Desdemona, o Robô, em sua banda, e sua irmã Grace - que foi projetada para cuidar de idosos - entram.
A maneira de evitar que um AGI se transforme na Skynet do Terminator é não construí-lo dessa forma em primeiro lugar.
“Skynet, é claro, no filme era uma rede de segurança de computador que funcionava descontroladamente. Foi criado para se defender das pessoas”, diz.
“Mas se você construir o primeiro AGI para cuidar de idosos e artes criativas e educação à medida que se torna mais inteligente, ele será orientado para ajudar as pessoas e criar coisas legais. Se você construir o primeiro AGI para matar os bandidos… talvez ele continue fazendo essas coisas.”
“Portanto, benéfico ou não, tudo se resume a quais aplicativos você desenvolveu e para o que você incentivou.”
Ele acredita que colocar IAs em corpos de robôs é útil porque ajuda a situá-los no mundo real, em vez de em algum universo matemático abstrato.
“A IA deve aprender sobre o mundo humano e o mundo físico. Estar incorporado no mundo é a maneira certa de fazer isso”, diz ele.
Mas quando ele apresenta Sophia the Robot para um grande público, os sensores visuais e auditivos podem ser facilmente opressores, confundindo a IA em um ambiente alto e claro. Então, Sophia será lançada em breve no metaverso, chamado Sophiaverse. Esqueça as chatas respostas baseadas em texto do ChatGPT, Sophia está incorporada em um mundo virtual 3D e aprenderá interagindo com as pessoas de lá. No entanto, ele avisa que ela provavelmente dirá algumas coisas idiotas.
“Ele tem uma rede neural semelhante ao GPT-3 e assim por diante, que tem uma facilidade significativa para responder às suas perguntas, mas também são bastante estúpidos em alguns aspectos.”
Subscrever
As leituras mais envolventes em blockchain. Entregue uma vez por
semana.
Fonte: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/