As razões para regular os algoritmos de IA são mais simples do que você pensa

Você se preocupa que a inteligência artificial domine o mundo? Muitos fazem. De Elon Musk se preocupando com DeepMind vencendo humanos no jogo avançado de Go em 2017, a membros do Congresso, decisores políticos europeus (ver Uma abordagem europeia à inteligência artificial), e acadêmicos, há essa sensação de que esta é a década para levar a IA a sério, e está se consolidando. No entanto, não pelas razões que você pode pensar e não devido a qualquer ameaça presente.

É aqui que entram os algoritmos. O que é um algoritmo, você pode perguntar? A maneira mais simples de pensar nisso é como um conjunto de instruções que as máquinas podem entender e aprender. Já podemos instruir uma máquina a calcular, processar dados e raciocinar de maneira estruturada e automatizada. No entanto, o problema é que, uma vez que tais instruções são dadas, a máquina as seguirá. Por enquanto, esse é o ponto. Ao contrário dos seres humanos, as máquinas seguem instruções. Eles não aprendem tão bem. Mas uma vez que o fazem, podem causar problemas.

Eu não quero fazer um argumento sensacionalista sobre a ideia de computadores um dia superarem a inteligência humana, mais conhecido como o argumento da singularidade (veja o filósofo da NYU David Chalmers' reflexões sobre o tema.) Em vez disso, a fabricação pode ser o melhor exemplo de por que os algoritmos de IA estão começando a importar mais para o público em geral. Teme-se que as máquinas acelerem enormemente suas proezas às nossas custas. Não por algum raciocínio avançado, necessariamente, mas por causa da otimização dentro dos limites do que um algoritmo diz.

Fabricar é fazer coisas. Mas quando as máquinas fazem coisas, precisamos prestar atenção. Mesmo que o que as máquinas fazem seja simples. Eu vou explicar o porquê.

De botas de chuva a telefones celulares e vice-versa

Digamos, uma fábrica está fazendo botas de chuva. Adoro botas de chuva porque cresci numa zona da Noruega onde chove muito; Adoro estar ao ar livre, sujeita aos muitos elementos da natureza. A Nokia fez as botas de chuva com as quais eu cresci. Sim, a Nokia que conhecemos hoje como a empresa de eletrônicos costumava fazer botas de borracha. Por que essa chave? Porque uma vez que você faz algo, você está destinado a querer fazer melhorias. Isso faz sentido. Você poderia dizer que é a natureza humana.

O que aconteceu com a Nokia é bem conhecido e é mais ou menos assim: inicialmente uma fábrica de papel, quando eu era criança, fabricar botas de borracha (e pneus) foi particularmente bem-sucedida para a empresa. No entanto, eles viram outras oportunidades. Assim, em algum momento da década de 1980, eles mudaram para a eletrônica e rapidamente mudaram as fábricas ao redor, construindo uma grande estrutura de fornecedores locais quando começaram a fabricar telefones celulares. Isso deu início à revolução das comunicações móveis, que começou na Escandinávia e se espalhou para o resto do mundo. Compreensivelmente, muitos escreveram a história da Nokia na década de 1990 (ver Segredos por trás do milagre finlandês: a ascensão da Nokia).

Meu exemplo é direto. Talvez, muito simples. Mas pense assim. Se uma grande empresa pode fazer a transição rápida da fabricação de papel para escrever, para botas que facilitam sair na chuva e, finalmente, para telefones celulares que alteram a maneira como os humanos se comunicam: quão fácil será o próximo passo? Suponha que uma empresa que fabrica telefones celulares decida fazer nanobots e talvez esses decolem em uma década, alterando a humanidade com minúsculas máquinas que rodam autonomamente por toda parte, capazes de remontar e alterar a experiência humana. E se isso acontecer sem considerar como queremos que ocorra, quem queremos que esteja no comando e os objetivos finais?

Sugerir que os robôs conscientemente ajudaram a Nokia a decidir fazer telefones celulares seria um exagero. Mas reconhecer que a tecnologia teve um papel em permitir que uma área rural finlandesa em sua costa norte pensasse que poderia obter o domínio mundial em uma nova indústria desempenha um papel significativo.

A história da Nokia não foi tão rósea na última década, uma vez que eles não levaram em conta o surgimento de sistemas operacionais iOS e Android baseados em software. Agora, como resultado, a Nokia não fabrica mais telefones. Em uma história de retorno, eles agora fazem infraestrutura de rede e telecomunicações, soluções de segurança de rede, roteadores Wi-Fi, iluminação inteligente e TVs inteligentes (consulte A história de retorno da Nokia). A Nokia ainda fabrica coisas, é verdade. A única observação a fazer é que a Nokia sempre parece gostar de misturar as coisas que faz. Mesmo as decisões de fabricação dos seres humanos são, às vezes, difíceis de entender.

Fabricar significa fazer as coisas e as coisas evoluem. Em geral, o que fazemos hoje mudou em relação a apenas uma década atrás. As impressoras 3D descentralizaram a produção de muitos produtos avançados, tanto na indústria quanto em casa. As consequências que alteram a vida da impressão 3D ainda não ocorreram. Não sabemos se isso vai durar, mas sabemos que o foco da FDA é regular a fabricação de produtos (consulte SUA PARTICIPAÇÃO FAZ A DIFERENÇA) como as pílulas impressas ou dispositivos médicos que se seguem, os problemas óbvios de propriedade intelectual e responsabilidade, ou os problemas relacionados à impressão de armas de fogo. Em última análise, a discussão política sobre quais consequências negativas a impressão 3D pode ter além disso é inexistente, e poucos de nós se preocuparam em pensar sobre isso.

Não estou sugerindo que a impressão 3D seja perigosa por si só. Talvez, este seja um mau exemplo. No entanto, coisas que inicialmente parecem mundanas podem alterar o mundo. Os exemplos não faltam: a ponta de flecha do caçador/coletor feita de metal que inicia guerras, máscaras rituais que nos protegem do COVID-19, pregos que constroem arranha-céus, prensas de tipos móveis que (ainda) enchem nossas fábricas de papel impresso e alimentam editoras, lâmpadas que permitem ver e trabalhar dentro de casa à noite, eu poderia continuar. Ninguém que eu conheça sentou-se no final de 1800 e previu que a Nokia mudaria sua produção de papel para borracha para eletrônicos, e depois para longe de telefones celulares. Talvez devessem.

Os seres humanos são maus preditores de mudança gradual, o processo em que uma mudança leva a mais mudanças e, de repente, as coisas são radicalmente diferentes. Ainda não entendemos esse processo porque temos pouco conhecimento prático da mudança exponencial; não podemos imaginá-lo, calculá-lo ou compreendê-lo. No entanto, uma e outra vez, isso nos atinge. Pandemias, crescimento populacional, inovação tecnológica da impressão de livros à robótica, normalmente nos atinge sem aviso prévio.

O truque com o futurismo não é se, mas quando. Pode-se realmente prever mudanças apenas escolhendo alguns novos métodos de produção e afirmando que eles se tornarão mais prevalentes no futuro. Isso é bastante simples. A parte complicada é descobrir exatamente quando e especialmente como.

Clipes de papel não são o problema

Considere o meu exemplo de fábrica novamente, mas desta vez, imagine que as máquinas são responsáveis ​​por inúmeras decisões, nem todas as decisões, mas decisões de produção como otimização. Em seu livro Superinteligência, o humanista distópico da Universidade de Oxford, Nick Bostrom, imaginou um algoritmo de otimização de IA executando uma fábrica de clipes de papel. Em algum momento, ele diz, imagine que a máquina raciocina que aprender a desviar recursos cada vez maiores para a tarefa é racional, acabando gradualmente transformando nosso mundo em clipes de papel e resistindo às nossas tentativas de desligá-lo.

Apesar de ser um cara inteligente, o exemplo de Bostrom é bem idiota e enganoso (ainda que memorável). Por um lado, ele não leva em conta o fato de que humanos e robôs não são mais entidades separadas. Nós interagimos. A maioria dos robôs inteligentes está evoluindo para cobots ou robôs colaborativos. Os humanos terão muitas chances de corrigir a máquina. Mesmo assim, seu ponto básico permanece. Pode haver uma mudança gradual em algum ponto, e se essa mudança acontecer rápido o suficiente e sem supervisão suficiente, o controle pode ser perdido. Mas esse resultado extremo parece um pouco exagerado. De qualquer forma, concordo, precisamos regular os humanos que operam essas máquinas e exigir que os trabalhadores estejam sempre no circuito, treinando-os adequadamente. Esse tipo de treinamento não está indo bem. Atualmente, leva muito tempo e exige habilidades especializadas tanto para treinar quanto para ser treinado. Eu sei uma coisa. No futuro, todos os tipos de pessoas estarão operando robôs. Aqueles que não o fizerem, serão bastante impotentes.

Aumentar os humanos é melhor do que a automação sem sentido, independentemente de nunca nos fundirmos totalmente com as máquinas. Os dois conceitos são logicamente distintos. É possível que pessoas e robôs fiquem presos na automação por causa da automação. Isso causaria grandes danos à fabricação daqui para frente. Mesmo que não produza robôs assassinos. Acredito que uma fusão está a centenas de anos de distância, mas esse não é o ponto. Mesmo que esteja a apenas trinta anos de distância, as máquinas autopropulsoras operando em algoritmos simplistas que perdem o controle, esse cenário já acontece no chão de fábrica. Algumas dessas máquinas têm trinta anos e funcionam em sistemas de controle antigos e proprietários. Seu principal desafio não é que eles sejam avançados, mas o oposto. Eles são muito simplistas para serem capazes de se comunicar. Isso não é um problema para amanhã. É um problema pré-existente. Devemos abrir os olhos para isso. Pense nisso na próxima vez que você calçar suas botas de borracha.

Ainda tenho minhas botas Nokia da década de 1980. Eles têm um buraco neles, mas eu os guardo para me lembrar de onde eu sou e o quão longe eu andei. A chuva continua caindo também, e desde que esteja limpo o suficiente, não quero uma solução melhor para isso do que essas botas. Então, novamente, eu sou humano. Um robô presumivelmente já teria seguido em frente. Qual é a versão AI das botas de chuva, eu me pergunto. Não é um celular. Não é um sensor de chuva. Isso confunde a mente.

As botas digitais hoje significam que você pode personalizá-las porque elas têm designs impressos em 3D. Existem sapatos virtuais que existem apenas como NFTs (tokens não fungíveis) que podem ser vendidos e negociados. Os melhores tênis virtuais valem US$ 10,000 hoje em dia (veja O que é um tênis NFT e por que vale US $ 10,000?). Eu não tenho medo deles, mas eu deveria ter? Se o mundo virtual se tornar mais valorizado do que o mundo físico, talvez eu o faça. Ou devo esperar para me preocupar até que o próprio avatar de uma IA compre sua própria bota NFT para enfrentar a “chuva”? Se construirmos algoritmos à nossa própria imagem, é mais provável que uma IA seja boa em coisas em que gostaríamos de ser bons, mas normalmente não somos, como comprar ações, construir amizades leais (talvez com máquinas e humanos) e lembrar coisas. O metaverso industrial pode ser surpreendentemente sofisticado – cheio de gêmeos digitais que imitam nosso mundo e o superam de maneiras frutíferas – ou pode ser chocantemente simples. Talvez ambos. Só não sabemos ainda.

Precisamos regular os algoritmos de IA porque não sabemos o que está por vir. Isso é motivo suficiente, mas como fazemos isso, é uma história mais longa. Permita-me mais uma observação rápida, talvez todos os algoritmos fundamentais devam ser disponibilizados publicamente. A razão é que, se não, não há como saber a que eles podem levar. Os melhores são bastante conhecidos (ver Os 10 principais algoritmos de aprendizado de máquina), mas não há uma visão geral mundial de onde e como eles serão usados. São especialmente os algoritmos não supervisionados que devem ser observados cuidadosamente (veja Seis casos de uso poderosos para aprendizado de máquina na fabricação), sejam eles usados ​​para prever manutenção ou qualidade, para simular ambientes de produção (por exemplo, gêmeos digitais) ou para gerar novos projetos que um ser humano nunca pensaria. No cenário atual, esses algoritmos não supervisionados são normalmente chamados de redes neurais artificiais, tentando imitar o cérebro humano.

Comecei a me preocupar com redes neurais, apenas porque acho sua lógica difícil de entender. O problema é que a maioria dos especialistas, mesmo aqueles que os implantam, não entendem como esses algoritmos se movem de uma etapa para outra ou de uma camada para outra. Eu não acho que a metáfora de “camadas ocultas”, que é frequentemente usada, seja muito adequada ou muito engraçada. Não deve haver camadas ocultas na fabricação, na cobrança automatizada de impostos, nas decisões de contratação ou nas admissões de faculdades, para começar. Talvez você devesse considerar ficar preocupado também? Uma coisa é certa, humanos e máquinas fazendo coisas juntos vão mudar o mundo. Já foi, muitas vezes. Do papel às botas de chuva e às camadas dos cérebros artificiais de hoje, nada deve ser deixado inexplorado. Não devemos nos esconder do simples fato de que de muitas pequenas mudanças, uma mudança maior pode aparecer de repente.