Meta AI revela um encantador diplomático infundido em IA que transforma a ética da IA e a lei da IA em rixas indelicadas

Podemos fazer com que a IA imbua a diplomacia a par da humanidade? Os desenvolvedores de IA pretendem fazer isso.

Getty

O estimado mundo do charme e da diplomacia costuma ser marcado por indelicadeza e incivilidade.

Will Rogers, o grande humorista e comentarista social, disse a famosa frase que a diplomacia é a arte de dizer “Bom cachorrinho” até encontrar uma pedra.

A implicação aparente é que, às vezes, você precisa conter estridentemente quaisquer forças iminentes e perigosas até descobrir uma solução adequadamente defensável. Faça o que você precisa fazer quando estiver em apuros desesperados. Aplaque intencional e propositalmente aqueles que o colocam em risco, usando suas palavras calmantes e amorosas, reunindo um tempo precioso para se armar com uma postura mais prática e abertamente tangível.

Alguns afirmam que a guerra é inextricavelmente o resultado de uma diplomacia fracassada. Nesse ponto de vista considerado, uma constante batida de diplomacia evitará a guerra. Continue falando e a luta não vai começar. Outros discordam fervorosamente sobre uma opinião tão problemática. Talvez, dizem, a diplomacia seja de fato o que nos leva às guerras. Além disso, pode ser que a diplomacia prolongue as guerras e mantenha a luta em uma base interminável.

Daremos a Will Rogers outra chance de saborear um pouco do humor dessa questão de saber se a diplomacia é boa ou ruim em relação ao advento ou continuação da guerra: “Tire a diplomacia da guerra e a coisa cairá em uma semana” (ele supostamente declarada).

A definição comum de diplomacia enfatiza as relações entre as nações. Os diplomatas representam nações específicas ou estados-nação e exercem a diplomacia ao desempenhar seus deveres sagrados. Esperamos que nossos diplomatas conduzam sua política externa por meio do uso de autoconfiança. O mensageiro não deve ser aquele que provoca animosidade, apenas a mensagem pode fazê-lo. Um retrato diplomático presumivelmente impecável, mesmo das mensagens mais flagrantes, pode comprovadamente suavizar o golpe decorrente de uma demanda ou ameaça nociva.

É claro que a diplomacia não se limita apenas ao trabalho nobre de diplomatas formalizados. Ouso dizer que em nossas vidas diárias todos nós temos que manter alguma aparência de diplomacia. Quando você quer que um amigo cuide de seu amado cachorro enquanto você está em uma viagem de negócios, você certamente vai expressar diplomaticamente o pedido para cuidar do cão. Fazer uma exigência direta para fazê-lo provavelmente resultará em um baque surdo.

Provavelmente sendo mais arte do que ciência, a diplomacia é algo que os humanos usam para engraxar os patins, manter as luzes acesas e impedir que a sociedade fique totalmente furiosa. As negociações vêm para jogar. O apaziguamento pode precisar surgir. Às vezes você usa a cenoura, às vezes você usa o pau. Se você tiver que fazer isso, pode tentar a chamada diplomacia da canhoneira, na qual você tenta intimidar os outros ao seu redor. Ou, em vez de armar forte, você pode seguir a mediação mais suave e a rota humanitária. Tudo depende.

Ok, então podemos concordar razoavelmente que a diplomacia é uma forma vital de comunicação entre humanos. Consiste na prática ou encenação associada ao emprego de tato, mediação, negociação, conciliação e uma série de politicagens socialmente hábeis.

Vamos adicionar algo mais a essa equação.

Está pronto para começar?

Vamos acrescentar algo mais que você ainda pode ter considerado.

Inteligência Artificial (IA).

Sim, a IA está entrando na jogada da diplomacia. Isso parece inteiramente sensato. Se vamos ter a IA imersa em todas as facetas de nossas vidas, eventualmente a diplomacia terá sua vez. Podemos esperar que a IA seja capaz de desempenhar quaisquer funções que tenha, usando palavras apropriadas e maneiras de diplomacia.

AI como o diplomata autônomo ou semi-autônomo.

Eu percebo que pode parecer bastante assustador e totalmente assustador. Não acho que nenhum de nós esteja pronto para que a IA seja um representante de nossos respectivos países. Imagine a IA servindo em nosso nome para negociar nossas posições internacionais e afirmar nossa postura política global. Caramba! É o material daquelas histórias de ficção científica apocalípticas.

Bem, respire um suspiro momentâneo de alívio, já que isso não está nas cartas, por enquanto.

Em vez disso, pense na IA que você usa para fazer transações bancárias ou que ajuda a orientá-lo na compra de uma casa. A IA de hoje que interage com as pessoas geralmente é bastante simples. Vá aos fatos, apenas os fatos. Algumas IAs foram cobertas com palavras fofas para fazer você pensar que é amigável ou um amigo, embora isso seja rapidamente percebido. Só porque um sistema de IA se refere a você pelo seu nome ou emite palavras como “olá” em vez de “olá”, a maioria de nós percebe imediatamente que isso é uma farsa.

Um próximo passo que está sendo perseguido avidamente nos corredores dos desenvolvedores de IA é tentar infundir características diplomáticas em nossa IA cotidiana. O objetivo geral é incorporar aspectos programáticos que farão com que a IA mostre a diplomacia e os comportamentos diplomáticos. Usando uma variedade de algoritmos e especialmente o que há de mais recente em IA generativa ou Modelos de Linguagem Grande (LLM), o progresso está sendo feito notavelmente nessa frente.

Vamos dar uma olhada em um desses exemplos, o CICERO, um novo sistema de IA lançado pela equipe Meta AI.

Caso você estivesse de férias e não estivesse acompanhando as últimas notícias sobre IA, o recente anúncio e revelação de um sistema de IA cunhado como CICERO oferece uma indicação significativa de onde a arena diplomática infundida por IA se encontra atualmente. Cuidadosamente e para seu bom crédito, a equipe Meta AI disponibilizou abertamente seu sistema CICERO AI desenvolvido. Você pode ler os detalhes técnicos em um trabalho de pesquisa publicado em Ciência, Ver o link aqui. Você pode visitar um site que eles criaram para transmitir gentilmente as nuances gerais do CICERO com pequenos videoclipes para ilustrar o que ele faz (consulte o link aqui). Para aqueles que procuram código de programa e software reais, você pode encontrar o código-fonte no GitHub em o link aqui.

Quero esclarecer rapidamente um aspecto que pode parecer confuso se você optar por se aprofundar nesse assunto.

O sistema de IA específico desenvolvido pela Meta AI está atualmente configurado para jogar um jogo um tanto popular conhecido como Diplomacia (talvez você tenha visto o jogo de tabuleiro da Hasbro e de outros criadores de jogos). Trago isso à tona porque a palavra “diplomacia” terá dupla função nessa circunstância. Por um lado, a IA planejada tenta infundir características do empreendimento e exibir diplomacia por si. Enquanto isso, o cenário em que esse sistema de IA específico ocorre é ao jogar especificamente e apenas (agora) o famoso jogo de tabuleiro conhecido como Diplomacia.

Você vê como isso pode confundir algumas pessoas?

Se alguém lhe disser que esta IA em particular se sai muito bem em “diplomacia”, você pode não ter certeza se essa pessoa está se referindo à noção de que a IA é bastante hábil em jogar o jogo de tabuleiro conhecido como Diplomacia ou talvez, em vez disso, eles estejam sugerindo que a IA incorpora a essência central associada ao ato de diplomacia da humanidade. Além disso, pode ser que ambas as facetas tenham significado ao mesmo tempo (ou seja, a IA se sai bem em jogar Diplomacia e simultaneamente faz bem em ser capaz de exercer ou mostrar a diplomacia como uma habilidade ou ato).

Aqui, vou tentar corrigir isso colocando a primeira letra em maiúscula e mostrando em itálico o nome do jogo de tabuleiro, Diplomacia. No restante do tempo, usarei palavras não itálicas de “diplomacia” como uma indicação da concepção geral de ser diplomático ou exibir diplomacia (veja, acabei de fazer isso aqui).

Voltando ao assunto em questão, você pode ponderar por um momento se a IA que exibe diplomacia é algo que devemos desejar ou, em vez disso, evitar.

Há muitos aspectos positivos em fazer com que a IA demonstre a diplomacia. Você estaria vivendo em uma bolha rasa para assumir que a diplomacia decretada pela IA será total e exclusivamente uma coisa boa. A IA, que parece ter habilidades diplomáticas e pode nos fazer acreditar que possui diplomacia, também está repleta de questões preocupantes que precisamos trazer à tona. Em essência, a IA usada dessa maneira levanta um monte de questões de Ética e Lei da IA. Para aqueles interessados em IA Ética e Lei de IA, você pode dar uma olhada em minha extensa e contínua cobertura de IA Ética e Lei de IA em o link aqui e o link aqui, Apenas para nomear alguns.

Antes de saltar para a IA como a incorporação de alguma forma de diplomacia, gostaria de estabelecer alguns fundamentos essenciais sobre a IA e, particularmente, sobre a Ética e a Lei da IA, fazendo isso para garantir que a discussão seja contextualmente sensata.

A crescente conscientização da IA ética e também da lei de IA

A era recente da IA foi inicialmente vista como sendo AI For Good, o que significa que poderíamos usar a IA para a melhoria da humanidade. Nos calcanhares de AI For Good veio a percepção de que também estamos imersos em AI para mau. Isso inclui IA que é planejada ou auto-alterada para ser discriminatória e faz escolhas computacionais imbuindo vieses indevidos. Às vezes, a IA é construída dessa maneira, enquanto em outros casos ela se desvia para esse território desagradável.

Quero ter certeza de que estamos na mesma página sobre a natureza da IA de hoje.

Não há nenhuma IA hoje que seja senciente. Nós não temos isso. Não sabemos se a IA senciente será possível. Ninguém pode prever adequadamente se alcançaremos a IA senciente, nem se a IA senciente de alguma forma milagrosamente surgirá espontaneamente em uma forma de supernova cognitiva computacional (geralmente chamada de singularidade, veja minha cobertura em o link aqui).

O tipo de IA em que estou focando consiste na IA não senciente que temos hoje. Se quiséssemos especular descontroladamente sobre a IA senciente, essa discussão poderia seguir uma direção radicalmente diferente. Uma IA senciente supostamente seria de qualidade humana. Você precisaria considerar que a IA senciente é o equivalente cognitivo de um humano. Mais ainda, já que alguns especulam que podemos ter IA superinteligente, é concebível que tal IA possa acabar sendo mais inteligente que os humanos (para minha exploração da IA superinteligente como uma possibilidade, veja a cobertura aqui).

Eu sugiro fortemente que mantenhamos as coisas no chão e consideremos a IA computacional não senciente de hoje.

Perceba que a IA de hoje não é capaz de “pensar” de forma semelhante ao pensamento humano. Quando você interage com Alexa ou Siri, as capacidades de conversação podem parecer semelhantes às capacidades humanas, mas a realidade é que é computacional e carece de cognição humana. A era mais recente da IA fez uso extensivo de Machine Learning (ML) e Deep Learning (DL), que alavancam a correspondência de padrões computacionais. Isso levou a sistemas de IA que têm a aparência de tendências humanas. Enquanto isso, não há nenhuma IA hoje que tenha uma aparência de bom senso e nem a maravilha cognitiva do pensamento humano robusto.

Tenha muito cuidado ao antropomorfizar a IA de hoje.

ML/DL é uma forma de correspondência de padrões computacional. A abordagem usual é reunir dados sobre uma tarefa de tomada de decisão. Você alimenta os dados nos modelos de computador ML/DL. Esses modelos buscam encontrar padrões matemáticos. Depois de encontrar esses padrões, se encontrados, o sistema de IA usará esses padrões ao encontrar novos dados. Na apresentação de novos dados, os padrões baseados nos dados “antigos” ou históricos são aplicados para tornar uma decisão atual.

Eu acho que você pode adivinhar onde isso está indo. Se os humanos que tomaram as decisões padronizadas estão incorporando vieses indesejáveis, as chances são de que os dados reflitam isso de maneiras sutis, mas significativas. A correspondência de padrões computacionais de aprendizado de máquina ou aprendizado profundo simplesmente tentará imitar matematicamente os dados de acordo. Não há aparência de senso comum ou outros aspectos sensíveis da modelagem criada por IA per se.

Além disso, os desenvolvedores de IA também podem não perceber o que está acontecendo. A matemática misteriosa no ML/DL pode dificultar a descoberta dos preconceitos agora ocultos. Você esperaria e esperaria, com razão, que os desenvolvedores de IA testassem os vieses potencialmente enterrados, embora isso seja mais complicado do que possa parecer. Existe uma chance sólida de que, mesmo com testes relativamente extensos, ainda haja vieses embutidos nos modelos de correspondência de padrões do ML/DL.

Você poderia usar um pouco o famoso ou infame ditado de trash-in garbage out. O problema é que isso é mais parecido com preconceitos que insidiosamente são infundidos como preconceitos submersos na IA. O algoritmo de tomada de decisão (ADM) da IA torna-se axiomaticamente carregado de iniquidades.

Não é bom.

Tudo isso tem implicações notavelmente significativas na ética da IA e oferece uma janela útil para as lições aprendidas (mesmo antes de todas as lições acontecerem) quando se trata de tentar legislar a IA.

Além de empregar os preceitos da Ética da IA em geral, há uma questão correspondente sobre se devemos ter leis para governar vários usos da IA. Novas leis estão sendo divulgadas nos níveis federal, estadual e local que dizem respeito ao alcance e à natureza de como a IA deve ser concebida. O esforço para redigir e promulgar tais leis é gradual. A ética da IA serve como um paliativo considerado, no mínimo, e quase certamente, em algum grau, será diretamente incorporado a essas novas leis.

Esteja ciente de que alguns argumentam inflexivelmente que não precisamos de novas leis que cubram a IA e que nossas leis existentes são suficientes. Eles avisam que, se promulgarmos algumas dessas leis de IA, estaremos matando o ganso de ouro ao reprimir os avanços na IA que oferecem imensas vantagens sociais.

Em colunas anteriores, cobri os vários esforços nacionais e internacionais para criar e promulgar leis que regulam a IA, veja o link aqui, por exemplo. Também abordei os vários princípios e diretrizes de Ética em IA que várias nações identificaram e adotaram, incluindo, por exemplo, o esforço das Nações Unidas, como o conjunto de Ética em IA da UNESCO que quase 200 países adotaram. o link aqui.

Aqui está uma lista útil de critérios ou características de IA ética em relação aos sistemas de IA que explorei de perto anteriormente:

Transparência
Justiça e equidade
Não-Maleficência
Social Corporativa
Privacidade
Beneficência
Liberdade e autonomia
Confiança
Sustentabilidade
Dignidade
Solidariedade

Esses princípios de ética da IA devem ser utilizados por desenvolvedores de IA, juntamente com aqueles que gerenciam os esforços de desenvolvimento de IA e até mesmo aqueles que, em última análise, trabalham e realizam manutenção em sistemas de IA.

Todas as partes interessadas ao longo de todo o ciclo de vida de desenvolvimento e uso da IA são consideradas dentro do escopo de cumprir as normas estabelecidas da IA Ética. Este é um destaque importante, pois a suposição usual é que “somente codificadores” ou aqueles que programam a IA estão sujeitos a aderir às noções de Ética da IA. Conforme enfatizado anteriormente aqui, é preciso uma vila para conceber e colocar em campo a IA, e para a qual toda a vila deve ser versada e obedecer aos preceitos da Ética da IA.

Também examinei recentemente a Declaração de Direitos da IA que é o título oficial do documento oficial do governo dos EUA intitulado “Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People” que foi o resultado de um esforço de um ano do Office of Science and Technology Policy (OSTP ). O OSTP é uma entidade federal que serve para assessorar o Presidente Americano e o Escritório Executivo dos EUA em vários aspectos tecnológicos, científicos e de engenharia de importância nacional. Nesse sentido, você pode dizer que esta Declaração de Direitos da IA é um documento aprovado e endossado pela Casa Branca dos EUA existente.

Na Declaração de Direitos da IA, existem cinco categorias fundamentais:

Sistemas seguros e eficazes
Proteções de discriminação algorítmica
Dados privados
Aviso e explicação
Alternativas humanas, consideração e fallback

Eu revisei cuidadosamente esses preceitos, veja o link aqui.

Agora que estabeleci uma base útil sobre esses tópicos relacionados à Ética da IA e à Lei da IA, estamos prontos para entrar no tópico inebriante da diplomacia baseada em máquina com infusão de IA.

Diplomacia de IA em toda a sua glória e também potencial queda

Primeiro, vamos estabelecer que o tipo de IA considerado aqui é IA não senciente.

Digo isso porque se, ou alguns dizem quando chegarmos à IA senciente, todo o tópico provavelmente será totalmente alterado. Imagine o caos potencial e a confusão social por ter desembarcado de alguma forma no caso nunca antes visto inquestionavelmente verificado artificial inteligência que incorpora senciência (para minha análise de um famoso teste de IA conhecido como Teste de Turing, veja o link aqui). Você pode fazer uma aposta racional de que muitas de nossas normas culturais, legais e cotidianas existentes serão enormemente abaladas em seu âmago.

Talvez a IA senciente seja nossa amiga, ou talvez a IA senciente seja nosso pior inimigo. Como poderemos saber para que lado a IA está indo?

Você pode ficar tentado a sugerir que presumivelmente seremos capazes de conversar com a IA e descobrir pelo que ela diz as intenções que possui. Aha, você caiu em uma armadilha desconcertante. Suponha que a IA seja especialmente bem infundida com alguma forma de capacidade de diplomacia de IA. Quando você tentar falar com a IA, talvez ela fale nos termos mais charmosos e eloquentes. Isso pode ser muito reconfortante para a humanidade.

Mas é isso que a IA realmente tem “em mente” em relação às suas intenções computacionais baseadas em IA?

A IA pode estar dando o clássico soco diplomático duplo. Fale um bom jogo e nos leve a acreditar que a IA é nosso melhor amigo de todos os tempos. Isso pode estar dando à IA tempo para acumular recursos para ultrapassar a humanidade ou talvez estar trabalhando diligentemente nos bastidores para minar tudo o que usamos para sustentar a humanidade. Depois daquela parada diplomática inteligente, wham, a IA nocauteia a todos nós.

Lembre-se do que Will Rogers disse, que neste caso pode ser que a IA nos diga “Bom cachorrinho” e nós damos à IA espaço suficiente para respirar para então nos limpar do planeta. Essa concepção de IA como um risco existencial há muito é discutida. Alguns acreditam que, ao desenvolver IA com diplomacia infundida, seremos enganados. A IA astutamente usará todo o material da diplomacia infundida, na qual ajudamos a treinar a IA e, no final, seremos cegamente enganados para que a IA se torne nosso senhor supremo.

Que vergonha.

Para aqueles de vocês que estão mais interessados neste terreno altamente especulativo sobre uma IA futurística, veja minha cobertura das perspectivas da IA como uma ameaça existencial em o link aqui.

Voltando à terra, enfatizarei daqui em diante a via da diplomacia infundida por IA em nossa IA não senciente existente.

Vamos fazer um pouco de rastreamento da história.

As tentativas de criar IA que de alguma forma incorporam um sabor computacional de diplomacia e comportamentos diplomáticos ocorrem desde os primeiros dias da IA. Você pode facilmente voltar às décadas de 1950, 1960 e 1970 e encontrar estudos de pesquisa fundamentais que estavam ansiosos para aplicar a IA a esse domínio. Alguns pensaram que a teoria dos jogos era a chave. Outros se concentraram na psicologia e nos elementos cognitivos relacionados. Outros tentaram alavancar a economia, a pesquisa operacional e uma miríade de campos de atuação aparentemente pertinentes.

Um apogeu inicial ocorreu mais tarde durante a década de 1980. Naquela época, uma abordagem dominante consistia em usar Sistemas Especialistas (ES) ou Sistemas Baseados em Conhecimento (KBS) para construir sistemas de IA relacionados à diplomacia. O resultado foi bastante afetado e tendeu a demonstrar o quão difícil seria uma tarefa.

Um enigma persistente ao longo dessa era de investigação inicial foi a necessidade de uma plataforma estável sobre a qual, ou dentro da qual, uma IA supostamente capaz de atuar de algumas maneiras relacionadas à diplomacia pudesse ser adequadamente testada e explorada. Esta necessidade é talvez óbvia. Se alguém quiser discernir se um humano ou uma IA pode exercer a diplomacia, um ambiente propício a essa busca deve ser estabelecido.

Nesta imagem vem o jogo de tabuleiro de Diplomacia.

Eu percebo que o jogo de tabuleiro Diplomacia não é tão conhecido quanto Monopólio, Riscoou Stratego (você provavelmente já ouviu falar desses jogos). No entanto, existe um jogo de tabuleiro estratégico conhecido como Diplomacia que foi idealizado pela primeira vez em 1954 e lançado comercialmente em 1959. Além de ser jogado cara a cara, o Diplomacia o jogo costumava ser jogado por correio tradicional. Você escreveria seus movimentos em um pedaço de papel e enviaria a folha para aqueles contra quem estava jogando. Meio louco imaginar isso hoje em dia. Mais tarde, o e-mail foi usado. Eventualmente, o jogo estava disponível online e permitia que os jogadores participassem em tempo real uns com os outros.

Sobre o Diplomacia Com a disponibilização do jogo em microcomputadores, os especialistas em IA começaram a usar o jogo como um meio prático de testar suas misturas diplomáticas infundidas com IA. o Diplomacia o jogo estava disponível como um aplicativo rodando em PCs de forma que um humano pudesse jogar contra a máquina (ou seja, a IA criada). AI na década de 1990 que foi escrita para jogar Diplomacia era notoriamente lento, enigmático e facilmente derrotado por praticamente qualquer humano jogador minimamente experiente.

Aqui está uma revisão de 1999 de Diplomacia conforme postado no Yahoo, que descreveu vividamente o triste estado de infelicidade da capacidade diplomática infundida por IA como um oponente humano:

"Contudo, DiplomaciaO problema mais flagrante é que a inteligência artificial do jogo é absolutamente terrível. Jogadores de qualquer nível de habilidade não terão nenhum problema em jogar baleias no computador, mesmo na configuração de dificuldade mais alta. A vitória é simplesmente uma questão de tempo e paciência com a interface. Não é como se o computador não tramasse pelas suas costas – ele faz, e muitas vezes se une a aliados para tomar um ou dois territórios de você – mas tais esquemas vêm aos trancos e barrancos, ao invés de como um contínuo ou particularmente ameaça desafiadora”.

Uma fraqueza especialmente irritante do design da IA era que parecia não ter a capacidade de calcular vários movimentos ou estratégias de uma só vez: “E em um nível mais básico, o computador parece incapaz de gerenciar vários movimentos estratégicos. Enquanto um jogador humano pode lançar ataques à Grécia e à Bélgica simultaneamente, o computador sempre parece se concentrar em apenas uma coisa de cada vez. Por esta razão, o computador simplesmente não pode competir contra um jogador humano” (ibid).

Ainda não lhe expliquei o que Diplomacia jogo de tabuleiro consiste, então vamos dedicar um momento para estabelecer as regras básicas.

Há um trabalho de pesquisa útil sobre IA e jogos Diplomacia que descrevia sucintamente a natureza do jogo: “O jogo se passa em um mapa da Europa no ano de 1901, que é dividido em 75 Províncias. Cada jogador joga com uma das sete grandes potências da época: Áustria (AUS), Inglaterra (ENG), França (FRA), Alemanha (GER), Itália (ITA), Rússia (RUS) e Turquia (TUR) e cada jogador começa com três ou quatro unidades (exércitos ou frotas) que são colocadas em posições iniciais fixas no mapa. Em cada rodada do jogo, cada jogador deve 'enviar uma ordem' para cada uma de suas unidades, que diz a essas unidades como se mover pelo mapa e permite que conquistem as províncias do mapa” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita e Takayuki Ito, “O desafio da negociação no jogo da diplomacia,” Tecnologias de Acordo: 6ª Conferência Internacional, EM 2018)

Você também precisa saber sobre as maneiras de ganhar e perder o jogo: “Algumas das Províncias são chamadas Centros de abastecimento e o objetivo dos jogadores é conquistar esses Centros de Suprimentos. Um jogador é eliminado quando perde todos os seus Centros de Suprimentos e um jogador ganha o jogo quando conquista 18 ou mais dos 34 Centros de Suprimentos (uma Vitória Solo). No entanto, o jogo também pode terminar quando todos os jogadores sobreviventes concordarem com o empate” (ibid).

Eu confio que você pode ver isso Diplomacia é um jogo direto que envolve até sete jogadores que estão tentando superar estrategicamente uns aos outros. Durante esta manobra, os jogadores podem conferenciar uns com os outros, sem que os outros jogadores saibam o que estão fazendo. O ato de diplomacia vem à tona ao conseguir que outros jogadores concordem com seus planos. Você pode revelar seus verdadeiros planos ou não. Você pode oferecer planos falsos. Você pode negociar com outros jogadores. Você pode enganar outros jogadores. Você pode forjar alianças com outros jogadores. etc.

Vale tudo no amor e na guerra, como dizem.

Selecionei esse trabalho de pesquisa em particular porque foi fundamental para estabelecer uma variante da versão computadorizada do Diplomacia chamado DipGame para servir como uma plataforma avançada para testar os recursos de diplomacia infundidos com IA: “Há uma falta crônica de domínios de aplicativos compartilhados para testar modelos avançados de pesquisa e arquiteturas de negociação de agentes em sistemas multiagentes. Neste artigo, apresentamos um testbed amigável para esse fim. O testbed é baseado em O jogo da diplomacia onde a negociação e as relações entre os jogadores desempenham um papel essencial” (ibidem). Esta e inúmeras outras variações de Diplomacia foram elaborados e disponibilizados para pesquisa e jogo.

Os pesquisadores explicaram por que eles acreditavam que Diplomacia é um jogo tão útil para ajudar na busca da IA em direção à diplomacia infundida por IA: “O jogo de Diplomacia constitui um excelente caso de teste para este tipo de negociações complexas, pois é um jogo que inclui muitas das dificuldades que também teríamos de enfrentar nas negociações da vida real. Envolve satisfação de restrições, formação de coalizões, teoria dos jogos, confiança e até mesmo psicologia. Agora que os modernos computadores Chess and Go já são muito superiores a qualquer jogador humano, esperamos que Diplomacia começará a chamar mais atenção como o próximo grande desafio para a ciência da computação” (ibid).

Em uma rápida recapitulação, o jogo de tabuleiro Diplomacia fornece um veículo já conhecido e um tanto popular para fazer os humanos agirem de várias maneiras diplomáticas. Normalmente, os humanos jogam contra outros humanos (neste caso, até sete jogadores humanos). Podemos conceber uma IA que tente assumir o papel de um jogador no jogo. Assim, você pode ter seis jogadores humanos e um jogador de IA.

Visualize jogando Diplomacia conectados.

Se não dissermos aos jogadores humanos que existe uma IA entre eles, eles podem presumir naturalmente que o sétimo jogador é apenas outro jogador humano. Para tentar evitar que qualquer jogador humano adivinhe que a IA está jogando, podemos restringir os aspectos do jogo para exigir que todos os jogadores enviem mensagens de texto uns aos outros. Você não pode ver diretamente os outros jogadores.

Você pode estar pensando que isso não parece muito diferente de jogar xadrez online. Por que tanto alarido sobre Diplomacia como um jogo?

Lembre-se de que estamos focando nas interações entre os jogadores. A premissa deste jogo é que os jogadores invocam a diplomacia entre si. Isso é diferente do xadrez convencional. Se eu desenvolvesse um aplicativo de jogo de xadrez baseado em IA, ele normalmente jogaria contra um humano. Não há nenhuma negociação ou discussão entre a IA que joga xadrez e o jogador humano. Eles simplesmente fazem jogadas de xadrez e tentam superar um ao outro. Isso geralmente é feito em silêncio absoluto.

Diplomacia nos permite exercer uma diplomacia computacional e baseada em humanos franca (potencialmente fazendo isso por escrito, em vez de ter que ser dito em voz alta): “A principal diferença entre Diplomacia e outros jogos determinísticos como Xadrez e Go, é que em Diplomacia os jogadores podem negociar uns com os outros e formar coalizões. A cada rodada, antes de os jogadores enviarem seus pedidos, os jogadores têm tempo para negociar entre si e fazer acordos sobre os pedidos que enviarão. As negociações decorrem em privado, e cada acordo que se faz é do conhecimento apenas dos intervenientes nesse acordo” (ibidem).

Você poderia criar algum outro jogo que faça uso da diplomacia interativa em vez de depender do jogo Diplomacia?

Absolutamente.

Existem vários desses jogos.

A conveniência de escolher uma marca específica de jogo é que os desenvolvedores de IA podem concentrar sua atenção nesse jogo específico. Você pode criar uma IA que execute a diplomacia nesse contexto definido. Você pode compartilhar abordagens e compará-las. Você pode pontuar as várias instâncias de IA com base nas métricas associadas a esse jogo. E assim por diante.

Dito isto, o contra-argumento ou a preocupação expressa é que isso é como colocar todos os ovos na mesma cesta. Alguns temem que, se muitos desenvolvedores de IA ficarem preocupados com uma plataforma ou ambiente específico, como neste caso Diplomacia, eles buscarão otimizar a IA para essa arena específica. A implicação negativa é que a IA não será generalizada. Não faremos tanto progresso em relação aos recursos abrangentes da diplomacia infundida por IA.

É como deixar de ver a floresta por causa das árvores, se preferir.

Outra preocupação frequentemente expressa é que jogos como Diplomacia são apenas jogos.

A questão espinhosa surge se os humanos jogando um jogo estão fazendo as mesmas coisas que fariam na diplomacia do mundo real. Talvez você não esteja agindo da mesma forma quando o orgulho nacional ou os interesses nacionais não estão em jogo. Claro, você pode estar preocupado com seu orgulho pessoal ao jogar um jogo, ou talvez tentar se tornar um artilheiro, ou talvez até mesmo ganhar prêmios em dinheiro, mas ainda assim, isso equivale a negociar a paz mundial nas Nações Unidas ou pechinchar sobre quais países deveria ter ou não ter armas nucleares.

Alguns acreditam que esses jogos de diplomacia são microcosmos adequados do mundo real. Outros lamentam que os jogos sejam úteis, mas não alcancem a proverbial diplomacia do tipo borracha encontra a estrada de calibre internacional. Pode ser que as versões de jogo da diplomacia infundida por IA acabem sendo nada mais do que um mero sucesso de jogo. Puxa, a IA criada pode vencer ou se sair muito bem ao jogar um jogo envolvendo diplomacia, embora o uso da mesma IA em cenários diplomáticos verdadeiros seja extremamente deficiente e vacile ou falhe miseravelmente.

Suponha por um momento que a IA sendo criada para jogar jogos como Diplomacia vale mesmo a pena. Você poderia razoavelmente argumentar que, independentemente de ser adequado apenas para jogos ou para ação no mundo real, a ideia envolve estender os limites da IA e fazer avanços na IA que possam contribuir para a diplomacia ou possam ter outros avanços vantajosos na cunhagem da IA.

Favoreça o rosto sorridente por enquanto.

Em seguida, examinaremos como a Meta AI optou por criar um jogador de diplomacia infundido por IA que pode atuar no jogo de Diplomacia.

Segurem os seus chapéus.

Meta AI e o diplomata Cicero baseado em máquina de jogo de diplomacia

Como mencionado anteriormente, há um trabalho de pesquisa publicado em Ciência que descreve o aplicativo Meta AI recém-anunciado e lançado publicamente, cunhado como Cicero (ao longo desta discussão, me referirei a ele alternadamente como "Cicero" e igualmente ao apelido de "CICERO"):

“Apresentamos Cicero, um agente de IA que alcançou desempenho de nível humano no jogo de estratégia Diplomacia. em Diplomacia, sete jogadores conduzem negociações privadas em linguagem natural para coordenar suas ações, a fim de cooperar e competir entre si. Em contraste, grandes sucessos anteriores para IA multiagente foram em ambientes puramente adversários, como xadrez, Go e pôquer, onde a comunicação não tem valor. Por estas razões, Diplomacia serviu como uma referência desafiadora para o aprendizado multiagente” (Meta Fundamental AI Research Diplomacy Team, “Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning”, Ciência, 22 de novembro de 2022).

Farei citações do artigo e, em seguida, oferecerei vários insights que, com sorte, serão do seu interesse.

Dado que a IA acabou de ser disponibilizada, provavelmente farei uma análise subsequente depois de ter tido a chance de fazer uma avaliação prática profunda do código e também conduzir alguns jogos experimentais para avaliar os recursos da IA (como principais pontos fortes e fracos).

Esteja atento a essa postagem posterior!

De qualquer forma, acredito que você deve ter observado na passagem que acabei de citar que há uma frase que diz que a IA “alcançou desempenho de nível humano no jogo de estratégia Diplomacia. "

Reflita sobre isso.

Em primeiro lugar, é certamente louvável ter sido capaz de criar uma IA que desempenha o papel Diplomacia jogo em um suposto nível de desempenho semelhante aos humanos. Isso é abundantemente importante.

Nós temos muitos Diplomacia jogando AI que é inferior em comparação com os humanos que jogam o Diplomacia jogos. Mais do que você pode imaginar. É reconfortante e emocionante subir em direção à IA que pode fazer muito melhor o jogo. No entanto, precisamos ser cautelosos ao tirar qualquer conclusão rápida sobre isso.

Por exemplo, suponha que eu tenha inventado IA para jogar Diplomacia e eu coloquei contra jogadores humanos que nunca jogaram o jogo antes. Se minha IA os vencer, seria um pouco exagerado dizer que minha IA teve um desempenho de nível humano. O fato de ter feito isso com humanos que não estavam familiarizados com o jogo é um tanto surpreendente e duvidoso.

Eu trago isso para avisá-lo para sempre inspecionar de perto quaisquer alegações aparentemente exageradas sobre IA. A discussão anterior sobre a Ética da IA e a Lei da IA talvez abra seus olhos para a possibilidade de falsas alegações sobre a IA. Existem alegações totalmente falsas e existem aquelas insidiosas parcialmente verdadeiras e parcialmente enganosas que são particularmente intrincadas. A chave é perguntar por que aqueles que fazem afirmações sobre sua IA estão fazendo isso.

Onde está o bife?

Aqui está o que a equipe Meta AI tinha a dizer sobre a base de sua reivindicação de desempenho em nível humano (consulte o artigo para obter detalhes adicionais):

“Cícero participou anonimamente de 40 jogos do Diplomacy em uma liga “blitz” no webDiplomacy.net de 19 de agosto a 13 de outubro de 2022. Essa liga foi disputada com turnos de negociação de cinco minutos; esses controles de tempo permitiam que os jogos fossem concluídos em duas horas. Cícero ficou entre os 10% melhores participantes que jogaram mais de uma partida e 2º entre 19 participantes da liga que jogaram 5 ou mais partidas. Em todos os 40 jogos, a pontuação média de Cícero foi de 25.8%, mais que o dobro da pontuação média de 12.4% de seus 82 adversários. Como parte da liga, Cícero participou de um torneio de 8 partidas envolvendo 21 participantes, 6 dos quais disputaram pelo menos 5 partidas. Os participantes podiam jogar no máximo 6 jogos com sua classificação determinada pela média de seus 3 melhores jogos. Cícero ficou em 1º lugar neste torneio” (ibid).

É um grande alívio ver que eles tentaram seriamente apoiar suas reivindicações de IA neste caso (esteja ciente de que nem todos na IA o fazem).

Você pode sugerir que eles façam um experimento. O experimento consiste em jogadores humanos que presumivelmente não sabiam que estavam jogando com um jogador de IA em seu meio (o artigo discute por que isso parecia ser plausivelmente inferido, ou seja, que os humanos não perceberam abertamente que um dos jogadores era IA, embora uma tangente lateral interessante envolve a história de um jogador que ficou levemente desconfiado, mas não muito). Esses jogadores humanos foram pré-selecionados pela natureza do projeto experimental de modo que fossem jogadores da liga de Diplomacia e podemos inferir razoavelmente que eles sabiam bem como jogar. Eles não eram novatos.

De acordo com as estatísticas relatadas, que tomaremos pelo valor de face como antigas e devidamente coletadas e relatadas (vários dados e códigos são fornecidos nos materiais suplementares), a IA parecia ter jogado o jogo o suficiente para fazer uma conclusão plausível, embora estritamente limitada. que atingiu um nível de desempenho humano para esta variante do Diplomacia jogo e como dentro do contexto do jogo declarado da liga contra humanos que eram jogadores aparentemente versados.

Tenho certeza de que alguns de vocês podem querer questionar o número de instâncias do jogo, talvez argumentando que é muito pequeno para fazer proclamações ousadas. Outra reclamação pode ser que estar entre os 10% melhores dos participantes não é alto o suficiente, de modo que até talvez o 1% superior seja alcançado, não se deve se gabar do desempenho da IA.

Essas queixas parecem um pouco estridentes.

Digo isso porque felizmente a alegação de ser “sobre-humano” não foi invocada. Os leitores, sem dúvida, sabem da minha visão severa e amarga daqueles em IA que continuam fazendo aqueles pronunciamentos exagerados de que sua IA atingiu um status sobre-humano. Não vou entrar em minhas reclamações sobre as reivindicações sobre-humanas aqui contidas, por favor, veja o link aqui para minhas opiniões.

Meu ponto neste caso é que acredito que a indicação de desempenho em nível humano é provavelmente geralmente permitida, supondo que todos tenham em mente que isso está dentro de um contexto extremamente restrito e que não tentamos transformar isso em algo chamado sobre-humano. Também estou repetindo continuamente o contexto confinado por uma razão que elucidarei a seguir.

Posso imaginar que algumas mídias sociais ou repórteres ingênuos (possivelmente de má reputação) vão tirar totalmente do contexto a concepção de desempenho em nível humano.

Aqui está o que eu temo.

Prenda a respiração.

Alguns afirmam que a IA dominou a diplomacia. Sim, um estudo de um sistema de IA desenvolvido para a diplomacia provou, sem sombra de dúvida, que a IA pode e agora tem a capacidade de fazer tudo o que os humanos fazem pela diplomacia.

Mande para casa os diplomatas estrangeiros. Podemos substituí-los por IA.

O mundo como o conhecemos mudou. Produzimos IA que é totalmente igual aos humanos em diplomacia e podemos dar o salto “lógico” mental para a ideia de que a IA agora pode fazer tudo o que os humanos podem fazer. Voila, agora provamos que a IA está no mesmo nível dos humanos. Aparentemente, este estudo fornece evidências claras de IA senciente.

Marque minhas palavras, essa definitivamente será a abordagem excêntrica, irresponsável e cansativa de alguns escritores.

Eu não vou insistir no ponto. Seguimos em frente.

Como funciona a IA?

Aqui está um breve resumo do artigo: “Cícero combina um módulo de diálogo controlável com um mecanismo de raciocínio estratégico. Em cada ponto do jogo, Cícero modela como os outros jogadores provavelmente agirão com base no estado do jogo e em suas conversas. Em seguida, planeja como os jogadores podem se coordenar para benefício mútuo e mapeia esses planos em mensagens de linguagem natural” (ibid).

Há um bocado nesse resumo rápido.

Permita-me desempacotar.

Um jogador humano que joga Diplomacia tem que antecipar o que os outros jogadores humanos vão fazer. Você quer tentar negociar com outros jogadores e fazer com que eles concordem com seus planos. Eles vão tentar fazer o mesmo com você. Eles podem estar mentindo para você. Você pode estar mentindo para eles. Você tem que enfrentar seis outros jogadores, todos com planos e abordagens semelhantes.

Os aspectos multiagentes deste jogo são vitais para o nível de dificuldade de criar IA para jogar. A IA precisa acompanhar o que cada pessoa pode querer fazer, junto com o que ela diz que quer fazer, junto com qualquer truque que esteja fazendo com outros jogadores. Isso deve ser pesado contra o que eles dizem que vão fazer e também o que você está dizendo que fará.

Vertiginoso, mas fácil o suficiente para os humanos, geralmente.

No jargão do campo da IA, nos referimos a isso como a Teoria da Mente (ToM). Considere que você, como humano, tende a teorizar sobre o que os outros humanos estão pensando. Você não pode abrir a cabeça de alguém e ver seus pensamentos. Você tem que adivinhar quais são seus pensamentos. Você pode perguntar a eles, mas o que eles dizem pode ser seus pensamentos ou pode ser uma versão sorrateira de seus pensamentos.

Além das complexidades da Teoria da Mente, precisamos adicionar a linguagem humana a essa mistura obscura.

Quando uma pessoa se comunica com você em seu idioma natural, digamos inglês, há muito espaço para erros e falhas de comunicação. Eu digo a você que vou assumir o país X, mas erroneamente digo Y. Oopsie. Ou eu disse país X, mas você erroneamente pensou que eu disse país Y. Se você acha que esse tipo de confusão não pode acontecer se todos estiverem usando mensagens de texto, você está completamente errado. Posso digitar uma mensagem dizendo que vou atacar um país e não menciono qual. Talvez esteja implícito qual deles eu “obviamente” estaria atacando. Um jogador que receber minha mensagem pode presumir que devo estar me referindo implicitamente ao país X, mas talvez eu queira que eles pensem isso.

E assim vai.

O ponto crucial é que nossos avanços mais recentes em IA em relação ao Processamento de Linguagem Natural (NLP) e, especialmente, os mais recentes em IA generativa e Modelos de Linguagem Grande (LLMs) tornam esse tipo de situação de linguagem natural quase factível. No passado, o NLP geralmente não era bom o suficiente e, da mesma forma, os LLMs ainda não estavam mais bem estabelecidos.

No passado, a IA enviava mensagens que você quase certamente reconheceria imediatamente como tendo sido escritas por um sistema de IA com script. As palavras não eram fluentes. Foi modelado. Esta foi uma revelação óbvia de que a IA era uma IA. Hoje em dia, é muito mais difícil discernir que a IA não é um jogador humano nesses contextos.

Conforme mencionado na citação acima, esta IA em particular foi concebida para conter um “módulo de diálogo controlável com um mecanismo de raciocínio estratégico” (ibid). O diálogo vem da seguinte forma: “Cícero gera diálogo usando um modelo de linguagem pré-treinado que foi treinado posteriormente em dados de diálogo de jogos humanos de Diplomacia. Crucialmente, além de ser fundamentado tanto no histórico do diálogo quanto no estado do jogo, o modelo do diálogo foi treinado para ser controlável por meio de intenções, que definimos aqui como um conjunto de ações planejadas para o agente e seu parceiro de fala.”

Lá, observe que a configuração do domínio é crucial. Se você treinasse apenas em diálogos de natureza normal na Internet, isso não seria necessariamente adequado para o Diplomacia contexto do jogo. Aqueles que jogam estão acostumados a uma espécie de atalho para discutir o jogo e as jogadas propostas. Você quer que a IA faça o mesmo. Assim, treinar o modelo de linguagem em dados de diálogo específicos do domínio é uma abordagem digna de nota.

Para o mecanismo de raciocínio estratégico declarado, aqui está o que eles dizem: “Cícero usa um módulo de raciocínio estratégico para selecionar intenções e ações de forma inteligente. Este módulo executa um algoritmo de planejamento que prevê as políticas de todos os outros jogadores com base no estado do jogo e no diálogo até o momento, considerando tanto a força de diferentes ações quanto sua probabilidade em jogos humanos, e escolhe uma ação ideal para Cícero com base nessas previsões . O planejamento depende de um valor e função de política treinados por meio de RL de auto-jogo que penalizou o agente por se desviar muito do comportamento humano, a fim de manter uma política humana compatível” (ibid; observe que RL é uma abreviação de Aprendizagem por Reforço).

Durante um jogo, todos os jogadores estão recalibrando suas posições após cada movimento. Você não pode entrar neste jogo com uma estratégia fixa predefinida, inflexível e imutável. Você tem que mudar suas ações com base no que os outros jogadores fazem. A IA deve ser programada para fazer o mesmo. Nenhuma estratégia estática per se. Em vez disso, continue informando a situação, passo a passo, descobrindo quais parecem ser os próximos passos a serem dados.

Os fundamentos tecnológicos da IA foram concebidos desta forma: “Obtivemos um conjunto de dados de 125,261 jogos de Diplomacia jogado online em webDiplomacy.net. Destes, 40,408 jogos continham diálogos, com um total de 12,901,662 mensagens trocadas entre os jogadores. As contas dos jogadores foram desidentificadas e a redação automatizada de informações de identificação pessoal (PII) foi realizada pela webDiplomacy. Nós nos referimos a este conjunto de dados doravante como WebDiplomacy” (ibid).

Semelhante a como você pode treinar IA para jogar xadrez, em que você pega zilhões de jogos de xadrez e faz com que a IA faça correspondência de padrões sobre como os jogos foram jogados, a IA para isso Diplomacia o jogo foi comparativamente estabelecido.

Aqueles de vocês que são versados em IA podem estar curiosos sobre quais modelos básicos eles usaram, aqui está: “Tomamos o R2C2 (22) como nosso modelo básico - um modelo de codificador-decodificador baseado em transformador de 2.7B pré-treinado em texto da Internet usando uma objetiva anti-ruído BART. O modelo básico pré-treinado foi então treinado em WebDiplomacy por meio da Estimativa de Máxima Verossimilhança padrão” (ibid).

Além disso, eles adotaram uma abordagem um tanto incomum e intrigante para a modelagem dos outros jogadores quanto às suas políticas imputadas em mente: “Uma abordagem popular em jogos cooperativos é modelar as políticas dos outros jogadores por meio de aprendizado supervisionado em dados humanos, que é comumente conhecido como clonagem comportamental (BC). No entanto, BC puro é frágil, especialmente porque um modelo supervisionado pode aprender correlações espúrias entre diálogo e ações. Para resolver esse problema, Cícero usou variantes do piKL (26) para modelar as políticas dos jogadores. piKL é um algoritmo iterativo que prevê políticas assumindo que cada jogador i busca maximizar o valor esperado de sua política πi e minimizar a divergência KL entre πi e a política BC, que chamamos de política âncora τi (ibid).

Eu acho que cobre as facetas da linha superior e dá a você uma aparência adequada do que a IA faz e como ela realiza a tarefa designada.

Conclusão

Há muito mais que eu gostaria de mencionar, mas estou me alongando nessa discussão e tentarei cobrir apenas alguns aspectos fundamentais. Vou tentar cobrir mais em uma postagem subseqüente.

Você já ouviu falar do dilema do prisioneiro?

É um problema clássico relacionado à decisão.

O dilema do prisioneiro envolve você ter que decidir se vai delatar ou dedurar um companheiro de prisão. O outro prisioneiro também pode denunciá-lo. Existe uma função de recompensa de tal forma que, se você delatar o outro prisioneiro e ele não o delatar, é uma espécie de vitória para você. Se eles dedurarem você e você não denunciá-los, é uma espécie de vitória para eles e uma postura perdedora para você. Se vocês dois denunciam um ao outro, ambos perdem essencialmente. Veja minha cobertura em detalhes em o link aqui.

Que estratégia você usaria ao enfrentar o dilema do prisioneiro?

Se foi um acordo único, você quase pode jogar uma moeda. Se a situação se repetisse várias vezes e você estivesse lidando com o mesmo outro prisioneiro, talvez encontrasse um padrão que pudesse surgir. Um dos padrões mais populares e frequentemente recomendados é conhecido como olho por olho. O que quer que o outro prisioneiro faça, você faz o mesmo em seu próximo movimento. Se eles não denunciam você, você não denuncia eles. Se eles o denunciarem, você os denunciará no próximo movimento.

Você pode estar intrigado como isso se relaciona com a diplomacia infundida por IA durante o jogo Diplomacia.

Aqui está o acordo.

Nas negociações com outras pessoas, muitas vezes você precisa decidir se deve contar a verdade ou mentir para elas. Um problema com a mentira é que, se você for pego na mentira, a outra pessoa provavelmente não confiará em você a partir de então. Eles podem não ter confiado totalmente em você para começar, mas agora que você mostrou que realmente mente, eles com certeza decidirão que você é um mentiroso.

Alguns jogadores de Diplomacia mente constantemente. Eles acreditam que esta é a melhor estratégia. Mentira, mentira e mais mentiras. Outros jogadores fazem o oposto completo. Eles afirmam que você deseja evitar mentir se puder fazê-lo. Use uma mentira apenas nas situações mais necessárias. Ao poupar a mentira, você pode construir confiança com outros jogadores. Depois que você seguir o caminho da mentira e for detectado, ninguém acreditará em uma palavra do que você disser.

O artigo que descreve Cícero menciona esta consideração: “Finalmente, a Diplomacia é um domínio particularmente desafiador porque o sucesso requer construir confiança com outras pessoas em um ambiente que encoraja os jogadores a não confiar em ninguém. As ações de cada turno ocorrem simultaneamente após negociações privadas não vinculativas. Para ter sucesso, um agente deve levar em conta o risco de que os jogadores não cumpram sua palavra ou que outros jogadores possam duvidar da honestidade do agente” (ibid).

De acordo com o artigo e os vídeos curtos, os pesquisadores acabaram descobrindo que fazer a IA dizer a verdade tanto quanto possível parecia ser a melhor estratégia geral. De certa forma, você pode comparar isso ao olho por olho do dilema do prisioneiro. Comece dizendo a verdade. Se seu oponente disser a verdade, você continua dizendo a verdade. Se eles começarem a mentir, você precisa avaliar se continua dizendo a verdade ou passa a mentir.

Supõe-se que esta seja uma descoberta reconfortante.

Tenha em mente que a parte complicada e intrigante de Diplomacia é que você está fazendo isso em relação a outros seis jogadores (conhecido como um problema multiagente). Você pode ser extremamente sincero com todos eles. Ou talvez verdadeiro para alguns, mas não para outros. Há também o aspecto de que, uma vez que você mente e é pego mentindo para outro jogador, isso pode ser potencialmente observado ou deduzido por outros jogadores. Portanto, você é conhecido ou presumido que está mentindo, mesmo que não tenha mentido para um jogador em particular que espera que pense que você é sincero e com o qual está tentando ser sincero.

Os seres humanos tendem a descobrir e desenvolver suas abordagens mentira-verdade ao exercer a diplomacia. Dependências situacionais podem ser um fator enorme. As apostas na linha são cruciais para considerar. Uma infinidade de fatores entram em jogo.

Seria fascinante ter uma infusão de IA Diplomacia o jogador baseado em máquina joga um número muito grande de jogos para ver o que os resultados podem sugerir no geral.

Também podemos colocar a IA contra menos de seis outros jogadores para ver como isso muda as coisas. Também poderíamos adicionar IA à mistura como sendo mais de um jogador. Por exemplo, suponha que tivéssemos cinco jogadores humanos e dois jogadores de IA (iremos configurar os jogadores de IA como instâncias separadas para que não sejam computacionalmente iguais). E quanto a quatro humanos e três IA? E quanto a seis IA e um humano?

Outro caminho seria colocar a IA apenas contra a IA. Dessa forma, poderíamos executar um zilhão de jogos em ordem rápida. Configuração de sete instâncias distintas da IA. Cada um é seu próprio jogador separado. Como tudo isso está dentro do computador, podemos executá-los sem parar e produzir milhares ou milhões de instâncias de jogos.

Claro, o problema com AI-versus-AI é que removemos os jogadores humanos. Não sabemos se IA versus IA reflete o que os jogadores humanos fariam. Em qualquer caso, alguns resultados interessantes podem ser discernidos.

Eu havia declarado anteriormente que uma limitação da IA desse tipo é que ela geralmente tem um foco restrito. Não podemos saber prontamente que a IA que joga Diplomacia serão aplicáveis na diplomacia do mundo real. Além disso, talvez a IA que funciona bem para Diplomacia não se sairá especialmente bem em outros jogos online orientados para a diplomacia. Pode não ser transportado e, em vez disso, ser uma espécie de pônei de um truque.

Como afirmado na pesquisa sobre a formulação de DipGame:

“Afirmamos que nas negociações reais é importante ter conhecimento do domínio e saber raciocinar sobre isso. Não se pode, por exemplo, esperar fazer negócios lucrativos no comércio de antiguidades sem ter qualquer conhecimento de antiguidades, não importa o quão bom alguém seja em barganha. Além disso, um bom negociador também deve ser capaz de raciocinar sobre os desejos de seus oponentes. Um bom vendedor de carros, por exemplo, tentaria descobrir que tipo de carro melhor atende às necessidades de seu cliente para aumentar as chances de fazer um negócio lucrativo” (conforme citado anteriormente: Angela Fabregues e Carles Sierra, “DipGame: A Challenging Negotiation Testbed”, Aplicações de Engenharia de Inteligência Artificial, Outubro de 2011).

Depois de dominar a IA em Diplomacia ocorrer, todos os olhos devem estar em usar ou reutilizar a IA para lidar com outros jogos relacionados à diplomacia. Além disso, devem ser explorados os esforços para usar IA em configurações de diplomacia do mundo real.

Por enquanto, terminarei com algumas considerações éticas sobre IA.

Primeiro, foi reconfortante perceber que a equipe da Meta AI reconheceu que seu trabalho abrange ramificações de Ética da IA. Surgem perguntas sérias. É apropriado “enganar” as pessoas para que joguem contra a IA sem dizer a elas que estão fazendo isso? A linguagem natural gerada pela IA pode conter inadvertidamente palavras ofensivas que são transmitidas aos jogadores humanos? E assim por diante.

Certifique-se de dar uma olhada em como eles lidaram com as questões urgentes de IA ética nos Materiais Suplementares (SM) de seu artigo: “Discutimos considerações éticas para esta pesquisa mais adiante no SM, incluindo considerações de privacidade para uso de dados (SM, § A.1), danos potenciais resultantes da geração de linguagem tóxica ou tendenciosa (SM, §A.2), caminhos para uso indevido da tecnologia de diálogo orientado a objetivos (SM, §A.3) e divulgação do agente de IA para jogadores humanos (SM , §A.4)” (ibid).

Precisamos que mais desenvolvedores de IA e sua liderança estejam cientes da IA ética e tomem medidas conscientes para serem cuidadosos e criteriosos no trabalho de IA que realizam. Além disso, eles precisam ter certeza de que são transparentes sobre quais ações de IA ética tomaram e quais suposições fizeram.

Meu último item, por enquanto, envolve a apreensão geral de antropomorfizando AI.

Se melhorarmos a IA para parecer altamente diplomática, isso levará os humanos a assumir ou acreditar que a IA está no mesmo nível dos humanos em todos os aspectos?

É uma ladeira escorregadia fácil. Uma IA desajeitada com a qual você interage está dando uma pista reveladora de que provavelmente é uma IA e não um ser humano. Uma IA suavemente iterada que tem a aparência de equilíbrio diplomático supremo provavelmente fará com que as pessoas caiam sem hesitação na armadilha de que a IA é humana, inclusive como se tivesse bom senso humano e todas as capacidades de compreensão dos humanos.

Como um aparte, perceba também como isso pode ser explorado durante uma Diplomacia jogos. Um jogador humano que vê mensagens de aparência quase poética de outro jogador pode perceber que isso deve ser IA (agora muito além da IA desajeitada anterior), enquanto outros humanos não seriam tão articulados capazes de compor mensagens. É claro que, se a IA continuar a se ajustar, ela pode alterar o texto poético para refletir mais de perto o texto conciso e solto de jogadores humanos reais. Por sua vez, os jogadores humanos podem mudar para a linguagem poética, tentando revelar que são humanos. A ideia é que talvez outros jogadores humanos estejam dispostos a se alinhar com outros humanos por meio da IA.

A próxima coisa que você sabe é que o jogo começa a se transformar em tentar descobrir quem é o humano e quem é a IA. Se você conseguir descobrir qual é qual, talvez isso lhe dê uma vantagem. Por outro lado, pode ser para não. A IA pode acabar sendo tão experiente no jogo quanto os humanos. Sua adivinhação sobre qual é qual não lhe faz muito bem. Pode ser uma distração de apenas se concentrar em tentar vencer o jogo, independentemente de jogadores de IA ou jogadores humanos estarem à mão.

Para os pesquisadores que procuram fazer alguns estudos de fatores humanos sobre esse tipo de concepção alucinante, você poderia considerar o uso do AI-infundido Diplomacia jogador e procure disposto Diplomacia torneios da liga para investigar a identificação humano versus IA e as estratégias de adaptação comportamental que surgem.

Vamos encerrar isso.

Mark Twain disse o seguinte sobre a diplomacia: “O princípio de dar e receber é o princípio da diplomacia – dê um e receba dez”. Isso é uma avaliação honesta de como os humanos funcionam ou é apenas um pouco de humor irônico que avalia cinicamente, mas incorretamente, a condição humana?

Reflita sobre estas outras perguntas:

Se pudermos imbuir a diplomacia na IA, isso nos ensinará sobre como os humanos instanciam a diplomacia e possivelmente permitem que a humanidade melhore na arte de ser diplomático?
Será que criaremos uma falsidade de IA que parece ser senciente quando não é nada disso, tudo devido a tirar computacionalmente um coelho da cartola para aparentemente mostrar uma diplomacia semelhante à humana?
Pode-se encontrar um equilíbrio entre ter uma IA imbuída de diplomacia para que, entretanto, sejamos alertados de que esta ainda é apenas uma IA cotidiana e não devemos, portanto, antropomorfizá-la?

Dizem que a diplomacia é a arte de deixar que os outros façam do seu jeito. Vamos garantir que nosso caminho seja o humano, e não o da IA. Embora para ser diplomático, agora que penso cuidadosamente sobre isso, e no caso de acabarmos com senhores da IA, talvez devêssemos permitir que nosso caminho seja o caminho da IA, que espero se encaixar em um caminho humano adequado.

Apenas tentando exercer um pouco de diplomacia engenhosa.

Fonte: https://www.forbes.com/sites/lanceeliot/2022/11/23/meta-ai-unveils-ai-infused-diplomatic-charmer-which-stirs-ai-ethics-and-ai-law- em-indelicada-tiff/