O que você precisa saber sobre o GPT-4, o recém-lançado sucessor do Generative AI ChatGPT, além de considerações sobre ética e leis sobre IA

Qual é a sua reação habitual após o lançamento de uma sequência de um grande sucesso de bilheteria?

Algumas pessoas vão ver a sequência e declaram que é tão bom, senão melhor que o original. Outros podem ter expectativas extraordinariamente altas e, depois de assistir ao filme mais recente, proclamá-lo como razoavelmente bom, embora nada para uivar em êxtase. Há alguns que, sem dúvida, ficarão extremamente desapontados, não importa o que o último filme inclua, e declararão sumariamente que o primeiro filme foi descaradamente cara e coroa acima da sequência.

Essa mesma gama de reações e emoções veio à tona no lançamento ontem do GPT-4 pelo fabricante de IA OpenAI, ocorrendo no Dia do Pi, ou seja, 3.14 ou 14 de março de 2023. Provavelmente uma coincidência de acontecer na peça favorita do matemático. dia de comer, a inauguração do GPT-4 atraiu muita atenção da imprensa e conversas volumosas nas mídias sociais.

Descreverei aqui os principais recursos e capacidades do GPT-4, além de fazer comparações com seu predecessor ChatGPT (o “blockbuster” inicial em minha analogia). Além disso, há uma série de considerações realmente vitais sobre a Ética e a Lei da IA ​​que acompanham a IA generativa, incluindo e talvez especialmente no caso de GPT-4 e ChatGPT devido ao seu uso indubitavelmente generalizado e mídia frenética e atenção pública em relação IA presente e futura.

Resumindo, assim como a sequência de um filme, o GPT-4 em alguns aspectos é melhor do que o ChatGPT, como ser maior, mais rápido e aparentemente mais fluente, enquanto em outros aspectos levanta dúvidas adicionais e pronunciadas (abordarei esses brevemente aqui). Uma reação meio confusa. A sequência não é um slam-dunk, o que muitos esperavam que seria. Acontece que as coisas são mais sutis do que isso. Parece que esse é o mundo real em que todos vivemos.

Talvez o CEO da OpenAI, Sam Altman, tenha dito melhor em seus tweets em 14 de março de 2023, sobre o lançamento do GPT-4:

• “Aqui está o GPT-4, nosso modelo mais capaz e alinhado até agora. Está disponível hoje em nossa API (com lista de espera) e no ChatGPT+.”
• “Ainda é falho, ainda é limitado e ainda parece mais impressionante no primeiro uso do que depois de passar mais tempo com ele.”

Minhas sugestões sobre o que você pode considerar fazer como resultado do lançamento do GPT-4, e dependendo de sua situação ou circunstância existente, consistem nestas ações potenciais:

• Usuários existentes do ChatGPT. Se você já está usando o ChatGPT, deve dar uma olhada no GPT-4 para ver se deseja usá-lo (ou pode usar o GPT-4 além do ChatGPT, portanto, use um dos ChatGPT ou GPT -4, dependendo de suas necessidades conforme elas surgirem). Você pode jogar com o GPT-4 se estiver assinando o ChatGPT Plus, o modo de assinatura de $ 20 por mês para usar o ChatGPT; O Microsoft Bing, o mecanismo de busca, usa uma variante do GPT-4, que discuti no link aqui).
• Nunca usei nenhuma IA generativa. Se você não está usando o ChatGPT e nunca usou nenhuma IA generativa, talvez queira começar com o ChatGPT, pois é acessível gratuitamente (ou, é claro, considere usar qualquer uma das miríades de outros aplicativos de IA generativa para começar sua jornada neste reino de IA). O GPT-4 não é gratuito no momento, conforme mencionado nos pontos acima em relação aos usuários existentes do ChatGPT. Depois de começar a usar o ChatGPT, você pode decidir se vale a pena assinar o ChatGPT Plus para obter os benefícios adicionais, incluindo o acesso ao GPT-4.
• Usando alguma outra IA generativa. Se você estiver usando um aplicativo de IA generativo diferente do ChatGPT, pode ser que você ache o GPT-4 de grande interesse, pois ele tem melhorias além do que o ChatGPT oferece. Menciono isso porque alguns usuários experientes de IA decidiram que o ChatGPT não era tão bom para eles quanto outras opções. Eu recomendo ficar atualizado sobre o GPT-4 para decidir se sua escolha existente ainda é a melhor para você. Pode ser. Assim, não estou defendendo que com certeza você deva mudar para GPT-4 e apenas dizendo que é sempre prudente chutar os pneus de outros carros disponíveis.
• Outro software que acessa o ChatGPT via API. Para aqueles que fazem software que se conecta ao ChatGPT por meio da API (interface de programação de aplicativos), que discuti no link aqui, seria aconselhável dar uma olhada no uso do GPT-4 por meio de sua API. Uma grande questão é que o custo de usar a API GPT-4 é muito maior do que usar o ChatGPT. Você vai querer fazer uma análise de compensação dos benefícios adicionais do GPT-4 versus a alternativa de baixo custo de aderir ao ChatGPT. Esta é uma decisão um tanto complicada. Faça isso com atenção e não sem pensar.

Uma coisa que parece chocante para muitos é que o valor das notícias não chegou ao nível anteriormente previsto.

Permita-me explicar o porquê.

O blockbuster original e agora sua sequência

Você provavelmente sabe que um aplicativo de IA generativo conhecido como ChatGPT foi disponibilizado no final de novembro do ano passado.

Este foi um sucesso surpreendente.

Até então, os esforços anteriores para liberar aplicativos de IA generativos para o público em geral eram recebidos com desdém e indignação. A base para as preocupações era que a IA generativa pode produzir saídas que contêm todos os tipos de saídas sujas, incluindo linguagem profana, preconceitos desagradáveis, falsidades, erros e até mesmo fatos inventados ou os chamados alucinações de IA (Não gosto dessa terminologia de “alucinações”, pois tende a antropomorfizar a IA, veja minha discussão no link aqui).

IA generativa é um tipo de IA que envolve a geração de resultados a partir de prompts de texto inseridos pelo usuário, como a capacidade de produzir ou gerar ensaios baseados em texto, ou produzir imagens ou obras de arte, ou produzir áudio, ou produzir vídeo, etc. referido como texto para texto, texto para ensaio, texto para arte, texto para imagem, texto para áudio, texto para vídeo e similares. A faceta notável da IA ​​generativa é que as obras geradas estão aparentemente no mesmo nível das saídas geradas por humanos. Você teria dificuldade em distinguir uma saída de IA generativa de uma composição comparável produzida exclusivamente pela mente humana e pela mão humana.

Para saber mais sobre IA generativa, consulte minha série em andamento, como este link aqui, sobre os fundamentos do ChatGPT e da IA ​​generativa, juntamente com a cobertura do ChatGPT pelos alunos e as questões de possíveis trapaças nas redações (use o link aqui), o uso altamente questionável do ChatGPT para aconselhamento de saúde mental (veja o link aqui), preocupações sobre possível plágio e violação de direitos autorais de IA generativa (o link aqui) e muitos outros tópicos importantes no link aqui.

Parte do motivo pelo qual o ChatGPT não pareceu ter o efeito chicote usual foi devido a algum trabalho nos bastidores do fabricante de IA, OpenAI, antes de lançar o ChatGPT. Eles tentaram usar várias técnicas e tecnologias para evitar a produção de ensaios especialmente odiosos e sujos. Lembre-se de que o ChatGPT é exclusivamente um estilo de IA generativa de texto para texto ou texto para ensaio. Assim, as tentativas de evitar saídas bizarras e enraivecidas consistem em lidar com palavras. Questões semelhantes surgem quando a saída é arte ou imagens, embora isso possa ser tão ou mais difícil de capturar para evitar a produção de imagens ofensivas de um tipo ou de outro.

Uma técnica notável que tem sido cada vez mais adotada pelos fabricantes de IA consiste em usar RLHF (aprendizado por reforço via feedback humano). Veja como isso geralmente funciona. Uma vez que um aplicativo de IA generativo tenha sido inicialmente treinado em dados, como a digitalização de texto na Internet, os revisores humanos são utilizados para ajudar a orientar ou mostrar à IA o que vale a pena dizer e o que é escandaloso. Com base nessa série de aprovações e desaprovações, a IA generativa é mais ou menos capaz de corresponder ao padrão do que parece bom emitir e do que parece não ser permitido.

Eu gostaria de mencionar também um outro ponto extremamente importante.

A IA não é senciente.

Não importa o que as manchetes doidas declarem, tenha certeza de que a IA de hoje não é senciente. Para IA generativa, o aplicativo é um extenso software de correspondência de padrões computacionais e um aparato de modelagem de dados. Depois de examinar milhões e milhões de palavras da Internet, são derivados padrões sobre palavras e suas relações estatísticas. O resultado é uma forma incrível de imitação da linguagem humana (alguns especialistas em IA se referem a isso como um papagaio estocástico, que meio que faz questão, embora lamentavelmente traga um elemento senciente para a discussão).

Você pode pensar na IA generativa como a função de preenchimento automático quando estiver usando um pacote de processamento de texto, embora esse seja um recurso muito mais abrangente e avançado. Tenho certeza de que você começou a escrever uma frase e tem um preenchimento automático que recomenda palavras para o restante da frase. Com IA generativa, como o ChatGPT, você insere um prompt e o aplicativo de IA tentará não apenas completar suas palavras, mas procurar responder a perguntas e redigir respostas completas.

Além disso, um erro de novato que muitos cometem ao usar o ChatGPT ou qualquer outro aplicativo de IA generativo semelhante implica em não usar as alardeadas capacidades de conversação interativa. Algumas pessoas digitam um prompt e esperam por uma resposta. Eles parecem pensar que isso é tudo. Um e pronto. Mas isso está perdendo o cerne da IA ​​generativa. A abordagem mais útil consiste em fazer uma série de prompts associados ao diálogo com a IA generativa. É aí que a IA generativa realmente brilha, veja meus exemplos no link aqui.

O ChatGPT foi anunciado pela mídia e pelo público em geral como um avanço incrível na IA.

A realidade é que muitos outros aplicativos de IA semelhantes foram desenvolvidos, geralmente em laboratórios de pesquisa ou grupos de reflexão e, em alguns casos, foram cuidadosamente disponibilizados ao público. Como eu disse acima, o resultado não costuma ser bonito. As pessoas cutucaram e cutucaram a IA generativa e conseguiram obter redações de natureza atroz, veja minha cobertura no link aqui. Os fabricantes de IA nesses casos geralmente eram forçados a retirar a IA do mercado aberto e voltar a se concentrar no uso de laboratório ou em testadores e desenvolvedores beta de IA cuidadosamente escolhidos.

Grande parte do restante da indústria de IA ficou chocada com o fato de o ChatGPT ter conseguido andar na corda bamba de ainda produzir saídas ruins e ainda não na medida em que o sentimento público forçou a OpenAI a remover o aplicativo de IA do acesso geral.

Este foi o verdadeiro choque do ChatGPT.

A maioria das pessoas assumiu que o choque foi a capacidade de conversação. Não para aqueles em AI. A surpresa que chocou quase todos os insiders da IA ​​foi que você poderia liberar IA generativa que poderia cuspir discurso de ódio e a reação não foi forte o suficiente para forçar uma retirada rápida. Quem sabia? De fato, antes do lançamento do ChatGPT, o boato previa que dentro de alguns dias ou semanas, no máximo, a OpenAI se arrependeria de disponibilizar o aplicativo de IA prontamente para todos os interessados. Eles teriam que restringir o acesso ou possivelmente caminhar até em casa e tomar um fôlego.

O incrível sucesso do lançamento do ChatGPT abriu cautelosamente a porta para outros aplicativos generativos de IA também encontrarem a rua. Por exemplo, discuti a revelação de Bard no Google e como as guerras dos mecanismos de pesquisa na Internet estão esquentando devido ao desejo de conectar IA generativa à pesquisa convencional na Web, veja o link aqui.

O ChatGPT pode razoavelmente ser caracterizado como um blockbuster. Também é um que surgiu do nada, por assim dizer. Às vezes, um filme de grande sucesso é conhecido de antemão como provavelmente será um sucesso de bilheteria após o lançamento. Em outros casos, o filme é um dorminhoco que pega de surpresa o público e até o próprio cineasta. Foi o que aconteceu com o ChatGPT e o OpenAI.

Ok, então temos o blockbuster, ChatGPT.

O ChatGPT é essencialmente baseado em uma versão do GPT conhecida como GPT-3.5. Anteriormente, havia GPT-3, GPT-2 e similares. O mundo da IA ​​e aqueles tangenciais à IA sabiam que a OpenAI estava trabalhando na próxima versão, GPT-4.

O GPT-4 seria considerado o sucessor ou sequência do ChatGPT.

Isso nos traz de volta à minha analogia sobre filmes. ChatGPT, um blockbuster surpresa, era enorme em popularidade. As expectativas sobre o que seria o GPT-4 e como o público reagiria estavam repletas de especulações selvagens. GPT-4 andaria sobre a água! GPT-4 será mais rápido que uma bala em alta velocidade! GPT-4 será a obtenção de IA senciente ou Inteligência Artificial Geral (AGI)!

E assim foi.

Você pode estar vagamente ciente de que o CEO da OpenAI, Sam Altman, disse isso em uma entrevista postada no YouTube (datada de 17 de janeiro de 2023): “O boato GPT-4 é uma coisa ridícula. Não sei de onde vem tudo isso. As pessoas estão implorando para ficarem desapontadas e ficarão. O hype é como… Não temos um AGI real e isso é o que se espera de nós.

Bem, GPT-4 está aqui.

O filme saiu.

Podemos ver com nossos próprios olhos. Chega de especulações indomáveis. A realidade veio à tona.

Vamos desempacotar o brinquedo novo e brilhante.

O essencial do GPT-4

Sem dúvida, você deseja saber o que o GPT-4 oferece.

Em minha discussão, farei referência a vários documentos e vídeos que a OpenAI disponibilizou sobre o GPT-4, além de fazer comentários com base no meu uso do GPT-4. Para facilitar a discussão, saiba que existem dois documentos úteis que citarei avidamente, um deles intitulado OpenAI oficial GPT-4 Relatório Técnico e o outro é o oficial da OpenAI Cartão de sistema GPT-4 documento (ambos estão disponíveis no site da OpenAI). Vou citá-los pelas siglas de TR para o GPT-4 Relatório Técnico e SC para o Cartão de sistema GPT-4.

Vamos começar citando a primeira frase do resumo para o TR:

• “Relatamos o desenvolvimento do GPT-4, um modelo multimodal de grande escala que pode aceitar entradas de imagem e texto e produzir saídas de texto.”

Acredite ou não, há muita coisa acumulada nessa frase.

Sente-se e tenha uma bebida confortável na mão.

Um aspecto que é uma regra geral geralmente aceita sobre IA generativa é que quanto maior o sistema, maior a probabilidade de fluência e capacidade geral. Isso parece estar relativamente bem estabelecido pelos tamanhos historicamente crescentes dos sistemas de IA generativos e sua fluência cada vez mais notável em termos de realização de conversas interativas. Nem todo mundo acredita que esse deve ser o caso, e há pesquisadores que buscam ativamente configurações de tamanho menor que usam várias otimizações para atingir potencialmente tanto quanto seus irmãos maiores.

Na frase citada acima sobre o GPT-4 do TR, você deve ter observado a frase de que é uma IA generativa de “grande escala”. Todos provavelmente tenderiam a concordar indiretamente, com base nos tamanhos relativos dos sistemas de IA generativos de hoje.

A pergunta óbvia nas mentes dos especialistas em IA é quão grande é em grande escala quando se trata de GPT-4?

Normalmente, o fabricante de IA declara com orgulho várias métricas de dimensionamento de sua IA generativa. Você pode fazer isso para informar o resto do mundo da IA ​​sobre como o tamanho e a escala são importantes. Você pode fazer isso para se gabar. Você pode fazer isso simplesmente porque é como um carro, em que uma curiosidade natural é o tamanho do motor e a velocidade com que ele vai.

De acordo com o TR, eis o que é indicado:

• “Dado o cenário competitivo e as implicações de segurança de modelos de grande escala como o GPT-4, este relatório não contém mais detalhes sobre a arquitetura (incluindo tamanho do modelo), hardware, computação de treinamento, construção de conjunto de dados, método de treinamento ou similar.”

Especialistas em IA tendem a achar isso sedutor. Por um lado, parece ser uma ruptura perturbadora com a diplomacia não contar sobre essas características cruciais. Dito isto, a lógica de que fazer isso pode revelar segredos proprietários ou possivelmente abrir a porta para falhas de segurança cibernética, bem, isso também parece fazer sentido.

Os fabricantes de IA devem ser obrigados a revelar características particulares sobre sua IA generativa, fazendo-o em grau e maneira que não forneçam inadvertidamente nenhuma pista reveladora vital?

Vou deixar você colocar seu chapéu de Ética em IA para refletir sobre essa consideração.

Alguns acreditam que também podemos acabar estabelecendo novas leis de IA que exigiriam divulgações explícitas.

O pensamento é que o público deveria saber o que está acontecendo com a IA, especialmente quando a IA fica maior e presumivelmente tem o potencial de eventualmente desviar para a terrível zona de riscos existenciais, veja minha análise no link aqui.

Seguindo em frente, também não sabemos quais dados foram usados ​​para treinar o GPT-4.

Os dados fazem ou quebram o advento da IA ​​generativa. Algumas pessoas assumem erroneamente que toda a Internet foi digitalizada para criar esses recursos generativos de IA. Não. Na verdade, como discuto no link aqui, apenas uma pequena parte da Internet está sendo digitalizada.

Um aspecto relacionado é se a IA generativa está escaneando a Internet em tempo real e ajustando em tempo real a correspondência de padrão computacional. O ChatGPT foi limitado a verificações que ocorreram até o ano de 2021. Isso significa que, quando você usa o ChatGPT, praticamente não há dados sobre o que aconteceu em 2022 e 2023.

Os rumores eram de que o GPT-4 conteria uma conexão atualizada e em tempo real com a Internet para ajustes imediatos.

Veja o que diz o TR:

• “O GPT-4 geralmente não tem conhecimento dos eventos que ocorreram depois que a grande maioria de seus dados pré-treinamento foi interrompido em setembro de 2021 e não aprende com sua experiência. Às vezes, pode cometer erros de raciocínio simples que não parecem compatíveis com a competência em tantos domínios ou ser excessivamente ingênuo ao aceitar declarações obviamente falsas de um usuário.”

Talvez você possa ver por que alguns estão um pouco desapontados com o GPT-4. Os rumores sugeriam que operaria em tempo real enquanto se ajustava simultaneamente à Internet. Uma melhoria considerada grande em relação ao ChatGPT. A realidade é que o GPT-4 ainda está lidando com dados datados. E não há um ajuste em tempo real ocorrendo na correspondência de padrão computacional per se com base em atualizações da Internet.

Tenho mais notícias para você.

A frase que citei anteriormente sobre o GPT-4 como sendo de grande escala também dizia que o GPT-4 é multimodal.

Permita-me dar algumas informações básicas sobre a noção de multimodal IA generativa.

Mencionei no início desta discussão que existem diferentes tipos de IA generativa, como texto para texto ou texto para ensaio, texto para arte ou texto para imagem, texto para áudio, texto -to-video, etc. Todos esses são considerados um modo singular de lidar com o conteúdo. Por exemplo, você pode inserir algum texto e obter um ensaio gerado. Outro exemplo seria que você insere o texto e obtém uma arte gerada.

No final do ano passado, fiz minhas previsões anuais sobre o que veríamos nos avanços da IA ​​para o ano de 2023 (veja o link aqui). Eu havia declarado que a IA generativa multimodal seria quente. A ideia é que você poderia, por exemplo, inserir texto e uma imagem (dois modos na entrada), usando-os como prompt na IA generativa, e você pode obter um ensaio como saída junto com um vídeo gerado e uma faixa de áudio (três modos na saída).

Assim, uma multiplicidade de modos pode coexistir. Você pode ter uma infinidade de modos na solicitação ou entrada. Você também pode ter vários modos na resposta ou saída gerada. Você poderia ter uma mistura e correspondência em ambas as entradas e saídas. É para lá que as coisas estão indo. Emocionante e as possibilidades do que pode ser feito com IA generativa são imensamente abertas por causa da funcionalidade multimodal.

ChatGPT tem apenas um modo singular. Você insere texto, obtém algum texto gerado como saída.

Os rumores eram de que o GPT-4 quebraria a barreira do som, por assim dizer, e forneceria uma capacidade multimodal completa de tudo para tudo. Todos sabiam que aquele texto seria incluído. A expectativa era que imagens ou artes fossem adicionadas, junto com áudio e possivelmente até vídeo. Seria um vale-tudo. Qualquer modo de entrada, incluindo quantos desses modos você desejar. Mais qualquer modo de saída, incluindo quantos modos de mixagem você desejar.

Uma verdadeira miscelânea de modos.

O que o GPT-4 fornece?

Volte para aquela frase do TR:

• “Relatamos o desenvolvimento do GPT-4, um modelo multimodal de grande escala que pode aceitar entradas de imagem e texto e produzir saídas de texto.”

Você pode inserir texto e obterá o texto de saída, além de possivelmente inserir uma imagem na entrada.

Demonstrações mostrando o processamento de imagem ou visão de imagens inseridas indicaram que os itens em uma imagem, por exemplo, podem ser identificados pela IA generativa e então compostos em uma narrativa escrita explicando a imagem. Você pode pedir à IA generativa para explicar o que a imagem parece representar. Em suma, o processamento de visão será uma adição notável.

O recurso de processamento de visão ou análise de imagem ainda não está disponível para uso público (de acordo com o blog do site da OpenAI):

• “Para preparar o recurso de entrada de imagem para uma disponibilidade mais ampla, estamos colaborando estreitamente com um único parceiro para começar.”

A essência de tudo isso é que é reconfortante perceber que o GPT-4 aparentemente tem a capacidade de inserir e analisar imagens. Muitos estão aguardando ansiosamente o lançamento público desse recurso. Parabéns à OpenAI por entrar na arena multimodal.

Assim, temos texto como entrada, imagem como entrada (quando disponibilizada para uso público) e texto como saída.

Alguns, porém, têm lamentado na comunidade de IA que isso mal cumpre a noção de multimodal. Sim, existe mais um modo, a imagem como entrada. Mas não uma imagem como saída. Aparentemente não há áudio como entrada, nem áudio como saída. Aparentemente não há vídeo como entrada, nem vídeo como saída. Aqueles com uma tendência bajuladora acham que isso é “multimodal” da maneira mais minimalista.

O contra-argumento é que você deve engatinhar antes de andar e andar antes de correr.

Acredito que cobre a primeira frase do TR e podemos mudar para tópicos adicionais.

Mais fundamentos do GPT-4

Vou acelerar agora que você tem algum conhecimento geral sobre esse assunto.

Aqui está algo significativo, conforme observado na postagem do blog OpenAI sobre GPT-4:

• “Nos últimos dois anos, reconstruímos toda a nossa pilha de aprendizado profundo e, junto com o Azure, projetamos um supercomputador desde o início para nossa carga de trabalho.”

Dois pontos rápidos sobre isso.

Primeiro, a indicação de que eles reconstruíram toda a sua pilha de aprendizado profundo é certamente uma observação e uma conquista dignas de nota (significa que eles refizeram os modelos computacionais de correspondência de padrões e optaram por reestruturar como as coisas funcionam sob o capô). Bom para eles. A pergunta que alguns expressam é que com certeza seria bom saber exatamente o que eles fizeram nessa reconstrução. O TR e o SC mencionam um pouco o que aconteceu, mas não em nenhum grau de profundidade.

Claro, você poderia argumentar persuasivamente que eles não deveriam revelar seu molho secreto. Eles não são obrigados a fazê-lo. Por que fornecer ajuda aos seus concorrentes desnecessariamente? O outro lado da moeda argumenta que, para a melhoria da IA ​​e da sociedade, presumivelmente ajudaria no avanço da IA ​​generativa, que aparentemente será boa para a humanidade (espera-se).

Estamos de volta àquela linha divisória entre a Ética da IA ​​e a Lei da IA.

Em segundo lugar, a observação citada indica que eles projetaram um supercomputador desde o início. Além do interesse no que esse supercomputador faz e como ele funciona exatamente, alguns dos quais já foram explicados, isso traz um assunto totalmente diferente.

Alguns temem que a IA generativa esteja se tornando um grande jogo de dinheiro. Somente as empresas de tecnologia com mais dinheiro e os maiores recursos serão capazes de conceber e colocar em prática a IA generativa. A razão pela qual isso é questionado é que talvez tenhamos IA generativa que é rigidamente controlada por apenas um punhado de empresas de tecnologia. Podemos nos tornar fortemente dependentes dessas empresas e de seus produtos.

Precisamos potencialmente usar as leis existentes ou criar novas leis de IA para evitar que uma concentração de IA generativa esteja no comando restrito de apenas alguns?

Algo para ruminar.

Se você está esperando o sapato cair em termos de uma diferença incrivelmente grande entre ChatGPT e GPT-4, dê uma olhada nisso na postagem do blog OpenAI sobre GPT-4:

• “Em uma conversa casual, a distinção entre GPT-3.5 e GPT-4 pode ser sutil. A diferença aparece quando a complexidade da tarefa atinge um limite suficiente – o GPT-4 é mais confiável, criativo e capaz de lidar com instruções muito mais sutis do que o GPT-3.5.”

Eu descobri que essa falta de diferença distintiva é um pouco o caso, ou seja, se você estiver conversando todos os dias com o ChatGPT e fazendo o mesmo com o GPT-4, talvez não perceba que o GPT-4 é considerado mais poderoso em geral .

Um aspecto que parece ser um destaque consiste em estabelecer contexto para suas conversas com os dois aplicativos generativos de IA.

Aqui está o que quero dizer.

Quando você usa um aplicativo de IA generativo, às vezes você apenas entra em uma conversa que inicia e continua junto com a IA. Em outros casos, você começa contando à IA o contexto da conversa. Por exemplo, posso começar dizendo à IA generativa que quero discutir motores de carros com a IA e que quero que a IA finja que é um mecânico de automóveis. Isso então define o cenário ou configuração para a IA responder de acordo.

Muitas pessoas que usam o ChatGPT não percebem a importância de definir o contexto quando iniciam um diálogo com o aplicativo AI. Pode ser uma grande diferença em termos de qual resposta você obterá. Costumo descobrir que o ChatGPT não funciona muito bem por conta própria em contextos específicos. Ele tenta, mas muitas vezes fica aquém. Até agora, GPT-4 parece realmente brilhar através do uso de estabelecimento contextual.

Se você for usar IA generativa e quiser estabelecer contextos ao fazê-lo, eu definitivamente daria vantagem geral ao GPT-4 sobre o ChatGPT.

Em um elemento relacionado, há também um aspecto conhecido como dirigibilidade que entra em jogo.

Alguns usuários do ChatGPT ficaram surpresos ao ver, às vezes, o aplicativo AI fornecer respostas que talvez pareçam excessivamente engraçadas ou excessivamente concisas. Isso pode ocorrer se a IA generativa detectar algo em seu prompt de entrada que pareça acionar esse tipo de resposta. Você pode perguntar sobre algo de brincadeira e não perceber que isso vai direcionar o ChatGPT para piadas e um tom alegre.

De acordo com a postagem do blog OpenAI sobre GPT-4 e dirigibilidade:

• “Em vez da personalidade clássica do ChatGPT com verbosidade, tom e estilo fixos, os desenvolvedores (e logo os usuários do ChatGPT) agora podem prescrever o estilo e a tarefa de sua IA descrevendo essas instruções na mensagem do 'sistema'. As mensagens do sistema permitem que os usuários da API personalizem significativamente a experiência de seus usuários dentro dos limites.”

Novamente, isso aprimorará a experiência do usuário com os aplicativos generativos de IA. Outros fabricantes de IA generativa estão fazendo o mesmo e inevitavelmente teremos quase todos esses aplicativos de IA com alguma forma de dirigibilidade e funcionalidade de estabelecimento contextual.

A estrada áspera ainda à frente

Um problema contínuo e preocupante que sustenta a IA generativa, em geral, é que todos os tipos de resultados desagradáveis ​​e perturbadores podem ser produzidos.

Nas postagens de minha coluna, abordei essas várias e sérias preocupações:

• Erros produzidos por IA generativa
• Falsidades produzidas pela IA generativa
• Vieses integrados de IA generativa
• Alucinações de IA
• Invasões de privacidade
• Pontos Fracos de Confidencialidade de Dados
• Disseminador de Desinformação
• Propagador de Desinformação
• Uso duplo para armamento
• Excesso de confiança por humanos
• Impactos econômicos em humanos
• Fortalecimento do cibercrime
• Etc.

Alguns rumores eram de que magicamente e milagrosamente o GPT-4 iria limpar e resolver todas aquelas doenças geradoras de IA.

Ninguém com uma cabeça adequada em seus ombros pensou que tal boato pudesse se sustentar. Esses são problemas de IA muito difíceis. Eles não são facilmente resolvidos. Ainda há muito a ser feito para enfrentar essas dificuldades duradouras e exasperantes. É provável que seja necessário um vilarejo para conquistar a ladainha de questões de Ética da IA ​​enredadas no meio da IA ​​generativa.

Para dar crédito onde o crédito é devido, a OpenAI procurou explicar como eles estão lidando com esses diversos desafios. Aqueles de vocês que estão interessados ​​em AI Ethics devem considerar fazer uma leitura atenta do TR e do SC.

Aqui estão, por exemplo, alguns comentários diretos sobre o GPT-4, conforme declarado pela OpenAI no TR:

• “GPT-4 pode gerar conteúdo potencialmente prejudicial, como conselhos sobre planejamento de ataques ou discurso de ódio. Pode representar vários preconceitos sociais e visões de mundo que podem não ser representativos da intenção do usuário ou de valores amplamente compartilhados. Ele também pode gerar código comprometido ou vulnerável. Os recursos adicionais do GPT-4 também levam a novas superfícies de risco”.

Além disso, eles dizem isso no TR:

• “Através desta análise, descobrimos que o GPT-4 tem potencial para ser usado para tentar identificar indivíduos particulares quando aumentado com dados externos. Também descobrimos que, embora os recursos de segurança cibernética do GPT-4 não sejam muito superiores às gerações anteriores de LLMs, ele continua a tendência de potencialmente reduzir o custo de certas etapas de um ataque cibernético bem-sucedido, como por meio de engenharia social ou aprimorando as ferramentas de segurança existentes . Sem mitigações de segurança, o GPT-4 também é capaz de fornecer orientações mais detalhadas sobre como conduzir atividades prejudiciais ou ilegais”.

Não tenho espaço aqui para cobrir todos os inúmeros itens associados a essas dificuldades. Esteja atento à cobertura adicional da coluna em minha análise contínua de IA generativa a partir de uma perspectiva de Ética e Lei de IA.

Parece que vale a pena reservar um momento e reconhecer que a OpenAI disponibilizou sua identificação de como eles estão abordando esses árduos desafios. Você poderia dizer que não havia razão para eles terem que fazer isso. Eles poderiam simplesmente agir como se não houvesse nada lá para ver. Ou eles poderiam apenas fazer um vago aceno de mão e afirmar que estavam fazendo muitas coisas inteligentes para lidar com esses problemas.

Felizmente, eles escolheram a abordagem sensata de tentar chegar lá antes das reações e intimidações que geralmente acompanham os lançamentos generativos de IA. Presumivelmente, eles pretendem mostrar com firmeza sua seriedade e compromisso em erradicar esses problemas e procurar mitigá-los ou resolvê-los.

Eu ofereceria o pensamento adicional de que o campo da IA, ao todo, sofrerá uma dura surra se não houver um esforço contínuo e extenuante para abordar esses assuntos de maneira direta e direta. Adotar uma abordagem de caixa-preta oculta certamente despertará a ira do público em geral. Você também pode antecipar que, se as empresas de IA não tentarem lidar com esses problemas, as chances são de que legisladores e reguladores serão atraídos para essas questões e um tsunami de novas leis de IA irá apimentar todos os fabricantes de IA e aqueles que atuam no campo. IA.

Alguns acreditam que já estamos nessa conjuntura.

Eles insistem que, embora muitos dos fabricantes de IA pareçam estar compartilhando o que estão fazendo, isso é uma forma sorrateira de negação plausível. Resumindo, vá em frente e exponha a IA que é terrível e patentemente injusta, em vez de esperar até que as coisas sejam melhor planejadas, e afaste aqueles da Ética da IA ​​e da Lei da IA ​​proclamando que você está fazendo todo o possível para corrigir as coisas. Eu discuti essa controvérsia contínua de “esperar até estar pronto” com frequência na cobertura de minha coluna.

Pelo TR:

• “A OpenAI está iterando no GPT-4 e em nosso plano de implantação desde o início de agosto para se preparar para um lançamento mais seguro. Acreditamos que isso reduziu a superfície de risco, embora não a tenha eliminado completamente. A implantação de hoje representa um equilíbrio entre minimizar os riscos da implantação, permitir casos de uso positivos e aprender com a implantação.”

Voltando ao assunto em questão, mencionei anteriormente que as alucinações de IA são um problema predominante quando se trata de IA generativa.

Mais uma vez, não gosto do bordão, mas parece que pegou. O ponto principal do problema com as alucinações de IA é que elas podem produzir saídas que contêm coisas muito malucas. Você pode estar pensando que cabe ao usuário discernir se as saídas estão certas ou erradas. Uma preocupação aqui é que as saídas podem conter coisas inventadas que o usuário não tem meios fáceis de determinar que são inventadas. Eles podem acreditar em tudo o que a saída diz.

Há também uma tendência sutil de acreditar nos resultados da IA ​​generativa. Normalmente, a saída é escrita em um tom e maneira que sugere uma aparência infalível de confiança. Supondo que você use IA generativa regularmente, é fácil ser levado a ver material verdadeiro na maior parte do tempo. Você então pode ser facilmente enganado quando algo inventado é colocado no meio do que de outra forma parece ser um ensaio gerado inteiramente sensato e cheio de fatos.

Aqui está o que o TR diz sobre o GPT-4:

• “O GPT-4 tem a tendência de 'alucinar', ou seja, 'produzir conteúdo sem sentido ou falso em relação a certas fontes'. Essa tendência pode ser particularmente prejudicial à medida que os modelos se tornam cada vez mais convincentes e críveis, levando os usuários a confiar demais neles. Contraintuitivamente, as alucinações podem se tornar mais perigosas à medida que os modelos se tornam mais verdadeiros, pois os usuários constroem confiança no modelo quando ele fornece informações verdadeiras em áreas com as quais eles têm alguma familiaridade”.

A boa notícia é que esforços foram feitos e parecem estar em andamento para tentar reduzir as chances de alucinações de IA no GPT-4. Além disso, é feita a alegação de que o GPT-4 supera o GPT-3.5 em termos de evitar alucinações de IA, embora deixe claro que elas ainda ocorrerão.

Aqui está o TR sobre isso:

• “Em avaliações internas, o GPT-4-lançamento pontua 19 pontos percentuais a mais do que nosso modelo GPT-3.5 mais recente para evitar alucinações de domínio aberto e 29 pontos percentuais a mais para evitar alucinações de domínio fechado.”

Para encerrar esta parte da discussão por enquanto, a IA generativa de todos os fabricantes de IA está enfrentando esses problemas. Ninguém curou isso de alguma forma. Se você está procurando por problemas difíceis de IA, recomendo que pule nessas águas e ajude. Há muito trabalho a ser feito.

Conclusão

Quando um filme de grande sucesso já existe há algum tempo e foi dos cinemas para o streaming doméstico, muitas pessoas provavelmente viram o filme ou sabem algo sobre ele de outras pessoas que o viram. A partir daí, quando uma sequência é anunciada e filmada, a expectativa pode atingir níveis astronômicos.

JJ Abrams, o agora lendário cineasta de partes da série Star Wars e a reinicialização de Star Trek, disse o seguinte sobre as sequências: “Não há nada de errado em fazer sequências, elas são apenas mais fáceis de vender”.

Edwin Catmull, co-fundador da Pixar, enfatizou isso sobre as sequências: “Acredite em mim, as sequências são tão difíceis de fazer quanto os filmes originais”.

Se você estiver interessado em ver o sucesso de público do ChatGPT, você pode se inscrever imediatamente. A sequência GPT-4 é um pouco mais complicada de acessar. Perceba também que existem muitos outros filmes disponíveis, bem, outros aplicativos generativos de IA disponíveis, então você pode querer ter certeza de que sua experiência cinematográfica (também conhecida como IA generativa) seja variada e satisfatória.

Uma nota final preocupante. Esteja avisado de que o conteúdo que você pode encontrar pode ser PG13, R ou até mesmo NC-17. Tenha isso em mente.