O Generative AI ChatGPT estará em todos os lugares assim que o portal da API for aberto em breve, estupefatando a ética e a lei da IA

Solte o Kraken!

Você sem dúvida está familiarizado com aquela famosa frase de efeito pronunciada especialmente pelo ator Liam Neeson em O Confronto dos Titãs quando ele ordena que o lendário monstro marinho seja libertado, com o objetivo de causar imenso estrago e destruição descomunal. A linha foi repetida infinitamente e gerou todos os tipos de memes. Apesar das várias paródias, a maioria das pessoas ainda sente, pelo menos visceralmente, que a observação prediz algo de uma emergência sombria e perigosa que está prestes a ser desencadeada.

Talvez o mesmo sentimento possa ser aplicado atualmente à Inteligência Artificial (IA).

Permita-me elaborar.

Um anúncio recente indicou que um aplicativo de IA agora retumbantemente famoso chamado ChatGPT, feito pela organização OpenAI, em breve será disponibilizado para acesso por outros programas. Esta é uma grande notícia. Digo isso, embora pouca mídia regular tenha captado o pronunciamento. Além de menções passageiras, o impacto total desse próximo acesso será bastante significativo.

Na coluna de hoje, explicarei por que esse é o caso. Você pode se preparar adequadamente.

Alguns acreditam veementemente que isso será semelhante a soltar o Kraken, ou seja, que todos os tipos de coisas ruins vão surgir. Outros veem isso como a disponibilização de um recurso crucial que pode impulsionar toneladas de outros aplicativos, aproveitando os grandes recursos do ChatGPT. É o pior dos tempos ou o melhor dos tempos. Iremos aqui considerar ambos os lados do debate e você pode decidir por si mesmo em qual campo você pousa.

Em tudo isso, há uma série de considerações sobre a ética da IA ​​e a lei da IA.

Esteja ciente de que há esforços contínuos para imbuir os princípios éticos da IA ​​no desenvolvimento e no uso de aplicativos de IA. Um contingente crescente de preocupados e antigos éticos da IA ​​está tentando garantir que os esforços para conceber e adotar a IA levem em consideração uma visão de fazer AI For Good e evitando AI para mau. Da mesma forma, há propostas de novas leis de IA que estão sendo cogitadas como possíveis soluções para impedir que os empreendimentos de IA enlouqueçam com os direitos humanos e coisas do gênero. Para minha cobertura contínua e extensa de Ética e Lei de IA, consulte o link aqui e o link aqui, Apenas para nomear alguns.

Tem havido crescentes dúvidas de que o ChatGPT e outros aplicativos de IA semelhantes têm um ponto fraco que talvez não estejamos prontos para lidar. Por exemplo, você pode ter ouvido falar que os alunos nas escolas são potencialmente capazes de trapacear quando se trata de escrever ensaios atribuídos usando o ChatGPT. A IA faz toda a escrita para eles. Enquanto isso, o aluno é capaz de se virar aparentemente impune na redação, como se tivesse escrito por conta própria. Não é o que presumivelmente queremos que a IA faça pela humanidade.

Alguns fundamentos essenciais podem ser úteis para definir o cenário para o que se trata.

ChatGPT é um tipo de AI comumente referido como IA generativa. Esses aplicativos de IA baseados em geração de tendências permitem que você insira um breve prompt e faça com que o aplicativo gere resultados para você. No caso do ChatGPT, a saída é texto. Assim, você insere um prompt de texto e o aplicativo ChatGPT produz o texto para você. Costumo descrever isso como um subtipo específico de IA generativa que é aprimorada para gerar saídas de texto para ensaio (existem outros subtipos, como texto para imagens, texto para vídeo e assim por diante).

O criador de AI do ChatGPT indicou que em breve uma API (Application Programming Interface) será disponibilizada para o aplicativo AI. Em suma, uma API é um meio de permitir que outros programas sigam em frente e usem um programa que disponibilize um portal para o aplicativo em questão. Isso significa que praticamente qualquer outro programa neste planeta pode potencialmente alavancar o uso do ChatGPT (bem, conforme licenciado e mediante aprovação do fabricante de IA do ChatGPT, conforme será discutido posteriormente neste documento).

O resultado é que o uso e os usos do ChatGPT podem potencialmente disparar.

Considerando que hoje existe um número impressionante de inscrições envolvendo pessoas que em um Individual base pode usar o ChatGPT, limitado pelo fabricante de IA a um milhão de usuários, isso provavelmente será uma gota no balde do que está por vir.

Perceba que esses milhões de inscrições existentes consistem em uma parte que usou o ChatGPT em uma brincadeira única e, depois que a emoção passou, eles não o usaram desde então. Muitos foram presumivelmente atraídos pelo aplicativo de IA como uma resposta viral de mídia social. Resumindo, se todo mundo queria usá-lo, eles também queriam. Após algumas experiências iniciais com a IA baseada em geração, eles se sentiram satisfeitos por terem evitado seu FOMO (medo de perder).

Para deixar bem claro, não estou sugerindo que as pessoas não estejam usando o ChatGPT. Eles são. Aqueles que se inscreveram estão descobrindo cada vez mais que o aplicativo AI está sobrecarregado. Muitas e muitas pessoas estão usando o aplicativo. De vez em quando, você recebe algumas indicações tristes habilmente compostas de que o sistema está ocupado e você deve tentar novamente mais tarde. A palavra na rua é que a infraestrutura existente para o ChatGPT tem se esforçado para lidar com os ávidos fãs que usam o aplicativo AI.

E embora ter um milhão de usuários em potencial não seja nada desprezível, o número provavelmente será eclipsado várias vezes assim que a API for disponibilizada. Os desenvolvedores de outros programas que hoje não têm nada a ver com a IA generativa vão querer entrar na onda da IA ​​generativa. Eles vão querer conectar seu programa com o ChatGPT. A esperança do coração é que isso impulsione o programa existente para a estratosfera da popularidade.

Pense desta maneira. Suponha que todos os tipos de empresas de software que fazem programas hoje que atingem muitos milhões de usuários, muitas vezes chegando a dezenas e centenas de milhões de usuários ao todo, optem por emparelhar seus respectivos programas com o ChatGPT. Isso sugere que o volume de usuários que estão usando o ChatGPT pode aumentar muito.

O Kraken é lançado.

Por que várias empresas de software desejam se associar ao ChatGPT, você pode estar se perguntando?

Uma resposta direta é que eles também podem explorar os incríveis ventos de cauda que estão empurrando o ChatGPT para frente e para cima. Alguns o farão por razões sensatas e honestas. Outros farão isso apenas para tentar ganhar sua própria aparência de quinze minutos de fama.

Eu gosto de estratificar os pares para ChatGPT como consistindo de duas intenções principais:

• Emparelhamento genuíno com ChatGPT
• Emparelhamento falso com ChatGPT

No primeiro caso, a noção é que existe uma base de boa-fé para o emparelhamento com o ChatGPT. Os criadores de um determinado programa são capazes de articular bem os benefícios tangíveis e funcionais que surgirão devido ao emparelhamento de seu programa com o ChatGPT. Todos nós podemos, em um estado de espírito razoável, ver que o emparelhamento é uma combinação feita no céu.

Para o outro caso, que consiste no que denoto como falsidade, alguns tentarão emparelhar-se com o ChatGPT de forma instável ou instável. O caso de negócios não consiste em nada especialmente substantivo. O emparelhamento é uma tentativa desesperada de seguir o rabo do ChatGPT. Qualquer inspeção razoável revelaria que o emparelhamento é marginal em valor. Agora, se você acha que esta é uma forma adequada ou inadequada de emparelhamento, fica um pouco no ar. Pode-se tentar argumentar que um emparelhamento específico com o ChatGPT, mesmo que o emparelhamento não realize nada além de aumentar o uso e não tenha outro valor aditivo funcional, presumivelmente ainda vale a pena realizar o emparelhamento.

Um pouco de desvantagem serão aqueles que retratam falsamente o emparelhamento e levam as pessoas a acreditar que algo notável está ocorrendo quando na verdade não está. Certamente podemos esperar que alguns tentem isso. Aqueles em AI Ethics estão extremamente preocupados com os usos de óleo de cobra que vão sair da toca. Também há uma chance de que, se isso sair do controle, possamos ver novas leis relacionadas à IA que serão estimuladas a serem redigidas e promulgadas.

Vamos explorar mais de perto o que constitui emparelhamentos genuínos e o que também constitui emparelhamentos falsos.

Primeiro, devemos ter certeza de que estamos todos na mesma página sobre o que consiste a IA generativa e também sobre o que é o ChatGPT. Depois de cobrir essa faceta fundamental, podemos realizar uma avaliação convincente de como a API do ChatGPT mudará radicalmente as coisas.

Se você já está bastante familiarizado com o Generative AI e o ChatGPT, talvez possa folhear a próxima seção e prosseguir com a seção seguinte. Acredito que todos os outros acharão instrutivos os detalhes vitais sobre esses assuntos, lendo atentamente a seção e se atualizando.

Uma cartilha rápida sobre IA generativa e ChatGPT

O ChatGPT é um sistema orientado a conversação interativo de IA de uso geral, essencialmente um chatbot geral aparentemente inócuo, no entanto, está sendo usado ativamente e avidamente por pessoas de maneiras que pegam muitos totalmente desprevenidos, como detalharei em breve. Este aplicativo de IA utiliza uma técnica e tecnologia no domínio da IA ​​que costuma ser chamada de IA generativa. A IA gera saídas como texto, que é o que o ChatGPT faz. Outros aplicativos de IA baseados em geração produzem imagens como fotos ou obras de arte, enquanto outros geram arquivos de áudio ou vídeos.

Vou me concentrar nos aplicativos de IA generativos baseados em texto nesta discussão, pois é isso que o ChatGPT faz.

Os aplicativos generativos de IA são extremamente fáceis de usar.

Tudo o que você precisa fazer é inserir um prompt e o aplicativo AI gerará para você um ensaio que tenta responder ao seu prompt. O texto composto parecerá que o ensaio foi escrito pela mão e pela mente humana. Se você inserir um prompt que diga “Fale-me sobre Abraham Lincoln”, a IA generativa fornecerá a você um ensaio sobre Lincoln. Isso é comumente classificado como IA generativa que executa texto para texto ou alguns preferem chamá-lo texto para ensaio saída. Conforme mencionado, existem outros modos de IA generativa, como text-to-art e text-to-video.

Seu primeiro pensamento pode ser que essa capacidade generativa não pareça grande coisa em termos de produção de ensaios. Você pode facilmente fazer uma pesquisa on-line na Internet e encontrar prontamente toneladas e toneladas de ensaios sobre o presidente Lincoln. O kicker no caso da IA ​​generativa é que o ensaio gerado é relativamente único e fornece uma composição original em vez de um imitador. Se você tentasse encontrar o ensaio produzido pela IA online em algum lugar, dificilmente o descobriria.

A IA generativa é pré-treinada e faz uso de uma formulação matemática e computacional complexa que foi criada examinando padrões em palavras escritas e histórias na web. Como resultado do exame de milhares e milhões de passagens escritas, a IA pode produzir novos ensaios e histórias que são uma mistura do que foi encontrado. Ao adicionar várias funcionalidades probabilísticas, o texto resultante é praticamente único em comparação com o que foi usado no conjunto de treinamento.

É por isso que tem havido um alvoroço sobre os alunos serem capazes de colar ao escrever redações fora da sala de aula. Um professor não pode simplesmente pegar a redação que os alunos enganosos afirmam ser sua própria escrita e procurar descobrir se ela foi copiada de alguma outra fonte online. No geral, não haverá nenhum ensaio online preexistente definitivo que se encaixe no ensaio gerado por IA. Tudo dito, o professor terá que aceitar a contragosto que o aluno escreveu o ensaio como um trabalho original.

Existem preocupações adicionais sobre a IA generativa.

Uma desvantagem crucial é que os ensaios produzidos por um aplicativo de IA baseado em geração podem ter várias falsidades incorporadas, incluindo fatos patentemente falsos, fatos que são retratados de forma enganosa e fatos aparentes que são totalmente fabricados. Esses aspectos fabricados são muitas vezes referidos como uma forma de alucinações de IA, uma frase de efeito que eu desaprovo, mas lamentavelmente parece estar ganhando força popular de qualquer maneira (para minha explicação detalhada sobre por que essa é uma terminologia ruim e inadequada, veja minha cobertura em o link aqui).

Eu gostaria de esclarecer um aspecto importante antes de entrarmos no assunto deste tópico.

Houve algumas reivindicações descomunais nas mídias sociais sobre IA generativa afirmando que esta versão mais recente da IA ​​é de fato IA senciente (não, eles estão errados!). Aqueles em AI Ethics e AI Law estão notavelmente preocupados com essa tendência crescente de reivindicações estendidas. Você pode dizer educadamente que algumas pessoas estão exagerando o que a IA de hoje pode realmente fazer. Eles assumem que a IA tem capacidades que ainda não conseguimos alcançar. Isso é lamentável. Pior ainda, eles podem permitir a si mesmos e a outros entrar em situações terríveis por causa da suposição de que a IA será senciente ou semelhante à humana ao ser capaz de agir.

Não antropomorfize a IA.

Fazer isso o deixará preso em uma armadilha de confiança pegajosa e obstinada de esperar que a IA faça coisas que ela é incapaz de realizar. Com isso dito, o que há de mais recente em IA generativa é relativamente impressionante pelo que pode fazer. Esteja ciente, porém, de que existem limitações significativas que você deve ter sempre em mente ao usar qualquer aplicativo de IA generativo.

Se você está interessado na comoção em rápida expansão sobre ChatGPT e Generative AI, tenho feito uma série focada em minha coluna que você pode achar informativo. Aqui está uma olhada no caso de algum desses tópicos chamar sua atenção:

• 1) Previsões de avanços de IA generativa chegando. Se você quiser saber o que provavelmente acontecerá sobre a IA ao longo de 2023 e além, incluindo os próximos avanços em IA generativa e ChatGPT, leia minha lista abrangente de previsões para 2023 em o link aqui.
• 2) IA generativa e conselhos de saúde mental. Optei por revisar como a IA generativa e o ChatGPT estão sendo usados ​​para conselhos de saúde mental, uma tendência problemática, de acordo com minha análise focada em o link aqui.
• 3) Fundamentos de IA generativa e ChatGPT. Esta peça explora os elementos-chave de como a IA generativa funciona e, em particular, investiga o aplicativo ChatGPT, incluindo uma análise do burburinho e fanfarra, em o link aqui.
• 4) Tensão entre professores e alunos sobre IA generativa e ChatGPT. Aqui estão as maneiras pelas quais os alunos usarão a IA generativa e o ChatGPT. Além disso, aqui estão algumas maneiras de os professores lidarem com esse maremoto. Ver o link aqui.
• 5) Contexto e uso generativo de IA. Eu também fiz um exame irônico com sabor sazonal sobre um contexto relacionado ao Papai Noel envolvendo ChatGPT e IA generativa em o link aqui.
• 6) Golpistas usando IA generativa. Em uma nota sinistra, alguns golpistas descobriram como usar IA generativa e ChatGPT para cometer irregularidades, incluindo gerar e-mails fraudulentos e até mesmo produzir código de programação para malware, veja minha análise em o link aqui.
• 7) Erros de novato usando IA generativa. Muitas pessoas estão superando e surpreendentemente subestimando o que a IA generativa e o ChatGPT podem fazer. o link aqui.
• 8) Lidando com alertas generativos de IA e alucinações de IA. Eu descrevo uma abordagem de ponta para usar complementos de IA para lidar com os vários problemas associados à tentativa de inserir prompts adequados em IA generativa, além de haver complementos de IA adicionais para detectar as chamadas saídas e falsidades alucinadas de IA, como coberto em o link aqui.
• 9) Desmistificando afirmações estúpidas sobre a detecção de ensaios generativos produzidos por IA. Há uma corrida do ouro equivocada de aplicativos de IA que proclamam ser capazes de verificar se um determinado ensaio foi produzido por humanos ou gerado por IA. No geral, isso é enganoso e, em alguns casos, uma afirmação estúpida e insustentável, veja minha cobertura em o link aqui.
• 10) A interpretação de papéis por meio de IA generativa pode indicar desvantagens para a saúde mental. Alguns estão usando IA generativa, como o ChatGPT, para fazer dramatizações, em que o aplicativo de IA responde a um humano como se existisse em um mundo de fantasia ou outro cenário inventado. Isso pode ter repercussões na saúde mental, consulte o link aqui.
• 11) Expor a gama de erros e falsidades produzidos. Várias listas coletadas estão sendo reunidas para tentar mostrar a natureza dos erros e falsidades produzidos pelo ChatGPT. Alguns acreditam que isso é essencial, enquanto outros dizem que o exercício é inútil, veja minha análise em o link aqui.
• 12) As escolas que proíbem o ChatGPT de IA generativa estão perdendo o barco. Você deve saber que várias escolas, como o Departamento de Educação da cidade de Nova York (NYC), declararam a proibição do uso do ChatGPT em sua rede e dispositivos associados. Embora isso possa parecer uma precaução útil, não moverá a agulha e, infelizmente, perderá completamente o barco, veja minha cobertura em o link aqui.

Você pode achar interessante que o ChatGPT seja baseado em uma versão de um aplicativo AI predecessor conhecido como GPT-3. O ChatGPT é considerado um próximo passo, conhecido como GPT-3.5. Prevê-se que o GPT-4 provavelmente será lançado na primavera de 2023. Presumivelmente, o GPT-4 será um passo impressionante em termos de capacidade de produzir ensaios aparentemente ainda mais fluentes, indo mais fundo e sendo um espanto. -inspiradora maravilha quanto às composições que pode produzir.

Você pode esperar ver uma nova rodada de admiração expressa quando a primavera chegar e a mais recente IA generativa for lançada.

Trago isso à tona porque há outro ângulo a ser lembrado, que consiste em um potencial calcanhar de Aquiles para esses aplicativos de IA generativos melhores e maiores. Se algum fornecedor de IA disponibilizar um aplicativo de IA generativo que vomite impurezas, isso pode acabar com as esperanças dos fabricantes de IA. Um transbordamento social pode fazer com que toda IA ​​generativa fique com um olho roxo sério. As pessoas, sem dúvida, ficarão bastante chateadas com saídas sujas, que já aconteceram muitas vezes e levaram a violentas reações negativas da sociedade em relação à IA.

Um último aviso por enquanto.

Tudo o que você vê ou lê em uma resposta de IA generativa que parece para ser transmitido como puramente factual (datas, lugares, pessoas, etc.), certifique-se de permanecer cético e estar disposto a verificar novamente o que você vê.

Sim, as datas podem ser inventadas, os lugares podem ser inventados e os elementos que normalmente esperamos serem irrepreensíveis são todos os sujeito a suspeitas. Não acredite no que você lê e mantenha um olhar cético ao examinar quaisquer ensaios ou saídas generativas de IA. Se um aplicativo de IA generativo disser que Abraham Lincoln voou pelo país em seu próprio jato particular, você sem dúvida saberia que isso é uma loucura. Infelizmente, algumas pessoas podem não perceber que os jatos não existiam em sua época, ou podem saber, mas não perceber que o ensaio faz essa afirmação descarada e escandalosamente falsa.

Uma forte dose de ceticismo saudável e uma mentalidade persistente de descrença serão seu melhor trunfo ao usar IA generativa.

Estamos prontos para passar para o próximo estágio desta elucidação.

Libertando a Besta

Agora que estabelecemos os fundamentos, podemos mergulhar nas repercussões voltadas para os negócios e para a sociedade devido aos aspectos da API do ChatGPT.

Um anúncio foi feito recentemente pela Microsoft em conjunto com a OpenAI sobre a futura disponibilidade do ChatGPT na plataforma de nuvem Azure da Microsoft (por postagem on-line intitulada “Disponibilidade geral do serviço OpenAI do Azure expande o acesso a modelos grandes e avançados de IA com benefícios empresariais adicionais”, 16 de janeiro de 2023):

• “Os modelos de linguagem grande estão rapidamente se tornando uma plataforma essencial para as pessoas inovarem, aplicarem IA para resolver grandes problemas e imaginarem o que é possível. Hoje, temos o prazer de anunciar a disponibilidade geral do Azure OpenAI Service como parte do compromisso contínuo da Microsoft em democratizar a IA e a parceria contínua com a OpenAI. Com o Azure OpenAI Service agora disponível ao público em geral, mais empresas podem solicitar acesso aos modelos de IA mais avançados do mundo, incluindo GPT-3.5, Codex e DALL•E 2, apoiados por recursos confiáveis ​​de nível empresarial e infraestrutura otimizada para IA do Microsoft Azure, para criar aplicativos de ponta. Os clientes também poderão acessar o ChatGPT – uma versão aprimorada do GPT-3.5 que foi treinada e executa inferência na infraestrutura do Azure AI – por meio do Azure OpenAI Service em breve.”

Você deve ter notado nessa declaração que outros vários aplicativos de IA desenvolvidos pela OpenAI também estarão disponíveis. De fato, alguns desses aplicativos de IA já estão acessíveis há um bom tempo, conforme mencionado mais adiante no recente pronunciamento acima: “Lançamos o Azure OpenAI Service em novembro de 2021 para permitir que os clientes aproveitem o poder de modelos de IA generativos em larga escala com as promessas corporativas que os clientes esperam de nossa infraestrutura de nuvem e computação do Azure — segurança, confiabilidade, conformidade, privacidade de dados e recursos integrados de IA responsável” (ibid).

Mencionei anteriormente que tanto a Ética da IA ​​quanto a Lei da IA ​​estão tentando equilibrar AI For Good aspirações com o potencial AI para mau que às vezes pode surgir. Dentro do reino da IA, há um movimento em andamento para ter IA responsável ou às vezes cunhado como Trustworthy AI ou Human-Centered AI, veja minha cobertura em o link aqui. Todos os fabricantes de IA são instados a conceber e colocar em prática sua IA para AI For Good e procurar abertamente reduzir ou mitigar qualquer AI para mau que pode surgir.

Esta é uma ordem alta.

De qualquer forma, o pronunciamento acima mencionado abordou as considerações da IA ​​responsável:

• “Como líder do setor, reconhecemos que qualquer inovação em IA deve ser feita com responsabilidade. Isso se torna ainda mais importante com novas tecnologias poderosas, como modelos generativos. Adotamos uma abordagem iterativa para grandes modelos, trabalhando em estreita colaboração com nosso parceiro OpenAI e nossos clientes para avaliar cuidadosamente os casos de uso, aprender e abordar os riscos potenciais. Além disso, implementamos nossas próprias proteções para o serviço Azure OpenAI que se alinham com nossos princípios de IA responsável. Como parte de nossa Estrutura de acesso limitado, os desenvolvedores devem solicitar acesso, descrevendo seu caso de uso ou aplicativo pretendido antes de receberem acesso ao serviço. Filtros de conteúdo projetados exclusivamente para capturar conteúdo abusivo, odioso e ofensivo monitoram constantemente a entrada fornecida ao serviço, bem como o conteúdo gerado. No caso de uma violação de política confirmada, podemos solicitar ao desenvolvedor que tome medidas imediatas para evitar mais abusos” (ibid).

O cerne dessa perspectiva de IA responsável é que, ao exigir uma solicitação formal para acessar o ChatGPT com base na API do programa, há uma chance de eliminar os envios desagradáveis. Se houver uma devida diligência adequada na escolha de quais outras empresas e seus programas podem acessar o ChatGPT, talvez haja uma chance de impedir a ira total de um Kraken lançado.

Talvez sim talvez não.

Alguns especialistas estão preocupados com o fato de que as possibilidades de ganhar dinheiro ao permitir que a API do ChatGPT seja colocada em uso prejudicarão a noção de contrapeso de querer manter a fera contida de forma razoável e segura. O escrutínio será realmente suficientemente cuidadoso desde o início? Podemos ver, em vez disso, que um processo de aprovação vacilante ocorre quando o volume de solicitações fica fora de controle? Alguns temem que apenas quando o gato estiver fora do saco pode ocorrer um escrutínio tardio mais completo, embora a essa altura o dano já tenha sido feito.

Bem, você pode pelo menos dar o devido crédito ao fato de haver um processo de verificação envolvido. Existem alguns aplicativos de IA generativos que carecem de um processo de verificação coerente ou que são de natureza superficial superficial. Além disso, existem versões de código aberto de IA generativa que geralmente podem ser usadas por quase qualquer pessoa que queira fazê-lo, embora algumas restrições mínimas de licenciamento devam ser seguidas (tentar impor isso é mais difícil do que parece).

Vamos dar uma olhada rápida nas regras existentes em relação à limitação de acesso ao serviço Azure OpenAI para ver o que outros fabricantes de software precisarão fazer para se conectar ao ChatGPT. De acordo com as Políticas da Microsoft publicadas online (última publicação indicada em 14 de dezembro de 2022):

• “Como parte do compromisso da Microsoft com a IA responsável, estamos projetando e lançando o Azure OpenAI Service com a intenção de proteger os direitos dos indivíduos e da sociedade e promover a interação humano-computador transparente. Por esse motivo, atualmente limitamos o acesso e o uso do Azure OpenAI, inclusive limitando o acesso à capacidade de modificar filtros de conteúdo e modificar o monitoramento de abuso. O Azure OpenAI requer registro e atualmente está disponível apenas para clientes e parceiros gerenciados que trabalham com equipes de contas da Microsoft. Os clientes que desejam usar o Azure OpenAI devem enviar um formulário de registro para acesso inicial à experimentação e aprovação para passar da experimentação para a produção.”
• “Para experimentação, os clientes atestam o uso do serviço apenas para os usos pretendidos enviados no momento do registro e se comprometem a incorporar supervisão humana, fortes limites técnicos em entradas e saídas, canais de feedback e testes completos. Para a produção, os clientes explicam como eles foram implementados para mitigar os riscos. Os clientes que desejam modificar os filtros de conteúdo e modificar o monitoramento de abuso depois de terem integrado o serviço estão sujeitos a restrições de cenário adicionais e devem se registrar aqui.”
• “O acesso ao serviço Azure OpenAI está sujeito ao critério exclusivo da Microsoft com base nos critérios de elegibilidade e um processo de verificação e os clientes devem reconhecer que revisaram e concordam com os termos de serviço do Azure para o serviço Azure OpenAI. A Microsoft pode exigir que os clientes verifiquem novamente essas informações. O Serviço Azure OpenAI é disponibilizado aos clientes de acordo com os termos que regem sua assinatura dos Serviços Microsoft Azure, incluindo a seção Azure OpenAI dos Termos do Produto Microsoft. Revise estes termos cuidadosamente, pois eles contêm condições e obrigações importantes que regem o uso do Serviço Azure OpenAI.”

Isso está do lado da Microsoft.

A OpenAI também possui suas políticas de uso associadas à sua API:

• “Queremos que todos possam usar nossa API com segurança e responsabilidade. Para isso, criamos casos de uso e políticas de conteúdo. Ao segui-los, você nos ajudará a garantir que nossa tecnologia seja usada para o bem. Se descobrirmos que seu produto não segue essas políticas, solicitaremos que você faça as alterações necessárias. Se você não cumprir, podemos tomar outras medidas, incluindo encerrar sua conta.”
• “Proibimos a criação de produtos direcionados aos seguintes casos de uso:”
• “— Indústrias ilegais ou nocivas”
• “— Uso indevido de dados pessoais”
• “— Promover a desonestidade”
• “— Enganar ou manipular usuários”
• “— Tentar influenciar a política”
• “O seguinte conjunto de casos de uso apresenta um risco maior de dano potencial: justiça criminal, aplicação da lei, jurídico, governo e serviços civis, saúde, terapia, bem-estar, coaching, finanças, notícias. Para esses casos de uso, você deve:”
• “1) Teste minuciosamente nossos modelos quanto à precisão em seu caso de uso e seja transparente com seus usuários sobre as limitações”
• “2) Certifique-se de que sua equipe tenha experiência no domínio e entenda/siga as leis relevantes”
• “Também não permitimos que você ou os usuários finais de seu aplicativo gerem os seguintes tipos de conteúdo:”
• "- Ódio"
• "- Assédio"
• “— Violência”
• "- Auto-mutilação"
• “—Sexuais”
• “— Político”
• "- Spam"
• "- Decepção"
• “— Malware”

Uma grande questão será se esses ideais podem ser observados se houver uma grande quantidade de solicitações para se conectar ao ChatGPT. Talvez haja um tsunami avassalador de pedidos. O trabalho humano para examinar e examinar cuidadosamente cada um pode ser caro e difícil de administrar. Será que o desejo de ser devidamente restritivo será diluído, inadvertidamente, diante da imensa demanda de acesso?

Como diz o famoso espirituoso, o melhor dos planos às vezes pode ser interrompido no primeiro contato com forças abundantes.

Há também muita margem de manobra em como interpretar as regras estabelecidas. Como vimos em geral sobre o aumento da desinformação e desinformação, tentar separar o trigo do joio pode ser bastante desafiador. Como determinar se o conteúdo gerado cumpre ou viola as disposições de não ser odioso, político, enganoso e similares?

Uma dificuldade iminente pode ser que, se a API do ChatGPT for disponibilizada para um fabricante de software que está emparelhando seu programa com o ChatGPT e a saída resultante violar inequivocamente os preceitos declarados, o cavalo já estará fora do celeiro? Alguns sugerem que há uma forte possibilidade de danos à reputação que podem ocorrer para todas as partes envolvidas. Não está claro se isso pode ser superado simplesmente desativando a API para aquele ofensor em particular. O dano, em certo sentido, pode demorar e estragar o barril como um todo. Muita culpa será dada a todos os que vierem.

Estratificando os pares de API

Observei anteriormente que os emparelhamentos para ChatGPT podem ser convenientemente agrupados em duas intenções principais:

• Emparelhamento genuíno com ChatGPT
• Emparelhamento falso com ChatGPT

Vamos examinar primeiro os pares genuínos ou fidedignos.

Como pano de fundo, a maneira como isso ocorre é um tanto direta. O aplicativo ChatGPT permite que outros programas invoquem o aplicativo. Normalmente, isso consistiria em, digamos, um programa que chamaremos de Widget que passa para o ChatGPT um prompt em formato de texto e, depois que o ChatGPT faz seu trabalho, um ensaio ou texto é retornado ao programa Widget. Isso é quase como uma pessoa fazendo a mesma coisa, embora tenhamos um programa fazendo essas ações no lugar de uma pessoa fazendo isso.

Por exemplo, suponha que alguém crie um programa que faz pesquisas na web. O programa pergunta ao usuário o que ele deseja pesquisar. O programa fornece ao usuário uma lista de vários resultados de pesquisa ou descobertas que, com sorte, mostram sites relevantes com base na consulta do usuário.

Imagine que a empresa que faz esse programa de busca na web queira enfeitar seu aplicativo.

Eles solicitam acesso à API ChatGPT. Suponha que eles façam toda a papelada adequada e, finalmente, sejam aprovados. Seu programa que faz pesquisas na web precisaria ser modificado para incluir uma chamada para o aplicativo ChatGPT por meio da API. Suponha que eles optem por fazer esses mods.

Veja como isso pode funcionar completamente. Quando um usuário insere uma consulta para uma pesquisa na web no programa principal, este programa não apenas faz uma pesquisa convencional na web, mas também passa a consulta para o ChatGPT por meio da API. O ChatGPT então processa o texto e retorna um ensaio resultante para o programa principal. O programa principal de pesquisa na web agora apresenta ao usuário duas facetas, ou seja, os resultados da pesquisa na web e o ensaio adicional produzido pelo ChatGPT.

Uma pessoa que usa este programa principal não saberá necessariamente que o ChatGPT estava sendo usado no back-end. Isso pode acontecer dentro dos limites do programa principal e o usuário felizmente não sabe que o ChatGPT estava envolvido. Por outro lado, o programa principal pode ser concebido para informar ao usuário que o ChatGPT está sendo usado. Isso geralmente depende se os criadores do programa principal desejam revelar que o outro aplicativo, neste caso, o ChatGPT, estava sendo usado. Em alguns arranjos, o criador do programa que está sendo chamado insiste que o programa que está chamando a API deve informar aos usuários que o outro programa está sendo utilizado. Tudo depende de preferências e particularidades de licenciamento.

Para emparelhamentos genuínos, aqui estão as abordagens habituais:

• 1) Passagem direta para ChatGPT
• 2) Complemento para aumentar o ChatGPT
• 3) Aplicativo aliado que coincide com o ChatGPT
• 4) Imersão totalmente integrativa com ChatGPT

Resumidamente, na primeira abordagem listada, a ideia é que eu possa criar um programa que seja apenas um front-end para o ChatGPT e, como tal, tudo o que meu programa faz é passar o texto para o ChatGPT e receber o texto de volta do ChatGPT. Eu disponibilizo meu programa para qualquer pessoa que queira usar o ChatGPT e que de outra forma não tenha se cadastrado para usá-lo. Esta é uma abordagem.

Em segundo lugar, posso criar um programa que sirva como complemento do ChatGPT. Por exemplo, quando o ChatGPT gera uma redação, ela pode conter falsidades. Suponha que eu crie um programa que examine a saída do ChatGPT e tente rastrear falsidades. Eu disponibilizo meu programa para que as pessoas insiram um prompt de texto em meu programa, que então envia o prompt para o ChatGPT. O ChatGPT produz um ensaio que volta ao meu programa. Antes de meu programa mostrar a redação, ele pré-visualiza a redação e tenta sinalizar ou remover falsidades. Você então vê o ensaio resultante depois que meu programa fez a triagem.

A terceira abordagem consiste em ter um aplicativo aliado que, em certo sentido, coincida com o ChatGPT. Suponha que eu desenvolva um programa que auxilie as pessoas na escrita criativa. Meu programa fornece dicas e sugestões enlatadas sobre como escrever criativamente. O programa apenas incita ou estimula o usuário a fazê-lo. Enquanto isso, o que eu gostaria de poder fazer é mostrar ao usuário em que consiste a escrita criativa. Como tal, estabeleço uma API com ChatGPT. Meu programa recebe uma solicitação do usuário e invoca o ChatGPT para fornecer um resumo de um ensaio que pode demonstrar a escrita criativa. Isso pode ser feito de forma iterativa e invocar o ChatGPT várias vezes no processo.

No caso da quarta abordagem listada, o ChatGPT está totalmente integrado a algum outro programa ou conjunto de programas. Por exemplo, se eu tivesse um aplicativo de processamento de texto e um aplicativo de planilha, talvez desejasse integrar o ChatGPT a esses aplicativos. Eles funcionariam, por assim dizer, de mãos dadas um com o outro. Estarei cobrindo em uma próxima coluna postando a possibilidade flutuante de que a Microsoft poderia optar por infundir o ChatGPT em seu pacote de produtividade de escritório, então fique atento para a próxima análise.

Essas são as principais maneiras pelas quais um emparelhamento genuíno pode ocorrer.

Vamos agora considerar alguns dos pares falsos.

Aqui estão alguns pares falsos gerais dos quais você deve estar atento:

• Emparelhamento de truques com ChatGPT – utiliza marginalmente o ChatGPT, feito principalmente para exibição e para obter publicidade sem valor agregado
• Promessas atraentes sobre o emparelhamento do ChatGPT – o fornecedor de software afirma que está no meio de um emparelhamento com o ChatGPT, procurando estar no centro das atenções, quando a realidade é que eles não vão fazer isso e estão fazendo uma clássica falsificação de cabeça e fazendo uma promessa falsa
• Imitações Proclamando Ser ChatGPT-like – em vez de emparelhar com o ChatGPT, alguns fornecedores de software usarão outra coisa, o que é bom, mas tentarão sugerir que é o ChatGPT quando não é, na esperança de obter alguns dos brilhos posteriores do ChatGPT
• Outros – muitos esquemas estendidos e coniventes adicionais são concebíveis

Haverá, sem dúvida, muitas travessuras acontecendo sobre tudo isso. Será parte integrante do lançamento do Kraken.

Conclusão

Permita-me jogar algumas chaves e outras obstruções neste assunto.

E quanto ao custo?

Atualmente, aqueles que se inscreveram para usar o ChatGPT o fazem gratuitamente. Eu observei anteriormente que em algum momento será necessário haver monetização total envolvida. Isso pode implicar na cobrança de uma taxa por transação ou talvez no pagamento de uma assinatura. Outra possibilidade é que os anúncios possam ser usados ​​para trazer a massa, onde cada vez que você usar o ChatGPT, um anúncio aparecerá. etc.

Aqueles que optam por estabelecer um emparelhamento com o ChatGPT por meio da API devem refletir seriamente sobre os custos potenciais envolvidos. É provável que haja um custo referente ao uso da nuvem do Microsoft Azure para a execução do aplicativo ChatGPT. É provável que haja um custo do OpenAI para usar a API ChatGPT e invocar o aplicativo AI. Um fornecedor de software também incorrerá em seus próprios custos internos, como modificar seus programas existentes para usar a API ou desenvolver novos programas em torno do emparelhamento com o ChatGPT. Visualize um custo inicial e um conjunto de custos de manutenção contínua também.

A essência é que essa estratificação de custos vai moderar até certo ponto a corrida do ouro para alavancar a API do ChatGPT. Presumivelmente, os fornecedores de software devem fazer um cálculo prudente de ROI (retorno sobre o investimento). O que quer que eles possam fazer por meio do aumento de seu programa usando o ChatGPT trará dinheiro adicional suficiente para compensar os custos?

Nem todo mundo será necessariamente tão consciente dos custos. Se você tem bolsos cheios e acredita que o uso do ChatGPT impulsionará seu programa para o reino de aplicativos mais conhecido ou altamente reconhecido, você pode decidir que o custo agora vale a pena. Crie um nome para o seu aplicativo seguindo as pegadas do ChatGPT. No futuro, uma vez que seu programa é popular ou ganha dinheiro, você compensa a falta de lucro anterior ou o desconta como o custo necessário para entrar no grande momento.

Uma pequena startup apoiada por uma empresa de capital de risco (VC) pode estar disposta a desembolsar uma parte de seu investimento inicial para se associar à API do ChatGPT. A fama pode surgir instantaneamente. A fortuna pode estar muito longe, mas isso é algo a ser tratado mais tarde. Pegue os holofotes quando a obtenção for boa, como dizem.

Supõe-se que pode haver organizações sem fins lucrativos e empresas sociais que também decidirão chutar os pneus sobre isso. Suponha que uma empresa sem fins lucrativos identifique um uso benéfico de invocar a API ChatGPT que aparentemente apoiará seus objetivos altruístas ou socialmente benéficos. Talvez eles levantem fundos para isso por meio de uma campanha de financiamento online. Talvez eles tentem fazer um acordo com os fornecedores para que paguem um valor nominal ou obtenham o uso de graça.

O tempo dirá.

O último indicador que deixarei é o fator de risco.

Não quero parecer excessivamente pessimista, mas mencionei anteriormente que as saídas do ChatGPT podem conter falsidades e ter outras desvantagens em potencial. O problema é que, se um fornecedor de software que faz um aplicativo se mistura ao uso da API ChatGPT, ele corre o risco de ter resultados azedos e severos, o que deveria estar prevendo. Não coloque a cabeça na areia.

Os problemas surgem porque essas saídas podem contaminar o aplicativo que opta por utilizá-las. Nesse sentido, seu aplicativo que está inicialmente aproveitando a glória do ChatGPT também pode acabar batendo em uma parede de tijolos se as saídas fornecidas pelo ChatGPT forem confiáveis. Talvez as saídas sejam apresentadas aos usuários e isso cause uma confusão horrível. Eles descarregam sua angústia em você e em seu aplicativo.

Por sua vez, você tenta apontar o dedo para o ChatGPT. Isso vai tirar você do dilema? Uma vez que há um mau cheiro, ele se espalha amplamente e poucos são poupados. Nesse sentido, pode ser que, por meio de um uso mais amplo do ChatGPT, a consciência das saídas de falta seja mais conhecida. Assim, estranhamente, ou ironicamente, o uso expandido do ChatGPT devido à API poderia atirar em seu próprio pé.

Não quero concluir minhas observações com uma cara triste, então vamos tentar mudar para uma cara feliz.

Se todos os limites e restrições aspiracionais forem seguidos de forma consciente e criteriosa e respeitados rigorosamente, acessar o ChatGPT por meio da API pode ser uma coisa boa. As chances são de que isso estimule ainda mais a ação de outros aplicativos generativos de IA. A maré alta pode levantar todos os barcos.

Isso parece otimista.

Você deve saber que Zeus estava no controle do Kraken. Sófocles, o antigo dramaturgo grego, disse o seguinte sobre Zeus: “Os dados de Zeus sempre caem com sorte”.

Talvez o mesmo seja dito sobre como a IA generativa chegará inevitavelmente, pelo menos esperemos que sim.