Comissão Federal de Comércio visa derrubar o martelo sobre as reivindicações infundadas descomunais sobre IA generativa ChatGPT e outras IA, adverte a ética da IA ​​e a lei da IA

Abaixe o martelo.

Isso é o que a Federal Trade Commission (FTC) diz que fará em relação ao uso contínuo e cada vez maior de alegações infundadas descomunais sobre Inteligência Artificial (IA).

Em uma postagem no blog oficial em 27 de fevereiro de 2023, intitulada “Keep Your AI Claims In Check”, do advogado Michael Atleson, da FTC Division of Advertising Practices, algumas palavras marteladas observaram que a IA não é apenas uma forma de alta tecnologia computacional, mas tornou-se um jackpot de marketing que às vezes foi além do reino da razoabilidade:

• “E o que exatamente é 'inteligência artificial' afinal? É um termo ambíguo com muitas definições possíveis. Muitas vezes, refere-se a uma variedade de ferramentas e técnicas tecnológicas que usam computação para executar tarefas como previsões, decisões ou recomendações. Mas uma coisa é certa: é um termo de marketing. Agora, é um quente. E na FTC, uma coisa que sabemos sobre os termos de marketing quentes é que alguns anunciantes não conseguirão evitar o uso excessivo e o abuso deles” (postagem no site da FTC).

A IA oferece grandes possibilidades para os profissionais de marketing que desejam realmente enlouquecer e exagerar em qualquer produto ou serviço subjacente aprimorado ou orientado por IA que esteja sendo vendido aos consumidores.

Veja bem, a tentação de forçar os limites da hipérbole deve ser enorme, especialmente quando um profissional de marketing vê outras empresas fazendo a mesma coisa. Os sucos competitivos exigem que você faça um exagero clássico quando sua concorrência está clamando que sua IA anda sobre a água. Talvez sua IA seja ostensivamente melhor porque voa no ar, escapa dos limites da gravidade e consegue mascar chiclete ao mesmo tempo.

No uso insensato de proficiências proclamadas pela IA que beiram ou beiram completamente a falsidade e o engano, entra o longo braço da lei, ou seja, a FTC e outras agências federais, estaduais e locais (veja minha cobertura contínua de tais esforços, incluindo internacional esforços regulatórios também, em o link aqui).

Você está potencialmente ciente de que, como agência federal, a FTC engloba o Bureau of Consumer Protection, encarregado de proteger os consumidores de atos ou práticas consideradas enganosas em ambientes comerciais. Isso geralmente ocorre quando as empresas mentem ou enganam os consumidores sobre produtos ou serviços. A FTC pode exercer suas poderosas proezas governamentais para reprimir essas empresas infratoras.

A postagem no blog da FTC que citei também fez este pronunciamento um tanto picante:

• “Os profissionais de marketing devem saber que – para fins de fiscalização da FTC – alegações falsas ou infundadas sobre a eficácia de um produto são nosso pão com manteiga.”

De certa forma, aqueles que insistem em exagerar indevidamente suas afirmações sobre IA pretendem ser brinde. A FTC pode tentar fazer com que o requerente da IA ​​desista e potencialmente enfrentar penalidades severas pelas transgressões cometidas.

Aqui estão algumas das ações potenciais que a FTC pode tomar:

• “Quando a Federal Trade Commission encontra um caso de fraude perpetrado contra consumidores, a agência abre ações no tribunal distrital federal para ordens imediatas e permanentes para impedir golpes; evitar que fraudadores perpetrem golpes no futuro; congelar seus bens; e obter compensação para as vítimas. Quando os consumidores veem ou ouvem um anúncio, seja na Internet, rádio ou televisão, ou em qualquer outro lugar, a lei federal diz que um anúncio deve ser verdadeiro, não enganoso e, quando apropriado, apoiado por evidências científicas. A FTC aplica essas leis de verdade na publicidade e aplica os mesmos padrões, não importa onde um anúncio apareça – em jornais e revistas, online, no correio ou em outdoors ou ônibus” (site da FTC de acordo com a seção sobre Verdade na Publicidade)

Houve uma série de exemplos relativamente recentes de alto perfil da FTC indo atrás de incidentes de propaganda enganosa.

Por exemplo, a L'Oreal teve problemas por anunciar que seus produtos para a pele Paris Youth Code foram "clinicamente comprovados" para fazer as pessoas parecerem "visivelmente mais jovens" e "aumentar os genes". evidências científicas e a FTC tomou as devidas providências. Outro exemplo proeminente consistiu na propaganda da Volkswagen de que seus carros a diesel utilizavam “diesel limpo” e, portanto, supostamente emitiam quantidades bastante baixas de poluição. Neste caso, os testes de emissão que a Volkswagen realizou foram realizados de forma fraudulenta para mascarar suas verdadeiras emissões. A ação de execução pela FTC levou a um acordo de compensação para os consumidores afetados.

A noção de que a IA também deve receber exame minucioso semelhante a reivindicações infundadas ou talvez totalmente fraudulentas é certamente uma causa oportuna e digna.

Há uma mania pronunciada sobre IA agora, alimentada pelo advento da IA generativa. Este tipo particular de IA é considerado generativo porque é capaz de gerar saídas que quase parecem ter sido criadas por uma mão humana, embora a IA computacionalmente esteja fazendo isso. Um aplicativo de IA conhecido como ChatGPT pela empresa OpenAI atraiu imensa atenção e levou a mania de IA à estratosfera. Em um momento, explicarei o que é a IA generativa e descreverei a natureza do aplicativo de IA ChatGPT.

Claro, a IA em geral já existe há algum tempo. Houve uma série de altos e baixos associados às promessas do que a IA pode alcançar. Você pode dizer que estamos em um novo ponto alto. Alguns acreditam que este é apenas o ponto de partida e estamos indo mais longe. Outros discordam veementemente e afirmam que o gambito generativo da IA ​​atingirá uma parede, ou seja, logo chegará a um beco sem saída e a montanha-russa descerá.

O tempo dirá.

A FTC já instou anteriormente que as reivindicações que cobrem a IA precisam ser adequadamente equilibradas e razoáveis. Em uma postagem no blog oficial da FTC de 19 de abril de 2021, intitulada “Aiming For Truth, Fairness, And Equity In Your Company's Use Of AI”, Elisa Jillson observou as várias maneiras pelas quais as ações de fiscalização surgem legalmente e destacou especialmente as preocupações sobre a imbuição de vieses indevidos da IA :

• “A FTC tem décadas de experiência na aplicação de três leis importantes para desenvolvedores e usuários de IA.”
• "Seção 5 da Lei FTC. A Lei FTC proíbe práticas desleais ou enganosas. Isso incluiria a venda ou uso de – por exemplo – algoritmos com viés racial”.
• "Fair Credit Reporting Act. A FCRA entra em jogo em certas circunstâncias em que um algoritmo é usado para negar às pessoas emprego, moradia, crédito, seguro ou outros benefícios”.
• "Ato de oportunidade de crédito igual. O ECOA torna ilegal que uma empresa use um algoritmo tendencioso que resulta em discriminação de crédito com base em raça, cor, religião, nacionalidade, sexo, estado civil, idade ou porque uma pessoa recebe assistência pública.”

Uma observação de destaque na postagem do blog mencionada acima menciona esta afirmação claramente falada:

• “De acordo com a Lei FTC, suas declarações para clientes empresariais e consumidores devem ser verdadeiras, não enganosas e apoiadas por evidências” (ibid).

A linguagem jurídica da Seção 5 da Lei FTC ecoa esse sentimento:

• “Métodos de concorrência desleal ou que afetem o comércio, e atos ou práticas desleais ou enganosos ou que afetem o comércio são declarados ilegais” (fonte: Seção 5 da Lei FTC).

Parece um alívio saber que a FTC e outras agências governamentais estão de olhos abertos e com um martelo pendurado sobre as cabeças de qualquer organização que ouse emitir mensagens injustas ou enganosas sobre IA.

Tudo isso implica que você pode ficar tranquilo e presumir que os criadores e promotores de IA serão cautelosos em suas reivindicações de marketing sobre IA e terão cuidado para não fazer exortações exorbitantes ou ultrajantes?

Heck, não.

Você pode esperar que os profissionais de marketing sejam profissionais de marketing. Eles terão como objetivo fazer reivindicações exageradas e infundadas sobre IA até o fim dos tempos. Alguns farão isso sem saber que fazer tais alegações pode causar problemas para eles e sua empresa. Outros sabem que as denúncias podem causar problemas, mas acham que as chances de serem pegos são mínimas. Há alguns também que estão apostando que podem contornar a questão e argumentar legalmente que não escorregaram nas águas turvas de serem mentirosos ou enganosos.

Deixe os advogados descobrirem isso, dizem alguns profissionais de marketing de IA. Enquanto isso, a todo vapor. Se algum dia a FTC ou alguma outra agência governamental bater à sua porta, que assim seja. O dinheiro a ser feito é agora. Talvez colocar um bocado do dinheiro anterior em uma espécie de fundo fiduciário para lidar com questões legais a jusante. Por enquanto, o trem do dinheiro está em andamento, e você seria incrivelmente tolo se perdesse o molho fácil de obter.

Há uma série de racionalizações sobre a publicidade de IA ao máximo:

• Todo mundo faz afirmações bizarras de IA, então podemos fazer o mesmo
• Ninguém pode dizer com certeza onde está a linha divisória em relação às verdades sobre IA
• Podemos redigir nossas reivindicações sobre nossa IA para ficar uma ou duas polegadas dentro da zona de segurança
• O governo não vai perceber o que estamos fazendo, somos um peixe pequeno em um mar grande
• As rodas da justiça são tão lentas que não conseguem acompanhar a velocidade dos avanços da IA
• Se os consumidores se apaixonarem por nossas alegações de IA, isso é culpa deles, não nossa
• Os desenvolvedores de IA em nossa empresa disseram que poderíamos dizer o que eu disse em nossas reivindicações de marketing
• Não deixe a equipe jurídica enfiar o nariz nessas coisas de IA que estamos anunciando, eles simplesmente acabarão com nossas estupendas campanhas de marketing de IA e serão um proverbial pau na lama
• Outros

Essas racionalizações são uma receita para o sucesso ou uma receita para o desastre?

Para os fabricantes de IA que não estão prestando atenção a esses sérios e preocupantes escrúpulos legais, sugiro que eles estão caminhando para um desastre.

Ao consultar muitas empresas de IA diariamente e semanalmente, eu as alerto de que devem procurar aconselhamento jurídico convincente, pois o dinheiro que estão ganhando hoje pode ser devolvido e, ainda mais, quando se depararem com ações civis dos consumidores. juntamente com a ação de execução governamental. Dependendo de quão longe as coisas vão, as repercussões criminais também podem acontecer.

Na coluna de hoje, abordarei as crescentes preocupações de que o hype de marketing subjacente à IA está cada vez mais cruzando a linha para o agravamento de práticas desagradáveis ​​e enganosas. Vou olhar para a base para esses escrúpulos. Além disso, isso ocasionalmente incluirá referências àqueles que estão usando e aproveitando o aplicativo de IA ChatGPT, já que é o gorila de 600 libras da IA ​​generativa, embora tenha em mente que existem muitos outros aplicativos de IA generativa e geralmente são baseados em os mesmos princípios gerais.

Enquanto isso, você pode estar se perguntando o que de fato é a IA generativa.

Vamos primeiro cobrir os fundamentos da IA ​​generativa e, em seguida, podemos dar uma olhada no assunto urgente em questão.

Em tudo isso, há uma série de considerações sobre a ética da IA ​​e a lei da IA.

Esteja ciente de que há esforços contínuos para imbuir os princípios éticos da IA ​​no desenvolvimento e no uso de aplicativos de IA. Um contingente crescente de preocupados e antigos éticos da IA ​​está tentando garantir que os esforços para conceber e adotar a IA levem em consideração uma visão de fazer AI For Good e evitando AI para mau. Da mesma forma, há propostas de novas leis de IA que estão sendo cogitadas como possíveis soluções para impedir que os empreendimentos de IA enlouqueçam com os direitos humanos e coisas do gênero. Para minha cobertura contínua e extensa de Ética e Lei de IA, consulte o link aqui e o link aqui, Apenas para nomear alguns.

O desenvolvimento e a promulgação dos preceitos de IA ética estão sendo buscados para evitar que a sociedade caia em uma miríade de armadilhas indutoras de IA. Para minha cobertura dos princípios de Ética da IA ​​da ONU, elaborados e apoiados por quase 200 países por meio dos esforços da UNESCO, consulte o link aqui. Na mesma linha, novas leis de IA estão sendo exploradas para tentar manter a IA em equilíbrio. Uma das últimas tomadas consiste em um conjunto de Declaração de Direitos da IA que a Casa Branca dos EUA divulgou recentemente para identificar os direitos humanos na era da IA, consulte o link aqui. É preciso uma aldeia para manter a IA e os desenvolvedores de IA no caminho correto e impedir os esforços dissimulados propositais ou acidentais que podem minar a sociedade.

Estarei entrelaçando as considerações relacionadas à ética da IA ​​e à lei da IA ​​nesta discussão.

Fundamentos da IA ​​generativa

A instância mais conhecida de IA generativa é representada por um aplicativo de IA chamado ChatGPT. O ChatGPT surgiu na consciência pública em novembro, quando foi lançado pela empresa de pesquisa de IA OpenAI. Desde então, o ChatGPT conquistou manchetes enormes e surpreendentemente excedeu seus quinze minutos de fama.

Suponho que você provavelmente já ouviu falar do ChatGPT ou talvez até conheça alguém que o tenha usado.

O ChatGPT é considerado um aplicativo de IA generativo porque recebe como entrada algum texto de um usuário e, em seguida, gera ou produz uma saída que consiste em um ensaio. A IA é um gerador de texto para texto, embora eu descreva a IA como sendo um gerador de texto para ensaio, pois isso esclarece mais prontamente para o que é comumente usado. Você pode usar IA generativa para compor composições longas ou fazer comentários concisos bastante curtos. Tudo depende de você.

Tudo o que você precisa fazer é inserir um prompt e o aplicativo AI gerará para você um ensaio que tenta responder ao seu prompt. O texto composto parecerá que o ensaio foi escrito pela mão e pela mente humana. Se você inserir um prompt que diga “Fale-me sobre Abraham Lincoln”, a IA generativa fornecerá a você um ensaio sobre Lincoln. Existem outros modos de IA generativa, como text-to-art e text-to-video. Vou me concentrar aqui na variação de texto para texto.

Seu primeiro pensamento pode ser que essa capacidade generativa não pareça grande coisa em termos de produção de ensaios. Você pode facilmente fazer uma pesquisa on-line na Internet e encontrar prontamente toneladas e toneladas de ensaios sobre o presidente Lincoln. O kicker no caso da IA ​​generativa é que o ensaio gerado é relativamente único e fornece uma composição original em vez de um imitador. Se você tentasse encontrar o ensaio produzido pela IA online em algum lugar, dificilmente o descobriria.

A IA generativa é pré-treinada e faz uso de uma formulação matemática e computacional complexa que foi criada examinando padrões em palavras escritas e histórias na web. Como resultado do exame de milhares e milhões de passagens escritas, a IA pode produzir novos ensaios e histórias que são uma mistura do que foi encontrado. Ao adicionar várias funcionalidades probabilísticas, o texto resultante é praticamente único em comparação com o que foi usado no conjunto de treinamento.

Existem inúmeras preocupações sobre IA generativa.

Uma desvantagem crucial é que os ensaios produzidos por um aplicativo de IA baseado em geração podem conter várias falsidades incorporadas, incluindo fatos manifestamente falsos, fatos que são retratados de forma enganosa e fatos aparentes totalmente fabricados. Esses aspectos fabricados são muitas vezes referidos como uma forma de alucinações de IA, uma frase de efeito que eu desaprovo, mas lamentavelmente parece estar ganhando força popular de qualquer maneira (para minha explicação detalhada sobre por que essa é uma terminologia ruim e inadequada, veja minha cobertura em o link aqui).

Outra preocupação é que os humanos podem facilmente assumir o crédito por um ensaio generativo produzido por IA, apesar de não terem escrito o ensaio por conta própria. Você deve ter ouvido falar que professores e escolas estão bastante preocupados com o surgimento de aplicativos generativos de IA. Os alunos podem usar a IA generativa para escrever suas redações atribuídas. Se um aluno afirma que um ensaio foi escrito por sua própria mão, há poucas chances de o professor ser capaz de discernir se ele foi forjado por IA generativa. Para minha análise dessa faceta que confunde alunos e professores, veja minha cobertura em o link aqui e o link aqui.

Houve algumas reivindicações descomunais nas mídias sociais sobre IA generativa afirmando que esta versão mais recente da IA ​​é de fato IA senciente (não, eles estão errados!). Aqueles em AI Ethics e AI Law estão notavelmente preocupados com essa tendência crescente de reivindicações estendidas. Você pode dizer educadamente que algumas pessoas estão exagerando o que a IA de hoje pode fazer. Eles assumem que a IA tem capacidades que ainda não conseguimos alcançar. Isso é lamentável. Pior ainda, eles podem permitir a si mesmos e a outros entrar em situações terríveis por causa da suposição de que a IA será senciente ou semelhante à humana ao ser capaz de agir.

Não antropomorfize a IA.

Fazer isso o deixará preso em uma armadilha de confiança pegajosa e obstinada de esperar que a IA faça coisas que ela é incapaz de realizar. Com isso dito, o que há de mais recente em IA generativa é relativamente impressionante pelo que pode fazer. Esteja ciente, porém, de que existem limitações significativas que você deve ter sempre em mente ao usar qualquer aplicativo de IA generativo.

Um último aviso por enquanto.

Tudo o que você vê ou lê em uma resposta de IA generativa que parece para ser transmitido como puramente factual (datas, lugares, pessoas, etc.), certifique-se de permanecer cético e estar disposto a verificar novamente o que você vê.

Sim, as datas podem ser inventadas, os lugares podem ser inventados e os elementos que normalmente esperamos serem irrepreensíveis são todos os sujeito a suspeitas. Não acredite no que você lê e mantenha um olhar cético ao examinar quaisquer ensaios ou saídas generativas de IA. Se um aplicativo de IA generativo disser que Abraham Lincoln voou pelo país em seu jato particular, você sem dúvida saberia que isso é uma loucura. Infelizmente, algumas pessoas podem não perceber que os jatos não existiam em sua época, ou podem saber, mas não perceber que o ensaio faz essa afirmação descarada e escandalosamente falsa.

Uma forte dose de ceticismo saudável e uma mentalidade persistente de descrença serão seu melhor trunfo ao usar IA generativa. Além disso, tenha cuidado com possíveis invasões de privacidade e perda de confidencialidade dos dados, consulte minha discussão em o link aqui.

Estamos prontos para passar para o próximo estágio desta elucidação.

IA como a maior história já contada

Vamos agora fazer um mergulho profundo nas distorções que estão sendo contadas sobre a IA.

Vou me concentrar na IA generativa. Dito isto, praticamente qualquer tipo de IA está sujeito às mesmas preocupações sobre publicidade injusta ou enganosa. Tenha em mente essa visão mais ampla. Digo isso para aqueles que são criadores de IA de qualquer tipo, garantindo que todos estejam informados sobre esses assuntos e não confinados apenas aos criadores de aplicativos de IA generativos.

O mesmo se aplica a todos os consumidores. Não importa que tipo de IA você esteja pensando em comprar ou usar, tenha cuidado com afirmações falsas ou enganosas sobre a IA.

Aqui estão os principais tópicos que gostaria de abordar com você hoje:

• 1) Quem é o quê das possíveis falsidades da IA
• 2) Tentativas de usar cláusulas de escape para evitar a responsabilidade da IA
• 3) A FTC fornece palavras úteis de cautela sobre publicidade de IA
• 4) A FTC também oferece palavras de advertência sobre vieses de IA
• 5) As ações que você precisa tomar sobre suas manobras de publicidade de IA

Abordarei cada um desses tópicos importantes e apresentarei considerações perspicazes sobre as quais todos devemos refletir atentamente. Cada um desses tópicos é parte integrante de um quebra-cabeça maior. Você não pode olhar para apenas uma peça. Nem você pode olhar para qualquer peça isoladamente das outras peças.

Este é um mosaico intrincado e todo o quebra-cabeça deve receber a devida consideração harmoniosa.

Quem é o quê das falsidades potenciais da IA

Um ponto importante de esclarecimento precisa ser feito sobre os vários atores ou stakeholders envolvidos nessas questões.

Existem os fabricantes de IA que criam o núcleo de um aplicativo de IA generativa e, em seguida, há outros que se baseiam na IA generativa para criar um aplicativo dependente da IA ​​generativa subjacente. Eu discuti como o uso de API (interfaces de programação de aplicativos) permite que você escreva um aplicativo que aproveite a IA generativa, veja minha cobertura em o link aqui. Um excelente exemplo inclui que a Microsoft adicionou recursos de IA generativa do OpenAI ao seu mecanismo de pesquisa Bing, conforme abordei detalhadamente em o link aqui.

Os possíveis culpados por fazer afirmações enganosas ou falsas sobre IA podem incluir:

• Pesquisadores de IA
• Desenvolvedores de IA
• profissionais de marketing de IA
• Fabricantes de IA que desenvolvem IA central, como IA generativa
• Empresas que usam IA generativa em suas ofertas de software
• Empresas que dependem do uso de IA generativa em seus produtos e serviços
• Empresas que dependem de empresas que usam IA generativa em seus produtos ou serviços
• Etc.

Você pode ver isso como uma cadeia de suprimentos. Qualquer pessoa envolvida na IA à medida que avança ao longo do caminho ou desafio da IA ​​sendo concebida e colocada em campo pode prontamente fornecer afirmações enganosas ou fraudulentas sobre a IA.

Aqueles que fizeram a IA generativa podem ser atiradores diretos e acontece que aqueles que envolvem a IA generativa em seus produtos ou serviços são os que se tornam diabólicos e fazem reivindicações infundadas. Essa é uma possibilidade.

Outra possibilidade é que os fabricantes de IA são os que fazem as falsas alegações. Os outros que incluem a IA generativa em seus produtos provavelmente repetirão essas reivindicações. Em algum momento, um pântano legal pode resultar. Uma briga legal pode surgir primeiro visando a empresa que repetiu as reivindicações, das quais eles, por sua vez, aparentemente apontariam os dedos legais para o fabricante de IA que iniciou a avalanche de reivindicações. Os dominós começam a cair.

O ponto é que as empresas que pensam que podem confiar nas falsas alegações de outros estão fadadas a sofrer um rude despertar de que não vão necessariamente sair impunes por causa de tal confiança. Eles também, sem dúvida, terão os pés no fogo.

Quando o empurrão chega, todo mundo fica atolado em uma briga legal feia e enlameada.

Tentativas de usar cláusulas de escape para evitar a responsabilidade da IA

Mencionei anteriormente que a Seção 5 da Lei FTC fornece linguagem legal sobre práticas de publicidade ilegais. Existem várias brechas legais que qualquer advogado astuto usaria potencialmente em benefício de seu cliente, presumivelmente com razão se o cliente de fato procurasse derrubar ou desviar o que considerava uma acusação falsa.

Considere, por exemplo, esta cláusula da Seção 5:

• “A Comissão não terá autoridade sob esta seção ou seção 57a deste título para declarar ilegal um ato ou prática com base em que tal ato ou prática é desleal, a menos que o ato ou prática cause ou possa causar danos substanciais aos consumidores que é não razoavelmente evitáveis ​​pelos próprios consumidores e não compensados ​​por benefícios compensatórios para os consumidores ou para a concorrência. Ao determinar se um ato ou prática é desleal, a Comissão pode considerar as políticas públicas estabelecidas como prova a ser considerada com todas as outras provas. Tais considerações de política pública podem não servir como base primária para tal determinação” (fonte: Seção 5 da Lei FTC).

Alguns interpretaram essa cláusula para sugerir que, se digamos que uma empresa estava anunciando sua IA e fazendo isso de uma maneira aparentemente flagrante, surge a questão de saber se a publicidade talvez tenha escapado do purgatório, desde que os anúncios: (a) falhassem causar “dano substancial aos consumidores”, (b) e de tal ser “evitável pelos próprios consumidores” e (c) “não ser superado por benefícios compensatórios aos consumidores ou à concorrência”.

Imagine este caso de uso. Uma empresa decide alegar que sua IA generativa pode ajudar sua saúde mental. Acontece que a empresa criou um aplicativo que incorpora a IA generativa de um fabricante de IA popular. O aplicativo resultante é apresentado como sendo capaz de “ajudá-lo a alcançar paz de espírito por IA que interage com você e acalma sua alma angustiada”.

Como observação lateral, discuti os perigos da IA ​​generativa sendo usada como consultora de saúde mental, veja minha análise em o link aqui e o link aqui.

De volta ao conto. Suponha que um consumidor assine a IA generativa que supostamente pode ajudar em sua saúde mental. O consumidor diz que confiou nos anúncios da empresa que oferece o aplicativo de IA. Mas depois de usar a IA, o consumidor acredita que não está mentalmente melhor do que antes. Para eles, o aplicativo AI está usando publicidade enganosa e falsa.

Não vou me aprofundar nos meandros legais e simplesmente usar isso como uma ajuda útil (consulte seu advogado para obter aconselhamento jurídico adequado). Primeiro, o consumidor sofreu “danos substanciais” como resultado do uso do aplicativo de IA? Um argumento é que eles não sofreram uma lesão “substantiva” e apenas aparentemente não ganharam o que pensavam que ganhariam (um contra-argumento é que isso constitui uma forma de “dano substancial” e assim por diante). Em segundo lugar, o consumidor poderia razoavelmente ter evitado tal dano se um dano tivesse surgido? A defesa presumida é que o consumidor não foi de alguma forma obrigado a usar o aplicativo de IA e, em vez disso, optou voluntariamente por fazê-lo, além disso, eles podem ter usado o aplicativo de IA indevidamente e, portanto, prejudicado os benefícios antecipados, etc. Terceiro, o aplicativo de IA possivelmente tem valor ou benefício substancial o suficiente para os consumidores que a reivindicação feita por esse consumidor seja superada na totalidade?

Você pode esperar que muitos dos fabricantes de IA e aqueles que aumentam seus produtos e serviços com IA irão afirmar que, independentemente de suas ofertas de IA ou infundidas com IA, eles estão fornecendo um benefício líquido para a sociedade ao incorporar a IA. . A lógica é que, se o produto ou serviço for benéfico para os consumidores, a adição de IA aumenta ou reforça esses benefícios. Portanto, mesmo que haja algumas desvantagens em potencial, as vantagens superam as desvantagens (supondo que as desvantagens não sejam inconcebíveis).

Acredito que você possa ver por que os advogados são tão necessários para aqueles que fazem ou usam IA.

FTC fornece palavras úteis de cautela sobre publicidade de IA

Voltando à postagem do blog de 27 de fevereiro de 2023 da FTC, existem algumas sugestões bastante úteis feitas sobre como evitar o enigma de reivindicações de publicidade de IA fora dos limites.

Aqui estão alguns pontos-chave ou questões levantadas na postagem do blog:

• “Você está exagerando o que seu produto de IA pode fazer?”
• “Você está prometendo que seu produto de IA faz algo melhor do que um produto sem IA?”
• “Você está ciente dos riscos?”
• “O produto realmente usa IA?”

Vamos descompactar brevemente algumas dessas perguntas pontuais.

Considere o segundo ponto sobre produtos de IA versus um produto considerado comparável sem IA. É tentadoramente atraente anunciar que seu produto aprimorado com IA é muito melhor do que qualquer outro produto comparável que não seja IA. Você pode fazer todo tipo de aceno de mão selvagem durante todo o dia, simplesmente exaltando que, como a IA está sendo incluída em seu produto, deve ser melhor. Ou seja, qualquer coisa comparável que não use IA é óbvia e inerentemente inferior.

Isso traz à tona o famoso slogan lendário “Onde está a carne?”

A ênfase é que, se você não tem algo tangível e substantivo para apoiar a reivindicação, você está em um terreno bastante delicado e legalmente perigoso. Você está em areia movediça. Se solicitado, você precisará apresentar alguma forma de prova suficiente ou adequada de que o produto com adição de IA é realmente melhor do que o produto sem IA, supondo que você esteja fazendo tal afirmação. Esta prova não deve ser um caso embaralhado após o fato. Você seria mais sábio e seguro ter isso em mãos de antemão, antes de fazer essas reivindicações publicitárias.

Em teoria, você deve ser capaz de fornecer alguma aparência razoável de evidência para apoiar tal alegação. Você poderia, por exemplo, ter feito uma pesquisa ou teste que envolvesse aqueles que usam seu produto adicionado de IA em comparação com aqueles que usam um produto comparável sem IA. Este é um pequeno preço a pagar por potencialmente lidar com uma penalidade iminente no futuro.

Uma outra ressalva é que não faça o tipo de esforço covarde para tentar apoiar suas reivindicações de publicidade sobre IA. As chances são de que, se você oferecer um estudo que fez dos usuários de IA versus os não usuários de IA, ele será inspecionado de perto por outros especialistas. Eles podem observar, por exemplo, que você colocou o polegar na balança pela forma como selecionou aqueles que foram pesquisados ​​ou testados. Ou talvez você queira pagar aos usuários que usam IA para que eles divulguem o quão bom é o seu produto. Todo tipo de malandragem é possível. duvido que queira entrar problema em dobro quando esses artifícios sorrateiros são descobertos.

Mudando para um dos outros pontos marcados, considere o quarto marcador que pergunta se a IA está sendo usada em uma circunstância específica.

A abordagem rápida e suja atualmente consiste em oportunistas optando por rotular qualquer tipo de software como contendo ou consistindo em IA. É melhor entrar na onda da IA, dizem alguns. Eles são um pouco capazes de se safar disso porque a definição de IA é geralmente nebulosa e varia amplamente, veja minha cobertura em Lei Bloomberg sobre a incômoda questão legal do que é IA em o link aqui.

A confusão sobre o que é IA potencialmente fornecerá alguma cobertura protetora, mas não é impenetrável.

Aqui está o que o blog da FTC menciona:

• “Em uma investigação, os tecnólogos da FTC e outros podem examinar os bastidores e analisar outros materiais para ver se o que está dentro corresponde às suas reivindicações.”

Nesse sentido, quer você esteja ou não usando “IA” para aderir estritamente a uma escolha de definição aceita de IA, você será, no entanto, preso às reivindicações feitas sobre tudo o que o software foi proclamado capaz de fazer.

Apreciei este comentário adicionado que se seguiu ao ponto acima no blog da FTC:

• “Antes de rotular seu produto como alimentado por IA, observe também que apenas usar uma ferramenta de IA no processo de desenvolvimento não é o mesmo que um produto com IA nele.”

Esse é um ponto sutil que muitos talvez não tivessem considerado de outra forma. Aqui está o que ele sugere. Às vezes, você pode usar um software aprimorado por IA ao desenvolver um aplicativo. O aplicativo de destino real não conterá AI. Você está simplesmente usando IA para ajudá-lo a criar o aplicativo de IA.

Por exemplo, você pode usar o ChatGPT para gerar o código de programação para você. O código produzido não terá necessariamente nenhum componente de IA. Seu aplicativo não será razoavelmente qualificado para alegar que contém IA per se (a menos, é claro, que você opte por incluir alguma forma de técnica ou tecnologia de IA nele). Você poderia dizer que usou IA para ajudar a escrever o programa. Mesmo isso precisa ser dito com atenção e cautela.

A FTC também oferece palavras de advertência sobre vieses de IA

O blog da FTC que mencionei aqui sobre o tópico de preconceitos de IA fornece alguns avisos úteis que acredito que valem a pena ter em mente (vou listá-los em um momento).

Quando se trata de IA generativa, há quatro grandes preocupações sobre as armadilhas dos recursos atuais:

• erros
• Falsidades
• Alucinações de IA
• Vieses

Vamos dar uma breve olhada nas preocupações com os vieses da IA.

Aqui está minha extensa lista de caminhos de polarização que precisam ser totalmente explorados para toda e qualquer implementação de IA generativa (discutida de perto em o link aqui):

• Vieses nos dados de origem da Internet que foram usados ​​para treinamento de dados da IA ​​generativa
• Vieses nos algoritmos de IA generativos usados ​​para correspondência de padrões nos dados de origem
• Vieses no design geral de IA da IA ​​generativa e sua infraestrutura
• Vieses dos desenvolvedores de IA implícita ou explicitamente na formação da IA ​​generativa
• Vieses dos testadores de IA implícita ou explicitamente no teste da IA ​​generativa
• Vieses do RLHF (aprendizado por reforço por feedback humano) implícita ou explicitamente pelos revisores humanos designados que transmitem orientação de treinamento à IA generativa
• Vieses da facilitação de campo de IA para o uso operacional da IA ​​generativa
• Vieses em qualquer configuração ou instruções padrão estabelecidas para a IA generativa em seu uso diário
• Vieses propositalmente ou inadvertidamente incluídos nos prompts inseridos pelo usuário da IA ​​generativa
• Vieses de uma condição sistêmica versus uma aparência ad hoc como parte da geração de saída probabilística aleatória pela IA generativa
• Vieses que surgem como resultado de ajustes em tempo real ou em tempo real ou treinamento de dados que ocorre enquanto a IA generativa está em uso ativo
• Vieses introduzidos ou expandidos durante a manutenção de IA ou manutenção do aplicativo generativo de IA e sua codificação de correspondência de padrão
• Outros

Como você pode ver, existem muitas maneiras pelas quais preconceitos indevidos podem se insinuar no desenvolvimento e no uso da IA. Este não é um tipo de preocupação única. Eu comparo isso a uma situação maluca. Você precisa ser diligente e sempre tentando descobrir e eliminar ou mitigar os vieses de IA em seus aplicativos de IA.

Considere esses pontos judiciosos feitos no blog da FTC de 19 de abril de 2021 (todos esses pontos ainda se aplicam, independentemente de serem antiquíssimo em termos de cronogramas de avanço da IA):

• “Comece com a base certa”
• “Cuidado com resultados discriminatórios”
• “Adote a transparência e a independência”
• “Não exagere o que seu algoritmo pode fazer ou se pode fornecer resultados justos ou imparciais”
• “Diga a verdade sobre como você usa os dados”
• “Faça mais bem do que mal”
• “Responsabilize-se – ou esteja pronto para que a FTC faça isso por você”

Um dos meus favoritos dos pontos acima é o quarto listado, que se refere à afirmação ou mito frequentemente usado de que, devido à incorporação de IA, um determinado aplicativo deve ser imparcial.

Veja como isso acontece.

Todos nós sabemos que os humanos são preconceituosos. De alguma forma, caímos na armadilha mental de que as máquinas e a IA podem ser imparciais. Assim, se estivermos em uma situação em que podemos escolher entre usar um humano ou IA ao buscar alguma forma de serviço, podemos ser tentados a usar a IA. A esperança é que a IA não seja tendenciosa.

Essa esperança ou suposição pode ser reforçada se o fabricante ou defensor da IA ​​proclamar que sua IA é indubitável e indiscutivelmente imparcial. Essa é a cereja reconfortante do bolo. Já estamos prontos para ser conduzidos por esse caminho de prímula. A publicidade fecha o negócio.

O problema é que não há nenhuma garantia específica de que a IA seja imparcial. O fabricante de IA ou defensor de IA pode estar mentindo sobre os vieses de IA. Se isso parece excessivamente nefasto, vamos considerar que o fabricante de IA ou o defensor de IA podem não saber se sua IA tem vieses ou não, mas eles decidem de qualquer maneira fazer tal afirmação. Para eles, esta parece ser uma afirmação razoável e esperada.

O blog da FTC indicou este exemplo revelador: “Por exemplo, digamos que um desenvolvedor de IA diga aos clientes que seu produto fornecerá 'decisões de contratação 100% imparciais', mas o algoritmo foi construído com dados que careciam de diversidade racial ou de gênero. O resultado pode ser fraude, discriminação e uma ação de aplicação da lei da FTC” (ibid).

As ações que você precisa tomar sobre suas manobras de publicidade de IA

Às vezes, as empresas se metem em problemas potenciais porque uma mão não sabe o que a outra está fazendo.

Em muitas empresas, quando um aplicativo de IA está pronto para ser lançado, a equipe de marketing recebe poucas informações sobre o que o aplicativo de IA faz. A linha clássica é que os detalhes da IA ​​estão apenas acima de suas cabeças e eles não são especialistas em tecnologia o suficiente para entendê-los. Nessa lacuna, surge o potencial para publicidade de IA bizarra. Os profissionais de marketing fazem o que podem, com base em quaisquer petiscos ou petiscos que são compartilhados com eles.

Não estou dizendo que o lado do marketing foi enganado. Só que muitas vezes há uma lacuna entre o lado de desenvolvimento de IA da casa e o lado de marketing. Claro, há ocasiões em que a equipe de marketing é essencialmente enganada. Os desenvolvedores de IA podem se gabar de proclamadas capacidades de IA super-humanas, para as quais os profissionais de marketing presumivelmente não têm uma maneira significativa de refutar ou expressar cautela. Podemos considerar outras permutações calamitosas. Pode ser que os desenvolvedores de IA tenham sido francos sobre as limitações da IA, mas o lado do marketing optou por adicionar um pouco de energia exagerando o que a IA pode fazer. Você sabe como é, aqueles técnicos de IA simplesmente não entendem o que é preciso para vender alguma coisa.

Alguém tem que ser um árbitro e garantir que os dois departamentos um tanto díspares tenham um encontro adequado de mentes. A publicidade concebida precisará ser baseada em fundamentos que os desenvolvedores de IA devem ser capazes de fornecer evidências ou provas. Além disso, se os desenvolvedores de IA estiverem imbuídos de pensamentos positivos e já bebendo o AI Kool-Aid, isso precisa ser identificado para que a equipe de marketing não seja surpreendida por noções excessivamente otimistas e infundadas.

Em algumas empresas, o papel de um Diretor de IA foi lançada como uma possível conexão para garantir que a equipe executiva nos níveis mais altos esteja considerando como a IA pode ser usada dentro da empresa e como parte dos produtos e serviços da empresa. Esperançosamente, essa função também serviria para reunir o lado da IA ​​da casa e o lado do marketing da casa, esfregando os cotovelos com o chefe de marketing ou Diretor de Marketing (CMO). Veja minha discussão sobre esse papel emergente, em o link aqui.

Outro papel muito importante precisa ser incluído nessas questões.

O lado legal da casa é igualmente crucial. Um Diretor Jurídico (CLO) ou conselheiro principal ou advogado externo deve estar envolvido nas facetas da IA ​​durante todo o desenvolvimento, campo e marketing da IA. Infelizmente, a equipe jurídica costuma ser a última a saber sobre esses esforços de IA. Uma empresa que recebe um aviso legal como resultado de uma ação judicial ou investigação de agência federal perceberá repentinamente que talvez o pessoal jurídico deva estar envolvido em suas implantações de IA.

Uma abordagem mais inteligente é incluir a equipe jurídica antes que o cavalo saia do estábulo. Muito antes de o cavalo sair do celeiro. Muito, muito antes. Para minha cobertura sobre IA e práticas legais, consulte o link aqui e o link aqui, por exemplo.

Uma postagem online recente intitulada “Risks Of Overselling Your AI: The FTC Is Watching” pelo escritório de advocacia Debevoise & Plimpton (um escritório de advocacia internacional reconhecido globalmente, com sede na cidade de Nova York), escrito por Avi Gesser, Erez Liebermann, Jim Pastore, Anna R. Gressel, Melissa Muse, Paul D. Rubin, Christopher S. Ford, Mengyi Xu e com data de publicação de 6 de março de 2023, fornece uma indicação notavelmente perspicaz das ações que as empresas devem realizar sobre seus esforços de IA.

Aqui estão alguns trechos selecionados da postagem no blog (a postagem completa está em o link aqui):

• "1. Definição de IA. Considere a criação de uma definição interna do que pode ser adequadamente caracterizado como IA, para evitar alegações de que a empresa está alegando falsamente que um produto ou serviço utiliza inteligência artificial, quando apenas usa um algoritmo ou um modelo simples sem IA.”
• "2. Estoque. Considere criar um inventário de declarações públicas sobre os produtos e serviços de IA da empresa.”
• "3. Educação: Eduque suas equipes de conformidade de marketing sobre a orientação da FTC e sobre os problemas com a definição de IA.”
• "4. revisão: Considere ter um processo para revisar todas as declarações públicas atuais e propostas sobre os produtos e serviços de IA da empresa para garantir que sejam precisos, possam ser substanciados e não exagerem ou prometam demais.”
• "5. Reivindicações do fornecedor: Para sistemas de IA fornecidos à empresa por um fornecedor, tome cuidado para não repetir as alegações do fornecedor sobre o sistema de IA sem garantir sua precisão.”
• "6. Avaliações de Risco: Para aplicativos de IA de alto risco, as empresas devem considerar a realização de avaliações de impacto para determinar os riscos previsíveis e a melhor forma de mitigar esses riscos e, em seguida, considerar a divulgação desses riscos em declarações externas sobre os aplicativos de IA.”

Tendo sido um alto executivo e CIO/CTO global, sei o quanto a equipe jurídica é importante para o desenvolvimento e implantação de sistemas de IA internos e externos, inclusive ao licenciar ou adquirir pacotes de software de terceiros. Especialmente com os esforços de IA. A equipe jurídica precisa ser incorporada ou, pelo menos, considerada uma aliada próxima e cativante da equipe de tecnologia. Existe uma infinidade de minas terrestres legais relacionadas a toda e qualquer tecnologia e notadamente para a IA que uma empresa decide construir ou adotar.

A IA está hoje no topo da lista de potenciais minas terrestres legais.

A união dos técnicos de IA com os gurus do marketing e com os advogados legais é a melhor chance que você tem de fazer as coisas direito. Reúna todos os três, continuamente e não tardiamente ou apenas uma vez, para que eles possam descobrir uma estratégia e implantação de marketing e publicidade que obtenha os benefícios da implementação da IA. O objetivo é minimizar o espectro do braço longo da lei e processos judiciais caros e danosos à reputação, ao mesmo tempo em que maximiza a aclamação adequadamente justa e equilibrada que a IA fornece substancialmente.

O princípio Goldilocks se aplica à IA. Você quer anunciar que a IA pode fazer grandes coisas, assumindo que pode e faz, comprovadamente apoiada por evidências e provas bem elaboradas. Você não quer se esquivar inadvertidamente de qualquer coisa que a IA agregue como valor. Isso prejudica as propriedades do aditivo AI. E, no outro extremo, você certamente não quer fazer anúncios bobos e arrogantes que saem dos trilhos e fazer reivindicações que são nefastas e abertas a complicações legais.

A sopa tem que estar na temperatura certa. Conseguir isso requer chefs habilidosos e experientes em IA da equipe de tecnologia, equipe de marketing e equipe jurídica.

Em uma postagem recente do escritório de advocacia Arnold & Porter (um conhecido escritório de advocacia multinacional com sede em Washington, DC), Isaac E. Chao e Peter J. Schildkraut escreveram um artigo intitulado “FTC adverte: tudo o que você precisa saber sobre IA que você aprendeu no jardim de infância” (publicado em 7 de março de 2023, disponível em o link aqui) e fez esta ênfase crucial de cautela sobre as responsabilidades legais associadas ao uso de IA:

• “Em poucas palavras, não se deixe levar pela magia da IA ​​a ponto de esquecer o básico. A publicidade enganosa expõe uma empresa à responsabilidade de acordo com as leis federais e estaduais de proteção ao consumidor, muitas das quais permitem direitos privados de ação, além da fiscalização do governo. Clientes enganados - especialmente os B2B - também podem buscar indenização sob várias teorias contratuais e de responsabilidade civil. E as empresas públicas precisam se preocupar com a SEC ou com as afirmações dos acionistas de que as reivindicações sem suporte eram materiais”.

Perceba que, mesmo que sua IA não seja voltada para os consumidores, você não está totalmente isento de possíveis exposições legais. Os clientes que são empresas também podem decidir que suas afirmações de IA os enganaram falsamente ou talvez de forma fraudulenta. Todos os tipos de perigo legal podem surgir.

Conclusão

Muitas pessoas estão esperando para ver qual desastre relacionado à publicidade da IA ​​surge do frenesi existente e crescente da IA. Alguns acreditam que precisamos de um exemplar do calibre da Volkswagen ou um arquétipo da estatura da L'Oréal para fazer com que todos percebam que os casos de alegações escandalosamente infundadas sobre IA não serão tolerados.

Até que uma confusão legal grande o suficiente em relação a uma publicidade de IA fora dos limites receba atenção generalizada nas mídias sociais e nas notícias do dia a dia, a preocupação é que a bonança da IA ​​persista. O marketing da IA ​​continuará subindo a escada da estranheza. Mais e mais alto isso vai. Cada próxima IA terá que superar as anteriores.

Meu conselho é que você provavelmente não quer ser o arquétipo e cair nos livros de história por ter sido pego com a mão no pote de biscoitos de enfeite de IA. Não é uma boa aparência. Dispendioso. Possivelmente poderia arruinar o negócio e as carreiras associadas.

Você será pego?

Eu insisto que, se você estiver atento ao que faz, ser pego não será uma preocupação de pesadelo, pois você terá feito a devida diligência e poderá dormir em paz com a cabeça aninhada no travesseiro.

Para aqueles de vocês que não estão dispostos a seguir esse conselho, deixarei a última palavra para esta leve observação de advertência no blog da FTC de 27 de fevereiro de 2023: “O que quer que ela possa ou não fazer, a IA é importante, e também as afirmações que você faz sobre isso. Você não precisa de uma máquina para prever o que a FTC pode fazer quando essas reivindicações não forem suportadas.”

Bem, suponho que alguém possa usar a IA para ajudá-lo a evitar a publicidade ilegal de IA, mas essa é uma narrativa para outro dia. Lembre-se de ser atencioso e verdadeiro sobre sua IA. Isso e garantir que você tenha os melhores beagles jurídicos, fornecendo estridentemente sua devota sabedoria jurídica sobre esses assuntos.