Preocupações enraivecidas de que o ChatGPT de IA generativo estimula os alunos a trapacear bastante ao escrever redações, gerando atenção fascinante para a ética e a lei da IA

O ensaio escrito por estudantes modernos nunca mais?

O trabalho final do aluno cheio de angústia está saindo febrilmente pela janela?

Esse é o burburinho que explodiu em um alvoroço total recentemente. Veja bem, a aparência de um aplicativo de IA conhecido como ChatGPT chamou muita atenção e também gerou muita raiva. Para minha cobertura abrangente do ChatGPT, consulte o link aqui. Para minha cobertura contínua e extensa de Ética e Lei de IA, consulte o link aqui e o link aqui, Apenas para nomear alguns.

A essência dos gritos e berros é que esse tipo de IA, normalmente referido como IA generativa, será a sentença de morte para pedir aos alunos que façam trabalhos de redação.

Por quê então?

Porque a mais recente IA generativa é capaz de produzir ensaios aparentemente fluentes com a mera entrada de um simples prompt. Se você inserir uma linha como “Fale-me sobre Abraham Lincoln”, a IA gerará um ensaio sobre a vida e os tempos de Lincoln que muitas vezes é bom o suficiente para ser confundido por ter sido escrito inteiramente e exclusivamente por mãos humanas. Além disso, e aqui está o verdadeiro problema, o ensaio não será uma cópia duplicada ou perceptível de algo já escrito sobre o mesmo tópico. A produção do ensaio será essencialmente um “original”, tanto quanto qualquer inspeção casual verificaria.

Um aluno confrontado com uma tarefa de redação pode simplesmente invocar um desses aplicativos generativos de IA, inserir um prompt e pronto, todo o ensaio foi escrito para eles. Eles só precisam recortar e colar o texto gerado automaticamente em um documento vazio, colocar discretamente seu nome e informações de classe nele e, com uma bravata um tanto ousada, seguir em frente e transformá-lo em seu próprio trabalho.

As chances de um professor descobrir que a redação foi escrita pela IA e não pelo aluno são quase nulas.

Escandaloso!

As manchetes têm proclamado apressadamente que chegamos ao amargo fim de fazer com que os alunos escrevam redações ou façam essencialmente qualquer tipo de tarefa de redação fora da sala de aula. O único meio de lidar com a situação parece ser o uso da redação em sala de aula. Quando os alunos estão em um ambiente controlado, como uma sala de aula, e assumem que não têm acesso a laptops ou smartphones, eles se verão confinados a escrever redações à moda antiga.

Para esclarecer, à moda antiga significa que eles terão que escrever apenas por meio do uso de suas próprias noggins.

Qualquer tipo de ensaio feito fora da sala de aula será imediatamente suspeito. O aluno escreveu a redação ou um aplicativo de IA o fez? Como mencionado, o ensaio será tão bem escrito que você não poderá detectar prontamente que foi escrito por uma máquina. A ortografia será impecável. A sintaxe será tremenda. A linha de discurso e os possíveis argumentos orientados serão convincentes.

Caramba, por assim dizer, você poderia sugerir que a IA generativa dará uma dica proverbial ao fazer uma redação que está além das capacidades do aluno que opta por seguir esse caminho nefasto. Um professor pode ficar desconfiado simplesmente porque a redação é um pouco boa demais. Um professor experiente seria tentado a adivinhar que o aluno não poderia ter escrito uma prosa tão elegante e hermética. Os alarmes internos começam a tocar.

Claro, desafiar um aluno sobre sua redação será feio e pode ter consequências adversas.

Suponha que o aluno tenha escrito cuidadosamente a redação, sozinho. Eles podem ter verificado duas ou três vezes. Há uma chance também de que talvez eles tenham um amigo ou conhecido dando uma olhada para identificar qualquer coisa que precise de polimento extra. Em suma, ainda é o ensaio escrito por eles. Imagine um professor fazendo perguntas pontuais a esse aluno sério e estudioso sobre a redação. O constrangimento e o desgosto por ser essencialmente acusado de trapacear são palpáveis, mesmo que o professor não faça tal afirmação em voz alta. O mero confronto em si é suficiente para minar a estima do aluno e fazê-lo sentir-se falsamente caluniado.

Alguns insistem que qualquer professor que suspeite da autoria de uma redação deve pedir ao aluno que explique o que escreveu. Presumivelmente, se a redação foi escrita pelo aluno, o aluno em particular pode explicá-la adequadamente. Os professores têm feito esse tipo de investigação por eras. Um aluno pode ter encurralado outro aluno a escrever sua redação para eles. O aluno pode ter pedido a um pai para escrever sua redação. No mundo de hoje, o aluno pode pagar alguém na Internet para escrever secretamente sua redação em seu nome.

Assim, pedir a um aluno para verificar a autoria por meio de um inquérito em sala de aula é comum e não é grande coisa.

Estou feliz que você trouxe isso à tona.

Tentar interrogar um aluno de forma branda ou demonstrável não é um teste decisivo tão simples quanto você pode pensar. O aluno poderia ter estudado atentamente o ensaio produzido pela IA e se preparado para um possível interrogatório.

Pense desta maneira. O aluno primeiro gera o ensaio com apenas um toque de um botão. O aluno então gasta muito tempo que teria dedicado a escrever a redação, em vez de examiná-la e estudá-la meticulosamente. Depois de um tempo, as palavras estão quase totalmente gravadas na memória. O aluno quase se ilude acreditando que realmente escreveu a redação. Essa aparência de confiança e consciência poderia facilmente levá-los ao escrutínio conduzido pelo professor.

Aha, alguns dizem, contrapondo um pouco aos medos dos aplicativos de IA generativos, observe que o aluno de fato “aprendeu” algo ao gerar a redação. Claro, o aluno não fez o trabalho de campo para pesquisar o tópico e nem redigiu a redação, mas mesmo assim, se estudou cuidadosamente a redação, parece mostrar que eles aprenderam sobre o tópico designado. O aluno que se compromete a decorar a redação sobre Lincoln presumivelmente aprendeu algo importante sobre Lincoln.

A aprendizagem aconteceu.

Uau, a resposta continua, a atribuição provavelmente foi um processo duplo. Aprender sobre Lincoln pode ter sido relativamente secundário. O verdadeiro propósito era fazer com que o aluno aprendesse a escrever. Esta parte essencial da tarefa foi completamente prejudicada. Os professores geralmente atribuem tópicos abertos e, na verdade, visam apenas fazer com que o aluno experimente a escrita. Você precisa definir o que deseja escrever, descobrir as palavras que usará, colocar as palavras em um conjunto sensato de frases e parágrafos e assim por diante. A simples leitura de um ensaio produzido por IA não é compatível com o aspecto fundamental de uma tarefa de redação.

O contra-ataque a isso é a afirmação de que o aluno está potencialmente aprendendo sobre a escrita examinando de perto a escrita produzida pela IA. Todos nós não estudamos os grandes mestres da escrita para ver como eles escrevem? Nossa escrita é uma tentativa de alcançar nomes como Shakespeare e outros grandes escritores. Estudar a palavra escrita é um meio válido de aprender a escrever.

Como uma partida de tênis feroz, a bola se move para o outro lado da rede. Embora estudar boa redação seja bom, você deve escrever se quiser ser capaz de escrever. Você não pode simplesmente ler indefinidamente e, em seguida, presumir que o aluno agora sabe escrever. Eles têm que escrever, escrever e continuar escrevendo até que sejam capazes de mostrar e melhorar de forma tangível suas capacidades de escrita.

Você vê como tudo isso é um grande enigma?

Esteja ciente de que há cerca de um zilhão ou mais reviravoltas em tudo isso.

Abordarei algumas das reviravoltas mais engenhosas e interessantes.

Ajustando o ensaio por meio de prompts de IA

Tendo acabado de mencionar Shakespeare, aqui está um aspecto da IA ​​generativa que pode ser surpreendente para você. Em muitos dos aplicativos generativos de IA, você pode dizer algo como: “Escreva um ensaio sobre Lincoln como se Shakespeare tivesse escrito o ensaio”. A IA tentará gerar um ensaio que pareça ter sido escrito na linguagem habitualmente usada por Shakespeare em seus escritos. É uma façanha divertida e envolvente de se ver e muitos se divertem bastante com isso.

Como isso se relaciona com o aluno que está “colando” usando IA generativa para escrever suas redações?

Em muitos aplicativos de IA generativos, você pode dizer à IA para escrever de uma maneira menos do que estelar. A IA procurará produzir um ensaio que seja um tanto áspero nas bordas. Existem problemas de sintaxe aqui ou ali. A lógica do ensaio pode ser instável ou ligeiramente desconexa.

Isso seria um ardil inteligente. O aluno pega a redação resultante e a entrega. A redação é boa o suficiente para obter uma nota máxima, mas, por outro lado, não é tão perfeita que desperte a ira do professor. Mais uma vez, a IA fez todo o trabalho braçal para o aluno, inclusive tornando a redação um tanto imperfeita.

Além disso, a maioria dos aplicativos generativos de IA permite que você use o aplicativo o quanto quiser. Veja como isso vem para jogar. Um aluno digita que o aplicativo de IA é para fazer uma redação um tanto imperfeita sobre Lincoln. A redação é produzida. O aluno olha para a redação e percebe que ainda está excessivamente perfeita. O aluno entra em outro prompt que instrui a IA a tornar as imperfeições mais pronunciadas.

Ensaboe, enxágue e repita.

O aluno continua inserindo prompts e inspecionando as redações produzidas. Repetidas vezes isso ocorre. Eventualmente, o aluno coloca a IA no nível certo de imperfeição no ensaio. A versão goldilocks foi alcançada. É perfeito o suficiente para obter uma nota alta e imperfeito o suficiente para não levantar suspeitas.

Tenho certeza de que alguns de vocês estão dizendo com esperteza que, se o aluno tivesse apenas optado por escrever a maldita redação em primeiro lugar, talvez tivesse gasto menos tempo ou pelo menos a mesma quantidade de tempo escrevendo a própria redação. Todo esse uso de consumo de energia do aplicativo AI poderia ter sido direcionado para simplesmente continuar a escrever o ensaio.

Bem, lembre-se, o aluno não tem isso em mente. A facilidade de inserir prompts e revisar iterativamente e selecionar a redação desejada certamente será muito mais fácil para o aluno. Uma hora fazendo isso é muito menos árduo do que escrever o ensaio diretamente. Smarminess neste caso tem que ser pesado contra a realidade.

O que acontece se outros alunos fizerem o mesmo

Aposto que você teve esse pensamento inteligente em mente ao ler a análise anterior sobre ensaios e aplicativos generativos de IA, ou seja, que o aluno sem dúvida será pego se muitos outros alunos estiverem fazendo o mesmo.

Permitam-me explicar.

Um professor designa toda a classe para escrever um ensaio sobre Lincoln. Suponha que 90% dos alunos decidam usar um aplicativo de IA generativo para esta tarefa. Se 90% parecer muito deprimente, vá em frente e use 10%. Lembre-se de que, à medida que os alunos ficam sabendo da utilidade dos aplicativos generativos de IA, a tentação de usá-los aumenta rapidamente.

Ok, então uma porcentagem notável da classe usa um aplicativo de IA generativo. Você presumiria que, portanto, todos os alunos vão entregar aproximadamente o mesmo ensaio de Lincoln. O professor perceberá, quando avaliar a terceira ou quarta redação, que as redações são todas praticamente iguais. Esta será uma grande pista de que algo está errado.

Desculpe, mas é improvável que você tenha essa sorte.

A maioria dos aplicativos de IA generativos são altamente sensíveis a como um prompt é composto especificamente. Se eu escrever “Fale-me sobre Lincoln” versus se eu escrever “Fale-me sobre a vida de Lincoln”, as chances são de que os ensaios sejam substancialmente diferentes. Em primeira instância, talvez o ensaio produzido pela IA se concentre no presidente Lincoln durante sua gestão na Casa Branca e omita qualquer coisa sobre sua infância. O outro prompt pode produzir um ensaio cobrindo seu nascimento até sua morte.

Os alunos provavelmente não vão inserir exatamente o que o professor lhes deu como sugestão para a redação. Parece sensato, como trapaceiro, tentar variações. Mas mesmo que todos os alunos insiram exatamente o mesmo prompt, as chances são muito boas de que cada redação seja um pouco diferente das outras.

Esses aplicativos de IA fazem uso de uma vasta rede matemática e computacional criada internamente que basicamente possui um padrão amplamente compatível com o texto encontrado na Internet. Incluído no processo de geração de um ensaio é um fator probabilístico. É improvável que as palavras escolhidas estejam na mesma ordem e com as mesmas palavras exatas. Cada ensaio gerado geralmente será diferente.

Há um porém nisso. Se o tema escolhido for bastante obscuro, existe a possibilidade de algumas das redações produzidas se assemelharem. Isso seria parcialmente porque o padrão na raiz do texto era fino para começar. Dito isso, a forma como o ensaio é composto ainda pode ser bem diferente. Tudo o que estou dizendo é que a essência do conteúdo em si pode ser mais ou menos a mesma.

Não querendo parecer taciturno, mas você poderia fazer a mesma afirmação sobre um tópico comum como a vida de Lincoln. De quantas maneiras diferentes você pode elaborar os aspectos gerais da vida dele? Se você de alguma forma prendesse os alunos em uma sala de aula trancada para escrever sobre Lincoln e desse a eles acesso on-line para pesquisar sua vida, ouso dizer que as chances de os ensaios serem um pouco semelhantes poderiam acontecer de qualquer maneira.

O fator gratuito e fácil é substancial

Se um aluno hoje em dia quiser trapacear pagando alguém pela Internet para escrever sua redação, é muito simples fazê-lo (espero que isso não o choque, talvez eu devesse ter avisado antes).

O problema, porém, é que você precisa pagar pelo ensaio. Além disso, há uma pequena chance de que você possa, mais tarde, ser pego, talvez. Você usou cartão de crédito para pagar a redação? Talvez seja melhor usar alguma forma de processamento de pagamento clandestino para tentar manter seus rastros limpos.

A beleza ou talvez o fator exasperante da IA ​​generativa é que agora a maioria deles está disponível gratuitamente. Nenhum pagamento é necessário. Nenhum histórico específico de seu uso (bem, para ser claro, o aplicativo AI pode estar acompanhando seu uso, especialmente porque muitos dos aplicativos AI exigem que você se inscreva com um endereço de e-mail, mas é claro, você pode fingir isso também ).

Algumas pessoas assumem naturalmente que você precisa ser um assistente de IA para usar um aplicativo de IA generativo.

Não é assim.

Em geral, os aplicativos de IA generativos são surpreendentemente simples de usar. Você invoca o aplicativo AI. Ele apresenta uma caixa de texto aberta para você inserir seu prompt. Você insere um prompt e clica em enviar. O aplicativo AI gera o texto.

É sobre isso.

Não são necessárias linguagens de computador especializadas. Nenhum conhecimento de bancos de dados ou ciência de dados. Garanto a você que praticamente qualquer criança na escola pode usar prontamente um aplicativo de IA generativo. Se uma criança sabe digitar, ela pode usar esses aplicativos.

Alguns argumentam que as empresas que fornecem os aplicativos generativos de IA devem primeiro verificar a idade do usuário, presumivelmente para impedir que não-adultos usem a IA para fins de trapaça ao escrever redações. Se o usuário indicar que não é adulto, não o deixe usar o aplicativo de IA. Francamente, esse é um cenário de prevenção improvável, a menos que de alguma forma leis relacionadas à IA tenham sido promulgadas para tentar estabelecer esses tipos de restrições. Mesmo que essas leis sejam aprovadas, você provavelmente pode contornar isso usando um aplicativo de IA generativo hospedado em outro país, etc.

Outro ângulo proibitivo seria se os aplicativos generativos de IA custassem dinheiro para usar. Suponha que houvesse uma taxa por transação ou uma taxa de assinatura. Isso colocaria o aplicativo de IA geradora em pé de igualdade com os humanos na Internet que escreverão um ensaio para você cobrando por isso. O trabalho enfrentaria a IA (como um aparte, tudo isso sugere que os humanos que ganham a vida escrevendo redações para os alunos serão substituídos pela IA que faz o mesmo; a questão é se devemos ficar tristes ou satisfeitos que aqueles humanos que ganham a vida não serão mais capazes de fazê-lo dessa maneira).

As empresas que fazem aplicativos de IA generativos certamente desejam ganhar dinheiro com esses aplicativos, embora como fazer isso ainda esteja no ar. Cobrar uma taxa de transação, taxa de assinatura ou talvez cobrar por palavra gerada estão todos na mesa. Em vez de cobrar das pessoas, a monetização pode ser feita por meio do uso de anúncios. Talvez, toda vez que você usar um aplicativo específico de IA generativa, primeiro precise ver um anúncio. Isso pode ser um fabricante de dinheiro.

Eu odeio derramar leite nisso, mas como meio de superar a trapaça dos alunos, não vai ser nenhum tipo de bala de prata. Nem mesmo perto.

Existem versões de código aberto da IA ​​generativa. As pessoas divulgam isso e outras pessoas tendem a disponibilizar o aplicativo gratuitamente. De uma forma ou de outra, mesmo que algumas empresas cobrem uma taxa, você poderá encontrar variantes de uso gratuito, embora possa ser necessário ver anúncios ou talvez se inscrever e fornecer algumas informações sobre você para fins de marketing.

O Multi-Step ajuda nisso

Um aluno opta por usar um aplicativo de IA generativo para produzir sua redação.

Em vez de entregar imediatamente a redação, o aluno decide editá-la. Eles judiciosamente retiram algumas palavras aqui. Coloque algumas palavras lá. Mova uma frase para cima. Mova uma frase mais para baixo. Depois de um pouco de edição e refinamento, eles agora têm um ensaio que estão prontos para entregar.

Este ensaio é o trabalho do aluno ou não?

Eu trouxe você para a grande questão sem resposta e sem resposta de um milhão de dólares.

Vamos fazer um breve histórico sobre direitos legais e violação. Este é um tópico que já abordei bastante, como o link aqui e o link aqui, por exemplo.

Você provavelmente já sabe algo sobre direitos autorais e o que é conhecido como Propriedade Intelectual (PI). Alguém que tem uma história protegida por direitos autorais deve reter vários direitos legais associados a essa história. Eles não têm uma aparência de direitos legais completamente rígida e abrangente. Há exclusões e exceções.

Uma das questões mais difíceis sobre infringir o material protegido por direitos autorais de alguém é a proximidade do que você pode ter em comparação com a fonte original. Talvez você tenha lido ou visto notícias sobre cantores famosos e suas letras, em que alguém escreveu uma música com letras aparentemente semelhantes e se isso era legalmente adequado ou não.

Eu mencionei anteriormente que, geralmente, o aplicativo de IA generativo não produz um ensaio que seja uma cópia carbono de outros materiais nos quais foi treinado anteriormente por meio do exame de conteúdo na Internet. As chances são de que o material seja generalizado e todo difuso, de modo que não se pareça mais com o que quer que seja o conteúdo original.

Teremos que esperar para ver como o processo legal lida com isso. Se um aplicativo de IA generativo produz uma obra de arte que é visualmente obviamente semelhante a alguma obra de arte de origem, provavelmente nos inclinaríamos a acusar a IA e os criadores da IA ​​de terem violado os direitos autorais associados ao trabalho original. Podemos ver com nossos próprios olhos.

Quando se trata de ensaios, isso pode ser mais complicado. As instâncias óbvias são quando sentenças inteiras e parágrafos são idênticos palavra por palavra. Todos nós podemos ver isso. Mas quando o texto difere com um mínimo de diferenças, entramos em áreas cinzentas.

A que distância do material de origem original o material recém-criado deve estar para declarar que é um original de boa-fé por seus próprios méritos?

Essa é uma pergunta importante.

Vamos vincular isso ao aluno que usa o aplicativo de IA generativa para sua redação.

Imagine por um momento que uma redação específica gerada pelo aplicativo de IA será interpretada como uma redação “original”. Estou dizendo para supor que não viole de forma aparente qualquer outro ensaio ou narrativa de texto preexistente em qualquer lugar do mundo.

O aluno então está começando com uma fonte original do material. Conforme já indicado, o aluno edita e refina esse material. As coisas chegam a um ponto em que o original produzido pelo aplicativo AI agora difere da versão refinada que o aluno criou.

Isso é trapaça?

Talvez sim, talvez não.

Você pode argumentar que sim. O aluno começou com a IA escrevendo sua redação para eles. Tudo o que o aluno fez foi brincar mecanicamente com a redação. Esperamos que o aluno escreva a redação do nada e use seu próprio nogging para fazê-lo. É claramente trapaça usar o aplicativo AI para gerar sua linha de base. Atribua uma nota “F” ao aluno.

Não tão rápido. Você pode argumentar que não é trapaça. O aluno reformulou o material de origem. Se uma comparação entre o ensaio produzido pelo aplicativo de IA e a versão refinada pelo aluno for uma diferença grande o suficiente, diríamos que o aluno escreveu o ensaio. Reconhecidamente, eles usaram outro material para fazer isso, mas você não pode dizer o mesmo se eles usaram uma enciclopédia ou alguma outra fonte? Este aluno merece uma nota “A” por ter composto um ensaio por meio de sua própria inteligência (apesar de ter referenciado outros materiais para fazê-lo).

Os professores serão pegos no meio dessa questão já irritante.

Uma abordagem é que um professor pode declarar categoricamente que os alunos devem listar todos os materiais referenciados, incluindo se um aplicativo de IA generativo foi usado ou não. Se um aluno falhar em listar diretamente a IA generativa como referência e se o professor descobrir que ele falhou em listá-la, o aluno recebe sumariamente uma nota “F” na tarefa. Ou talvez algumas escolas considerem isso um ato de trapaça que faz com que o aluno seja reprovado automaticamente. Ou talvez expulso. Teremos que ver até onde as escolas vão nessas questões.

Em geral, estamos caminhando para um mundo confuso de Propriedade Intelectual e propriedade legal de trabalhos como ensaios (texto), arte (imagens) e vídeo, incluindo:

• Alguns buscarão reparação legal dos fabricantes de IA generativa quanto às fontes de conteúdo que foram usadas pela IA para gerar a saída produzida.
• Alguns pegarão a saída da IA ​​generativa e considerarão o resultado como seu próprio trabalho e, em seguida, tentarão buscar reparação legal de qualquer pessoa que viole seu trabalho “original”.
• Isso pode circular, de modo que alguém produza saída de IA generativa, que é postada na Internet, e então alguma outra IA generativa aparece e usa isso em seu treinamento para produzir trabalhos semelhantes.

Transformando um negativo em um positivo

Toda essa conversa sobre a maldade da IA ​​generativa quando se trata de trapaça dos alunos talvez esteja nublando nossas mentes, alguns exortam.

Leve isso em uma direção diferente.

Voce esta sentado

Talvez os professores devam considerar propositalmente que os alunos usem IA generativa como parte do processo de aprendizado sobre como escrever redações.

Eu já escrevi sobre o chamado usos duplos de IA, consulte o link aqui. A noção é que às vezes um sistema de IA pode ser usado para o mal e às vezes pode ser trocado e usado para o bem. O aspecto preocupante é quando alguém escreve IA para o bem e não tem consciência de quão facilmente sua IA pode ser transformada no espectro da maldade. Parte de AI ética é a percepção de que a IA deve ser planejada para que não possa ser transformada em uma maldição da noite para o dia. Esta é uma preocupação constante.

De volta à IA generativa para produzir ensaios.

Anteriormente, levantei o conceito de que um aluno pode ser capaz de aprender sobre a escrita olhando para trabalhos escritos que já existem. Isso faz muito sentido. Basicamente, quanto mais você lê, as chances são de que você está expandindo sua aparência mental para ser capaz de escrever. Como dito anteriormente, você ainda precisa escrever, já que toda a leitura do mundo não vai necessariamente fazer de você um bom escritor se você não praticar o ato de escrever.

Poderíamos usar IA generativa para promover esse acoplamento de leitura e escrita. Faça com que um aluno use IA generativa intencionalmente. A IA produz um ensaio. O aluno recebe a tarefa de criticar o ensaio produzido pela IA. Em seguida, o aluno é designado para escrever uma nova redação, talvez sobre um tópico diferente, mas pode usar a estrutura e outros elementos gerais da redação anterior gerada por IA.

Isso pode ser ainda mais produtivo, alguns sugerem, para os alunos do que simplesmente ler livros ou outros textos de escritores com os quais o aluno não tem acesso para “interagir”. Com o aplicativo AI, o aluno pode tentar refazer e produzir o ensaio inicial usando uma infinidade de prompts, um após o outro. O aluno pode dizer à IA para escrever um ensaio básico sobre Lincoln. Em seguida, o aluno pede um longo ensaio sobre Lincoln, escrito em tom informal. Depois de examinar isso, o aluno indica ao aplicativo de IA para produzir uma versão altamente formalizada do ensaio de Lincoln. etc.

A afirmação feita é que isso poderia ajudar materialmente um aluno a aprender sobre a escrita e como a escrita pode ocorrer.

Um trabalho de pesquisa recente propõe exatamente este ponto: “Os autores deste artigo acreditam que a IA pode ser usada para superar três barreiras ao aprendizado em sala de aula: melhorar a transferência, quebrar a ilusão de profundidade explicativa e treinar os alunos para avaliar criticamente as explicações” ( em um artigo intitulado “Novos modos de aprendizado habilitados por chatbots de IA: três métodos e atribuições”, Dr. Ethan Mollick e Dr. Lilach Mollick, Escola Wharton da Universidade da Pensilvânia e Wharton Interactive, 12 de dezembro de 2022)

Por exemplo, eles apontam que melhorar a transferência de aprendizagem pode acontecer desta forma: “A IA é uma maneira barata de fornecer aos alunos muitos exemplos, alguns dos quais podem ser imprecisos, ou precisam de mais explicações, ou podem simplesmente ser inventados. Para alunos com conhecimento básico de um tópico, você pode usar IA para ajudá-los a testar sua compreensão e pressioná-los explicitamente a nomear e explicar imprecisões, lacunas e aspectos ausentes de um tópico. A IA pode fornecer uma série interminável de exemplos de conceitos e aplicações desses conceitos e você pode incentivar os alunos a: comparar exemplos em diferentes contextos, explicar o núcleo de um conceito e apontar inconsistências e informações ausentes na forma como a IA aplica conceitos a novas situações” (ibidem).

É semelhante ao velho refrão, se você não pode vencê-los, junte-se a eles.

Transforme a IA generativa em uma ferramenta educacional.

Caramba, vem a resposta rápida.

Você está colocando a raposa no galinheiro. Alunos que não tinham ideia do que é IA generativa agora verão isso, abertamente, pelas ações abertas de um professor e de suas escolas. Se os alunos não tinham noção das oportunidades de trapacear, você está colocando isso diretamente em seus rostos e mãos.

Parece totalmente repulsivo que aqueles em posição de autoridade apresentem aos alunos um meio de trapacear. Portanto, você colocará para sempre o mais honesto dos alunos no reino das tentações de trapaça. Todos terão acesso à máquina de trapaça. Eles são instruídos a fazê-lo. Não há necessidade de escondê-lo. Não há necessidade de fingir que você não está usando IA generativa. A escola e o professor fizeram você usar.

A réplica a isso é que você tem que ter a cabeça na areia cega e ignorantemente para pensar que os alunos não vão se familiarizar com a IA generativa. Enquanto você está tolamente fingindo que eles não sabem disso, eles estão correndo para fora da escola para usá-lo. Sua melhor escolha é apresentar a coisa a eles, discutir o que pode e não pode ser usado e trazer uma luz brilhante para todo o enigma.

É muito doozy.

Para aqueles de vocês que estão fazendo pesquisas sobre inovações educacionais de tecnologia, você pode querer dar uma olhada na IA generativa e como ela pode mudar a natureza das abordagens educacionais e impactar a aprendizagem dos alunos. Está chegando em breve.

Usando a detecção para nos resgatar da ruína

Troque de chapéu e vamos considerar a arte digital por um momento.

Se você criar uma peça de arte digital, talvez queira marcá-la de alguma maneira para poder, posteriormente, discernir se alguém optou por usar ou reutilizar sua arte. Uma maneira simples de fazer isso consiste em alterar alguns dos pixels ou pontos em sua arte digital. Se você fizer alguns aqui ou ali, a aparência da obra de arte ainda parecerá a mesma aos olhos dos humanos. Eles não notarão aqueles pixels que são minúsculos e foram definidos para alguma cor especial que só pode ser vista após uma inspeção minuciosa por meio de ferramentas digitais.

Você pode conhecer essas técnicas como sendo uma forma de marca d'água. Assim como antigamente houve tentativas de colocar marcas d'água em materiais baseados em papel e outros conteúdos não digitalizados, vimos gradualmente o surgimento de marcas d'água digitais.

Uma marca d'água digital pode estar oculta na imagem de uma arte digital. Se isso pode parecer intrusivo para a imagem, você pode tentar incorporar a marca d'água no arquivo que contém a arte digital (os chamados “metadados” da obra digital).

Existe um jogo de gato e rato que pode surgir.

Algum malfeitor aparece e descobre sua marca d'água digital. Eles o removem. Agora, eles podem aparentemente usar livremente sua arte digital sem se preocupar que você possa, mais tarde, mexer nela e mostrar que claramente é uma cópia de seus esforços. Esses canalhas!

Precisamos aumentar a marca d'água digital, o que podemos fazer por meio do uso de técnicas e tecnologias criptográficas. Pense em mensagens secretas e codificação.

A ideia é codificar a marca d'água digital para que seja difícil de encontrar. Também é potencialmente difícil de remover. Poderíamos até tentar garantir que o software que exibirá ou permitirá o uso da arte digital primeiro verifique e veja se existe uma marca d'água digital codificada válida no trabalho, caso contrário, será considerada uma cópia imprópria. Peguei você em flagrante.

Podemos fazer o mesmo para IA generativa que produz texto?

Uma manopla foi lançada. O problema, porém, pode ser mais difícil até certo ponto do que quando se considera marcas d'água digitais para obras de arte.

Aqui está o porquê.

Suponha que o único lugar onde você pode colocar a marca d'água seja diretamente no próprio texto. Digo isso porque o texto gerado não necessariamente vai para um arquivo. O texto é apenas texto. Você pode recortá-lo e colá-lo na ferramenta generativa de IA. Nesse sentido, geralmente não há metadados ou arquivo no qual a marca d'água possa ser incorporada.

Você tem que se concentrar apenas no texto. Texto puro.

Um caminho seria fazer com que a IA generativa produzisse o texto de uma maneira que pudesse ser rastreada. Como um exemplo grosseiro, mas impraticável, imagine que decidimos começar cada terceira frase com a palavra “E” no início da frase. Ainda geraríamos uma redação aparentemente totalmente fluente. O único truque é que cada terceira frase começa com nossa palavra mágica escolhida. Ninguém mais sabe o que estamos fazendo.

Um aluno usa IA generativa para produzir a redação designada sobre Lincoln. O aluno o pega diretamente do aplicativo AI e o envia por e-mail ao professor. Acontece que o aluno esperou até o último momento e foi contra o prazo publicado. Não há tempo para revisar o ensaio. Basta enviá-lo e esperar pelo melhor.

A professora olha para a redação. Suponha que tenhamos dito a ela que nossa marca d'água consiste na palavra mágica usada no início de cada terceira frase. O professor detecta que este é o caso neste ensaio submetido. Embora haja talvez uma chance incrivelmente pequena de que o aluno tenha escrito a redação e talvez goste de usar essa palavra específica no início de cada terceira frase, acho que podemos concordar razoavelmente que isso é altamente improvável e, em vez disso, o aluno provavelmente usou a IA generativa para produzir a redação.

Você vê como isso funciona?

Eu confio que você faz.

O problema agora é como criar uma marca d'água que não seja tão óbvia. Um aluno pode perceber que as frases parecem estranhamente usar uma palavra específica. Eles podem adivinhar o que está acontecendo. Por sua vez, o aluno pode mover as frases e fazer algumas reformulações. Isso praticamente afunda essa marca d'água em particular, já que o ensaio não é mais facilmente identificado como sendo escrito pela IA generativa.

O jogo de gato e rato está mais uma vez avançando.

Precisamos produzir um texto fluente que de alguma forma contenha uma “marca d'água” de uma maneira que não possa ser facilmente discernida. Além disso, se possível, a marca d'água deve persistir mesmo que o ensaio seja ligeiramente revisado. Uma revisão completa provavelmente não permitirá que a marca d'água sobreviva. Mas queremos alguma redundância e resiliência para que a marca d'água seja preferencialmente detectável, mesmo que sejam feitas algumas alterações na área de texto.

Um pesquisador que está fazendo algum trabalho para a empresa que faz o ChatGPT (o aplicativo AI da OpenAI) está explorando alguns esforços criptográficos interessantes junto com essas considerações de marcas d'água. Scott Aaronson é professor de Ciência da Computação na Universidade do Texas em Austin e recentemente deu uma palestra sobre alguns dos trabalhos que estão sendo realizados (uma transcrição foi publicada em seu blog).

Considere este trecho em que ele explica brevemente a abordagem existente: “Como funciona? Para o GPT, cada entrada e saída é uma sequência de tokens, que podem ser palavras, mas também sinais de pontuação, partes de palavras ou mais – existem cerca de 100,000 tokens no total. Em sua essência, o GPT está constantemente gerando uma distribuição de probabilidade sobre o próximo token a ser gerado, condicional à sequência de tokens anteriores. Depois que a rede neural gera a distribuição, o servidor OpenAI, na verdade, amostra um token de acordo com essa distribuição — ou alguma versão modificada da distribuição, dependendo de um parâmetro chamado 'temperatura'. Enquanto a temperatura for diferente de zero, porém, geralmente haverá alguma aleatoriedade na escolha do próximo token: você pode executar repetidamente o mesmo prompt e obter uma conclusão diferente (ou seja, sequência de tokens de saída) a cada vez .”

Conforme observado, há uma quantidade designada de aleatoriedade quanto a quais palavras serão colocadas a seguir no ensaio que está sendo derivado pelo aplicativo ChatGPT. Isso também explica o ponto anterior de que cada ensaio provavelmente será um pouco diferente, mesmo que seja sobre o mesmo tópico. Um uso proposital de uma abordagem de seleção aleatória que está dentro de limites específicos está sendo executado sob o capô durante a geração do ensaio.

Chegamos agora à parte suculenta, a mistura criptográfica: “Então para marca d'água, em vez de selecionar o próximo token aleatoriamente, a ideia será selecioná-lo pseudo-aleatoriamente, usando uma função pseudo-aleatória criptográfica, cuja chave é conhecida apenas pelo OpenAI . Isso não fará nenhuma diferença detectável para o usuário final, supondo que o usuário final não consiga distinguir os números pseudoaleatórios dos verdadeiramente aleatórios. Mas agora você pode escolher uma função pseudo-aleatória que viesa secretamente uma certa pontuação - uma soma sobre uma certa função g avaliada em cada n-gram (sequência de n tokens consecutivos), para algum n pequeno - pontuação que você também pode calcular se souber a chave para esta função pseudoaleatória.”

Eu percebo que isso pode parecer um tanto tecnologicamente congestionado.

A essência é que a redação produzida parecerá fluente e você não conseguirá discernir prontamente ao ler a redação que ela contém uma marca d'água digital. Para descobrir se um determinado ensaio contém uma marca d'água, você precisa alimentar o ensaio em um detector especialmente concebido. O programa que faz a detecção calcularia um valor com base no texto e poderia compará-lo com uma chave armazenada. Na abordagem que está sendo descrita, as chaves seriam mantidas pelo fornecedor e não estariam disponíveis de outra forma, portanto, supondo que as chaves sejam mantidas em segredo, apenas o programa de detecção ungido poderia calcular se o ensaio provavelmente foi derivado do ChatGPT neste caso.

Ele continua reconhecendo que isso não é infalível: “Agora, tudo isso pode ser derrotado com bastante esforço. Por exemplo, se você usou outra IA para parafrasear a saída do GPT - tudo bem, não seremos capazes de detectar isso. Por outro lado, se você apenas inserir ou excluir algumas palavras aqui e ali, ou reorganizar a ordem de algumas frases, o sinal de marca d'água ainda estará lá. Como depende apenas de uma soma em n-gramas, é robusto contra esse tipo de intervenção”.

Um professor pode ter acesso a um programa detector que verificaria as redações dos alunos. Suponha que o assunto seja relativamente fácil, pois o professor faz com que os alunos enviem suas redações por e-mail ao professor e ao detector automatizado. O aplicativo detector informa ao professor sobre a probabilidade de a redação ser elaborada pelo ChatGPT nesse caso.

Agora, se o detector estiver disponível abertamente para qualquer pessoa, você teria alunos trapaceiros "superiores" que simplesmente executariam seus ensaios no detector e fariam uma série de alterações até que o detector indicasse uma baixa probabilidade de que o ensaio fosse derivado do generativo IA. Mais do gato e do rato. Presumivelmente, o detector deve ser mantido fortemente protegido pelo uso de senha, ou alguns outros meios ou métodos de lidar com abordagens criptográficas são necessários (há uma variedade de métodos baseados em chave e sem foco que podem ser utilizados).

Um professor pode se deparar com a possibilidade de dezenas ou centenas de aplicativos de IA generativos disponíveis para uso na Internet. Nesse caso, tentar fazer com que todos usem alguma marca d'água digital e ter que inserir um ensaio em todos eles, bem, fica mais sedutor e logisticamente complicado.

Chega de redações fora da sala de aula

Uma perspectiva pessimista é que talvez os professores tenham que abandonar o uso da redação externa. Todos os ensaios devem ser escritos apenas dentro do ambiente controlado de uma sala de aula.

Isso tem muitos e muitos problemas.

Suponha que um aluno normalmente precise de dez horas para escrever um determinado ensaio completo que seja um projeto de classe. Como isso seria feito dentro de uma sala de aula? Você vai dividi-lo e fazer com que o aluno escreva uma pequena parte da redação durante uma série de dias? Pense nas dificuldades que isso apresenta.

Alguns afirmam que talvez o assunto esteja sendo exagerado.

Os professores devem fazer como sempre fizeram com relação ao plágio dos alunos. De antemão, o professor declara que o plágio é uma séria preocupação de trapaça. Enfatize que o uso de IA generativa, de qualquer forma, será considerado uma ação de trapaça.

Faça penalidades que tenham um peso significativo, como uma nota baixa, uma reprovação ou expulsão de uma escola se chegar tão longe. Exigir que os alunos atestem por escrito para cada tarefa de redação externa que o que eles entregaram é seu trabalho (feito sem ajuda, como IA generativa, cópia da Internet, usando colegas, usando um dos pais, pagando para fazê-lo e em breve). Além disso, exija que os alunos listem quaisquer ferramentas on-line usadas na preparação do trabalho, incluindo especificamente a observação de qualquer uso de IA generativa.

O professor pode ou não usar um aplicativo detector para tentar discernir se o ensaio enviado é provável por um aplicativo de IA generativo. Esta é uma etapa potencialmente onerosa, dependendo da facilidade de uso e acesso dos detectores.

Presumivelmente, os professores já deveriam estar tomando medidas para descobrir se redações escritas externas parecem legítimas. Ao fazer redação em sala de aula, há uma chance de comparar e contrastar, percebendo, porém, que o tempo para escrever em sala de aula é menor e também pode ser prejudicado pela restrição de não permitir o acesso a materiais de referência online.

A essência é que não devemos seguir o caminho de descartar abruptamente o uso de redação externa. Alguns lamentariam isso como um ato precipitado e que lembra jogar fora o bebê com a água do banho (um velho ditado, talvez valha a pena se aposentar).

Se a escrita externa for totalmente descontinuada como uma atividade de aprendizado, provavelmente haverá desvantagens graves e prolongadas em remover essa atividade educacional aparentemente cotidiana do currículo. Há uma compensação envolvida. Quantos alunos irão trapacear, apesar de todos os freios e contrapesos mencionados acima? Quantos alunos não vão trapacear e, portanto, continuarão a usar uma abordagem educacional benéfica para aprimorar suas proezas na escrita?

Em teoria, esperançosamente, a porcentagem de trapaceiros será pequena o suficiente para que a escrita externa ainda seja meritória para a preponderância dos alunos.

Conclusão

A IA pode ser uma grande dor de cabeça.

Para os professores, a IA pode ser uma bênção e uma maldição. De qualquer forma, isso significa que os professores precisam saber sobre IA, além de como lidar com as reviravoltas da IA ​​associadas às suas atividades de ensino, o que é mais um peso adicional em suas costas e ombros já sobrecarregados. Grite para os professores em todos os lugares.

Talvez possamos desejar que a IA desapareça.

Nope.

Veja bem, não vamos voltar no tempo e eliminar a IA generativa. Quem clama por isso é um sonhador. E, como um aparte, estou usando a palavra “E” como a primeira palavra da terceira frase deste parágrafo (ops, entregando a chave!), a IA generativa veio para ficar.

Aqui está um prompter para iniciar suas discussões acaloradas: A IA generativa se tornará mais difundida e terá recursos ainda mais surpreendentes e enervantes.

Queda do microfone.

Pensamento final por enquanto.

Shakespeare escreveu a famosa frase “Ser ou não ser: eis a questão”.

Garanto a você que a IA generativa será. Já é.

Temos que descobrir como queremos que a IA generativa entre em nossas vidas e como a sociedade optará por moldar e orientar esse uso. Se você já precisou de um motivo para pensar sobre a Ética da IA ​​e a Lei da IA, talvez a IA generativa o leve a procurar saber o que somos, mesmo que não saibamos o que podemos ser (referência oculta de Shakespeare).