Paralelamente ao seu progresso, a inteligência artificial (IA) está a avançar cada vez mais, e o risco da chamada “endogamia” em sistemas generativos de IA torna-se um perigo, há muito comum entre as populações humanas e de animais domesticados.
Este artigo lançará alguma luz sobre o conceito de endogamia à luz da IA generativa e como a endogamia pode estar relacionada ao futuro do conteúdo gerado por IA.
Compreendendo a endogamia da IA generativa Os sistemas de IA generativa, como os grandes modelos de linguagem (LLMs), são treinados principalmente em conjuntos de dados abrangentes de conteúdo textual, visual e de áudio disponíveis na web. Inicialmente, o conjunto de dados incluía em grande parte itens feitos por seres humanos, como literatura, artigos e obras de arte. No entanto, com o surgimento de ferramentas generativas de IA, cada vez mais conteúdo na Internet está sendo escrito pela própria IA.
Esta mudança levanta preocupações sobre a qualidade e a diversidade dos conjuntos de dados utilizados para treinar futuros sistemas de IA. Com a evolução do conteúdo gerado por IA, espera-se que muitas gerações futuras de modelos de IA aprendam com conjuntos de dados que não representam conteúdo humano, mas sim material criado por IA.
As consequências da endogamia generativa de IA são multifacetadas.
Pelo contrário, a continuação da aprendizagem pelo sistema de IA a partir de um número cada vez maior de conjuntos de dados homogéneos poderia levar a uma diminuição da criatividade e da originalidade nos resultados gerados pela IA.
Se este processo for repetido – isto é, copiar de uma cópia – sucessivamente ao longo de gerações, a qualidade do resultado é diluída e os resultados correm o risco de serem um trabalho menos envolvente e possivelmente menos reflexivo do que consideramos ser o resultado criativo humano. . Com o crescimento do conteúdo gerado por IA treinado em conjuntos de dados consanguíneos, esses problemas podem ser exacerbados.
Se os conjuntos de dados de formação não forem suficientemente diversificados, os sistemas de IA desenvolvidos servirão apenas para reforçar e ampliar os preconceitos presentes nos conteúdos gerados pela IA, minando ainda mais a utilização fiável dos conteúdos gerados pela IA como fonte de informação. Além disso, a falta de diversidade nos dados de formação pode limitar a possibilidade de desenvolver sistemas de IA que possam compreender e representar corretamente a vasta gama de experiências e perspetivas humanas. Isto pode estar a limitar o progresso nas diferentes áreas de aplicação da IA, como o processamento de linguagem natural, a geração de conteúdos e os sistemas de tomada de decisão.
Enfrentando o desafio da endogamia generativa de IA
Acima de tudo, este é um risco real, especialmente a endogamia de tecnologias generativas de IA. Ainda assim, atribui aos investigadores, aos criadores e até aos decisores políticos o ónus de agirem de forma proativa. preconceitos no conteúdo gerado pela IA e garantir uma colaboração interdisciplinar eficaz, ao mesmo tempo que aborda e garante que as implicações éticas e sociais da construção da IA sejam resolvidas.
Deverão facilitar ainda mais a necessidade de abertura e responsabilização na implantação de sistemas de IA e exigir que a consciência das limitações e preconceitos seja partilhada com os utilizadores de conteúdos gerados por IA. Assim, todas as partes interessadas podem procurar colaborar proativamente no aproveitamento do poder da IA generativa, ao mesmo tempo que mitigam os riscos associados à endogamia no desenvolvimento da IA.
O conceito de endogamia na IA generativa é um grande desafio futuro para o desenvolvimento e implantação de sistemas de IA. Isto irá ajudá-los a garantir que o desenvolvimento responsável e ético da melhoria da tecnologia para a sociedade seja alcançado através da compreensão das implicações e formas de melhorar eficazmente a endogamia generativa da IA.
Fonte: https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/