Linha superior
Ferramentas de recrutamento de emprego que afirmam usar inteligência artificial para evitar preconceitos de gênero e raça podem não melhorar a diversidade na contratação e podem realmente perpetuar esses preconceitos, argumentaram pesquisadores da Universidade de Cambridge no domingo, lançando os programas – que atraíram críticas no passado – como uma forma de usar a tecnologia para oferecer uma solução rápida para um problema mais profundo.
O sistema de reconhecimento facial com inteligência artificial do Google Vision é mostrado.
Getty Images
principais fatos
Em um artigo publicado por Filosofia e tecnologia, os pesquisadores analisaram as reivindicações de várias empresas que oferecem ferramentas de recrutamento baseadas em IA, muitas das quais afirmam eliminar preconceitos e promover a diversidade ocultando nomes, gêneros e outros identificadores de candidatos, e alguns dos quais classificar candidatos com base em varreduras de currículos, avaliações on-line e análise de fala e expressões faciais dos candidatos.
Os pesquisadores – dois professores do Centro de Estudos de Gênero da Universidade de Cambridge – argumentaram que essas ferramentas podem realmente promover a uniformidade na contratação porque reproduzem preconceitos culturais do “candidato ideal”, que historicamente tem sido homens brancos ou europeus.
As ferramentas também podem não melhorar a diversidade porque são baseadas em dados anteriores da empresa e, portanto, podem promover candidatos mais semelhantes aos funcionários atuais.
Há “pouca responsabilidade sobre como esses produtos são construídos ou testados”, disse Eleanor Drage, coautora do estudo e pesquisadora do Centro de Estudos de Gênero da Universidade de Cambridge, em comunicado, acrescentando que a tecnologia pode servir como um “perigoso”. fonte de “desinformação sobre como o recrutamento pode ser 'imparcial' e tornado mais justo”.
Citações cruciais
“Ao afirmar que racismo, sexismo e outras formas de discriminação podem ser eliminadas do processo de contratação usando inteligência artificial, essas empresas reduzem raça e gênero a pontos de dados insignificantes, em vez de sistemas de poder que moldam como nos movemos pelo mundo. ", disse Drage em um comunicado.
Tangente
A Amazon anunciou em 2018 que Pare usando uma ferramenta de recrutamento de IA para revisar os currículos dos candidatos a emprego depois de descobrir que o sistema discriminava fortemente as mulheres. Isso porque os modelos computacionais em que se baseou foram desenvolvidos com base em currículos enviados à empresa nos últimos 10 anos, que em sua maioria vieram de candidatos do sexo masculino.
Contexto Chave
As organizações têm se voltado cada vez mais para a IA para ajudar a gerenciar os processos de recrutamento de empregos. Em um Pesquisa 2020 dos mais de 300 líderes de recursos humanos citados pelos autores do artigo de domingo, a consultoria Gartner descobriu que 86% dos empregadores usam tecnologia virtual em suas práticas de contratação, uma tendência que se acelerou desde que a pandemia de Covid-19 forçou muitos a mudar o trabalho online. Embora algumas empresas tenham argumentado que a IA pode oferecer um processo de contratação mais eficiente em termos de custo e tempo, algumas especialistas encontrado os sistemas tendem a promover – em vez de eliminar – contratações com preconceito racial e de gênero, replicando os preconceitos existentes do mundo real. Vários legisladores norte-americanos Destinado para combater preconceitos em sistemas de inteligência artificial, pois a tecnologia continua a evoluir rapidamente e existem poucas leis para regulá-la. A Casa Branca divulgou esta semana um “Plano para uma Declaração de Direitos da IA”, que argumenta que os algoritmos usados na contratação foram encontrados para “refletir e reproduzir desigualdades indesejadas existentes” ou incorporar novos “preconceitos e discriminação”. O plano – que não é juridicamente vinculativo ou uma política oficial do governo – pede às empresas que garantam que a IA não discrimine ou viole a privacidade dos dados e que conscientize os usuários sobre quando a tecnologia está sendo usada.
O que prestar atenção
Em uma lista de recomendações, os autores do Filosofia e tecnologia O artigo sugeriu que as empresas que desenvolvem tecnologias de IA se concentram em desigualdades mais amplas e sistemáticas, em vez de “instâncias individualizadas de viés”. Por exemplo, eles sugerem que os desenvolvedores de software examinem as categorias usadas para classificar, processar e categorizar os candidatos e como essas categorias podem promover a discriminação com base em certas suposições sobre gênero e raça. Os pesquisadores também afirmam que os profissionais de RH devem tentar entender como as ferramentas de recrutamento de IA funcionam e quais são algumas de suas possíveis limitações.
Fato Surpreendente
A União Europeia classificou o software de contratação com inteligência artificial e as ferramentas de avaliação de desempenho como “alto risco” em seu novo rascunho estrutura legal sobre IA, o que significa que as ferramentas estariam sujeitas a mais escrutínio e precisariam atender a certos requisitos de conformidade.
Leitura
Fonte: https://www.forbes.com/sites/madelinehalpert/2022/10/09/ai-powered-job-recruitment-tools-may-not-improve-hiring-diversity-experts-argue/