Governo australiano lança consulta para avaliar proibição de IA de “alto risco” – Cryptopolitan

O governo australiano iniciou um período de consulta inesperado de oito semanas com o objetivo de determinar se certas ferramentas de inteligência artificial (IA) de “alto risco” devem ser proibidas. Esse movimento segue medidas semelhantes tomadas por outras regiões, incluindo Estados Unidos, União Europeia e China, ao lidar com os riscos associados ao rápido desenvolvimento da IA.

Em 1º de junho, o ministro da Indústria e Ciência, Ed Husic, apresentou dois documentos para revisão pública: um sobre “IA segura e responsável na Austrália” e outro sobre IA generativa do Conselho Nacional de Ciência e Tecnologia. Esses documentos foram divulgados juntamente com um período de consulta que permanecerá aberto até 26 de julho.

O governo australiano busca feedback sobre estratégias para promover o “uso seguro e responsável da IA”, explorando opções como estruturas éticas voluntárias, regulamentações específicas ou uma combinação de ambas as abordagens. Notavelmente, a consulta pergunta diretamente se certos aplicativos ou tecnologias de IA de alto risco devem ser completamente banidos e busca informações sobre os critérios para identificar tais ferramentas.

O documento de discussão abrangente inclui um rascunho de matriz de risco para modelos de IA, categorizando carros autônomos como “alto risco” e ferramentas de IA generativas para criar registros médicos de pacientes como “risco médio”. O documento enfatiza as aplicações positivas da IA ​​em setores como medicina, engenharia e direito, bem como os danos potenciais associados a ferramentas deepfake, geração de notícias falsas e instâncias em que bots de IA encorajam a autoagressão.

Governo australiano contra IA

Preocupações sobre viés em modelos de IA, bem como a geração de informações sem sentido ou falsas conhecidas como “alucinações” por sistemas de IA, também são abordadas no documento de discussão. Ele reconhece que a adoção da IA ​​na Austrália é atualmente limitada devido aos baixos níveis de confiança do público. O documento faz referência aos regulamentos de IA implementados em outras jurisdições e ao banimento temporário do ChatGPT na Itália como exemplos.

Além disso, o relatório do Conselho Nacional de Ciência e Tecnologia destaca as capacidades vantajosas da Austrália em robótica e visão computacional, mas observa fraquezas relativas em áreas centrais, como grandes modelos de linguagem. Isso levanta preocupações sobre a concentração de recursos de IA generativa em um pequeno número de empresas de tecnologia predominantemente sediadas nos EUA, o que representa riscos potenciais para a Austrália.

O relatório explora ainda mais a regulamentação global de IA, fornece exemplos de modelos generativos de IA e sugere que tais modelos provavelmente terão impactos de longo alcance em setores que vão desde bancos e finanças até serviços públicos, educação e indústrias criativas.