NTT e a Universidade de Tóquio desenvolvem a primeira IA de computação óptica do mundo usando um algoritmo inspirado no cérebro humano

A colaboração avança na aplicação prática de IA de baixa potência e alta velocidade baseada em computação óptica

TÓQUIO - (BUSINESS WIRE) -#TechforGood-Corporação NTT (Presidente e CEO: Akira Shimada, “NTT”) e o Universidade de Tóquio (Bunkyo-ku, Tóquio, Presidente: Teruo Fujii) desenvolveram um novo algoritmo de aprendizado inspirado no processamento de informações do cérebro que é adequado para redes neurais artificiais (DNN) de várias camadas usando operações analógicas. Esse avanço levará a uma redução no consumo de energia e no tempo de computação para IA. Os resultados deste desenvolvimento foram publicados na revista científica britânica Natureza das Comunicações Em dezembro 26^th.

Os pesquisadores alcançaram a primeira demonstração mundial de aprendizado de DNN óptico executado com eficiência, aplicando o algoritmo a um DNN que usa computação analógica óptica, que deve permitir dispositivos de aprendizado de máquina de alta velocidade e baixo consumo de energia. Além disso, eles alcançaram o desempenho mais alto do mundo em uma rede neural artificial de várias camadas que usa operações analógicas.

Antigamente, cálculos de aprendizado de alta carga eram realizados por cálculos digitais, mas esse resultado prova que é possível melhorar a eficiência da parte de aprendizado usando cálculos analógicos. Na tecnologia Deep Neural Network (DNN), uma rede neural recorrente chamada computação de reservatório profundo é calculada assumindo um pulso óptico como um neurônio e um anel óptico não linear como uma rede neural com conexões recursivas. Ao reintroduzir o sinal de saída no mesmo circuito óptico, a rede é artificialmente aprofundada.

A tecnologia DNN permite inteligência artificial avançada (IA), como tradução automática, direção autônoma e robótica. Atualmente, a potência e o tempo de computação necessários estão aumentando a uma taxa que excede o crescimento do desempenho dos computadores digitais. Espera-se que a tecnologia DNN, que usa cálculos de sinais analógicos (operações analógicas), seja um método de realizar cálculos de alta eficiência e alta velocidade semelhantes à rede neural do cérebro. A colaboração entre a NTT e a Universidade de Tóquio desenvolveu um novo algoritmo adequado para uma DNN de operação analógica que não pressupõe a compreensão dos parâmetros de aprendizagem incluídos na DNN.

O método proposto aprende alterando os parâmetros de aprendizagem com base na camada final da rede e a transformação aleatória não linear do erro do sinal de saída desejado (sinal de erro). Esse cálculo facilita a implementação de cálculos analógicos em coisas como circuitos ópticos. Ele também pode ser usado não apenas como um modelo para implementação física, mas também como um modelo de ponta usado em aplicações como tradução automática e vários modelos de IA, incluindo o modelo DNN. Espera-se que esta pesquisa contribua para resolver problemas emergentes associados à computação de IA, incluindo consumo de energia e aumento do tempo de cálculo.

Além de examinar a aplicabilidade do método proposto neste artigo para problemas específicos, a NTT também promoverá a integração de hardware óptico em grande e pequena escala, com o objetivo de estabelecer uma plataforma de computação óptica de alta velocidade e baixo consumo de energia para futuros redes.

Apoio a esta pesquisa:

O JST/CREST apoiou parte destes resultados de pesquisa.

Publicação da revista:

Magazine: Natureza das Comunicações (Versão online: 26 de dezembro)

Título do artigo: Aprendizado físico profundo com método de treinamento inspirado biologicamente: abordagem sem gradiente para hardware físico

Autores: Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto e Kohei Nakajima

Explicação da terminologia:

1. Circuito óptico: Um circuito no qual guias de ondas ópticas de silício ou quartzo são integrados a um wafer de silício usando tecnologia de fabricação de circuitos eletrônicos. Na comunicação, a ramificação e a fusão de caminhos de comunicação óptica são realizadas por interferência óptica, multiplexação/demultiplexação de comprimento de onda e similares.
2. Método Backpropagation (BP): O algoritmo de aprendizado mais comumente usado em aprendizado profundo. Gradientes de pesos (parâmetros) na rede são obtidos durante a propagação do sinal de erro para trás, e os pesos são atualizados para que o erro fique menor. Como o processo de retropropagação requer transposição da matriz de peso do modelo de rede e diferenciação não linear, é difícil de implementar em circuitos analógicos, incluindo o cérebro de um organismo vivo.
3. Computação analógica: Um computador que expressa valores reais usando quantidades físicas como a intensidade e a fase da luz e a direção e intensidade dos giros magnéticos e realiza cálculos alterando essas quantidades físicas de acordo com as leis da física.
4. Método de alinhamento de feedback direto (DFA): Um método de pseudo-cálculo do sinal de erro de cada camada, realizando uma transformação aleatória não linear no sinal de erro da camada final. Como não requer informações diferenciais do modelo de rede e pode ser calculado apenas por transformação aleatória paralela, é compatível com o cálculo analógico.
5. Computação de reservatório: Um tipo de rede neural recorrente com conexões recorrentes na camada oculta. Caracteriza-se por fixar conexões aleatoriamente em uma camada intermediária chamada de camada de reservatório. Na computação de reservatório profundo, o processamento de informações é realizado conectando camadas de reservatório em várias camadas.

NTT e o logotipo da NTT são marcas registradas ou marcas comerciais da NIPPON TELEGRAPH AND TELEPHONE CORPORATION e / ou de suas afiliadas. Todos os outros nomes de produtos mencionados são marcas comerciais de seus respectivos proprietários. © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION

Contactos

Stephen Russel

Comunicações por fio®

Para NTT

+1 804 362-7484

[email protegido]