Por que o teste de cenários catastróficos além da fabricação é essencial para a segurança da infraestrutura crítica

A interrupção sem precedentes da FAA que resultou na suspensão de todos os voos domésticos fez com que todos se perguntassem:

Como isso aconteceu?

Quem é responsável?

Como evitar que algo semelhante ocorra novamente?

Essa interrupção nos alertou, destacando que mesmo os sistemas que consideramos os mais seguros, confiáveis ​​e validados podem falhar.

Embora esse tipo de interrupção que atinge o nível de conscientização pública seja raro, quando ocorre em um sistema crítico para a vida, pode levar a uma avalanche de resultados catastróficos que afetam a segurança, a proteção e a economia. Estamos vendo isso agora com a interrupção do transporte e as ramificações da sobrecarga nos serviços da web/aplicativos inundados com milhares de passageiros lutando para chegar aos seus destinos.

Embora a interrupção da FAA de hoje seja considerada uma falha do sistema, foi uma falha de degradação normal. Isso significa que, felizmente, nenhuma morte resultou da falha e o sistema efetivamente foi desligado antes que mais danos fossem causados.

Isso é bom, mas não encorajador.

O teste sempre foi usado na fabricação para detectar defeitos – a simulação de falhas, por exemplo, era um método de “quebrar” artificialmente um dispositivo para ver se os testes de diagnóstico detectariam e isolariam as falhas até suas causas principais. Ao projetar software, os engenheiros são ensinados a projetar de acordo com a especificação do que ele deve fazer funcionalmente. Muito menos esforço foi gasto na procura de cenários catastróficos ou uma “tempestade perfeita” de condições que precisam ocorrer para levar à falha do sistema. Antecipar essas condições pode nos ajudar a construir mecanismos proativamente para detectar e prevenir falhas catastróficas.

Prevenção de interrupções futuras e outras falhas críticas de infraestrutura

Com a proliferação de soluções de computação em nuvem e Inteligência Artificial, agora temos poder computacional eficiente o suficiente para avaliar milhões de cenários operacionais para detectar quais casos podem resultar em cenários catastróficos.

Para a FAA, agora deve ser possível analisar proativamente as condições e dados de todos os aeroportos domésticos, aeronaves no céu e no solo, bem como aquelas programadas para uso futuro, comunicações da torre de controle e infraestruturas relacionadas, passageiros, clima, e segurança para criar cenários que podem resultar em falha do sistema.

Se considerarmos a complexidade das interações e interdependências desse sistema, fica claro que é uma proposta assustadora olhar para todos os pontos de falha.

A Inteligência Artificial pode ajudar a analisar essa enorme quantidade de dados para procurar proativamente padrões e comportamentos que possam representar desafios para os sistemas da FAA.

Isso não é inédito, pois a Inteligência Artificial foi utilizada para examinar melhor os padrões de tráfego para agendamento e logística otimizados.

A tecnologia também pode ser implantada como um poderoso mecanismo de defesa para fornecer detecção precoce de ataques cibernéticos e/ou comportamentos anormais nos sistemas. A chave para a implantação eficaz de tais sistemas será isolar esses valores discrepantes e condições específicas para que possam ser examinados por especialistas humanos.

Há muitas lições a serem aprendidas com a interrupção da FAA e, com o tempo, teremos uma imagem mais clara do que ocorreu. Mas, por enquanto, é evidente que as tecnologias emergentes, como a Inteligência Artificial, que permitem a detecção proativa de falhas do sistema e outros desafios que possam surgir, têm um papel importante a desempenhar na forma como mantemos nossa infraestrutura crítica avançando.