A Inteligência Artificial (IA) pode trazer benefícios indiscutíveis para a sociedade em geral e em qualquer atividade industrial. No entanto, os humanos normalmente têm poucos insights sobre a IA e têm ainda menos conhecimento sobre como os sistemas de IA tomam decisões ou fazem previsões devido ao chamado “ efeito caixa preta ”.
Muitos dos algoritmos de aprendizagem de máquina / aprendizagem profundo são “opacos” e não podem ser examinados após sua execução para entender como e por razão foi tomada determinada decisão. Neste contexto, para aumentar a confiança nos sistemas de IA, o XMANAI visa tornar os humanos (especialmente os especialistas em negócios na área da manufatura) capazes de compreender plenamente como as decisões foram tomadas e o que as influenciou.
Com base nos mais recentes avanços de IA e em descobertas tecnológicas, o projeto XMANAI concentra as suas atividades de pesquisa em IA explicável (XAI), a fim de tornar os modelos de IA, passo a passo compreensíveis e acionáveis em múltiplas camadas (modelo de dados-resultados).
O XMANAI visa projetar, desenvolver e implementar uma nova plataforma de AI explicável alimentada por modelos de AI explicáveis que inspiram confiança, aumentam a cognição humana e resolvem problemas de fabricação concretos com explicações baseadas em valores. Adotando a mentalidade de que “os sistemas de IA devem pensar como humanos, agir como humanos, pensar racionalmente e agir racionalmente”.
