Pesquisa da (UEMA) que investiga as explicações produzidas por sistemas de IA conquista prêmio nacional
Por engcomputacao em 5 de novembro de 2026
As explicações fornecidas por sistemas de inteligência artificial podem mudar ao longo dos anos, mesmo quando os métodos utilizados permanecem os mesmos. Esse é o problema investigado por uma pesquisa da Universidade Estadual do Maranhão (UEMA), premiada como melhor Artigo Científico no KDMiLe 2026, simpósio realizado durante a Conferência Brasileira de Sistemas Inteligentes (BRACIS 2026).
O estudo foi desenvolvido pelo estudante de Engenharia de Computação Pedro Luís Carneiro Jovino e pelo professor Ewaldo Eder Carvalho Santana, ambos do Laboratório de Análise e Processamento de Sinais (LAPS) da (UEMA). Os pesquisadores analisaram 17.733 resumos de artigos científicos publicados entre 2014 e 2024, nas áreas de computação e saúde.
A pesquisa investigou como as palavras utilizadas pelos modelos de IA para justificar suas classificações se modificam com o passar do tempo. Essa mudança pode dificultar a comparação das explicações e o acompanhamento de sistemas que precisam analisar informações durante vários anos.
Nos textos científicos de computação, as explicações associadas aos modelos apresentaram instabilidade média 3,33 vezes maior que aquela observada nas explicações baseadas diretamente nos textos. Na área biomédica, foi identificada uma tendência semelhante, mas sem a mesma significância estatística.
A pesquisa contribui para o desenvolvimento de formas de monitorar a transparência de sistemas de inteligência artificial ao longo do tempo. O trabalho não conclui que os modelos analisados apresentaram falhas, mas demonstra a importância de acompanhar também a estabilidade de suas explicações, e não apenas os resultados que produzem.
