Pesquisa da Uema revela que explicações da inteligência artificial podem mudar com o tempo

Além de identificar o fenômeno, os pesquisadores propuseram um procedimento para medir essas alterações e indicar quando uma revisão pode ser necessária.

·

As explicações utilizadas por sistemas de inteligência artificial para justificar suas decisões podem mudar com o passar dos anos, mesmo quando os métodos empregados permanecem os mesmos. O fenômeno foi investigado por pesquisadores da Universidade Estadual do Maranhão (Uema), em um estudo que analisou 17.733 textos científicos e conquistou o prêmio de Melhor Artigo no KDMiLe 2026, simpósio realizado durante a Conferência Brasileira de Sistemas Inteligentes (BRACIS 2026). Confira o estudo completo clicando aqui.

A pesquisa foi desenvolvida pelo estudante de Engenharia de Computação Pedro Luís Carneiro Jovino e pelo professor Ewaldo Eder Carvalho Santana, do Laboratório de Análise e Processamento de Sinais (LAPS) da Uema. O trabalho investiga o chamado explanation drift, fenômeno em que as palavras consideradas mais importantes para explicar as classificações realizadas por modelos de IA se modificam ao longo do tempo.

Anúncios

Para identificar essas mudanças, os pesquisadores analisaram resumos de artigos científicos publicados entre 2014 e 2024, disponíveis nas bases internacionais arXiv, nas áreas de computação, e PubMed, na área biomédica. O estudo comparou a variação das palavras mais relevantes nos próprios textos com a variação da importância atribuída a elas pelos modelos de inteligência artificial.

Os resultados mostraram que, nos textos de computação, as explicações associadas aos modelos apresentaram instabilidade média 3,33 vezes maior do que aquela observada diretamente nos textos. Na área biomédica, foi identificada uma tendência semelhante, mas sem diferença estatisticamente significativa.

Anúncios

A descoberta chama atenção para um desafio no acompanhamento da inteligência artificial: um sistema pode continuar produzindo classificações, enquanto as explicações utilizadas para interpretá-las se modificam. Isso não significa necessariamente que suas respostas estejam erradas, mas pode dificultar a comparação dos resultados e a identificação de mudanças no comportamento dos modelos.

Além de identificar o fenômeno, os pesquisadores propuseram um procedimento para medir essas alterações e indicar quando uma revisão pode ser necessária. Nos testes, nenhuma mudança ultrapassou o limite estabelecido para gerar alertas automáticos. Premiado como Melhor Artigo Científico (Best Paper), o estudo contribui para o desenvolvimento de métodos de monitoramento de sistemas de IA que analisam informações ao longo do tempo.

Comentários

Deixe um comentário

Descubra mais sobre

Assine agora mesmo para continuar lendo e ter acesso ao arquivo completo.

Continuar lendo