Sérgio Jesus é o grande vencedor da 4ª edição do Prémio "Vencer o Adamastor" que distingue trabalhos inovadores de jovens cientistas nas áreas da electrotecnia, computação e afins.
Sérgio Jesus, doutorado em Ciência de Computadores pela Faculdade de Ciências da Universidade do Porto (FCUP), venceu, com a sua tese “Avaliação Robusta de Equidade e Explicabilidade em Inteligência Artifcial“, a 4ª edição do Prémio “Vencer o Adamastor”. Trata-se de um galardão, no valor de 20 mil euros, que distingue o trabalho de jovens cientistas na área das tecnologias de informação e comunicação. A cerimónia de entrega realiza-se nesta segunda-feira, 6 de julho, pelas 17 horas, no Auditório Ferreira da Silva na FCUP, e contará com a presença do Presidente da República, António José Seguro.
O objetivo deste trabalho é tornar a IA mais justa, pois, apesar de ajudar na rápida tomada de decisão, torna-a precipitada e nem sempre é a mais correta. Atualmente, já há sistemas de inteligência artificial a decidir quem recebe um empréstimo, quem passa numa triagem de emprego, quem é sinalizado como suspeito. Estes sistemas aprendem com os dados que os treinam e aprendem também os enviesamentos desses dados. Depois amplificam-nos, porque cada decisão enviesada pode influenciar decisões futuras e criar injustiças. Um sistema injusto pode ter um custo muito alto para muitas pessoas e para toda a sociedade.
Foi a pensar nisso que Sérgio Jesus, funcionário da Feedzai, empresa da área da ciência de dados que lhe deu acesso a “dados, modelos e recursos” para o seu doutoramento, construiu métodos rigorosos para expor estes enviesamentos.
Sérgio Jesus criou então uma metodologia inspirada em ensaios clínicos e práticas de sistemas de recomendação para testar o efeito da IA e de explicações nas decisões de especialistas. Em vez de usar métricas automáticas e simplificadas, realizou experiências em larga escala com analistas profissionais em detecção de fraude.
“O meu objetivo foi realizar uma avaliação mais robusta dos sistemas de inteligência artificial que são utilizados no mundo real, principalmente nas vertentes de equidade e justeza [fairness, em inglês] e na parte de explicabilidade dos modelos”, destaca.
A investigação agora premiada mostra que, mesmo quando desenhada com as melhores intenções e com supervisão humana, a IA pode tornar-se uma máquina de tirar conclusões precipitadas, amplificando preconceitos e levando a mais erros.
No que diz respeito à justeza, o jovem investigador em vez de tentar eliminar os vieses que existiam nos dados reais, tendo como base a deteção de fraude como base, amplificou-os para perceber o impacto nos modelos. Foi então que percebeu que existiam vieses para haver mais fraude em grupos etários mais idosos.
Desenvolvimento de recursos de elevado interesse para mais justiça na IA
Do trabalho de Sérgio Jesus, resultou a produção e disponibilização em código aberto da maior base de dados até à data para estudo de viés, o Bank Account Fraud (BAF). O BAF é o primeiro conjunto de dados tabular público, realista e em larga escala desenhado para estudo de justiça e robustez de modelos de IA, em diferentes condições de dados enviesados.
A investigação deste doutorado da FCUP concluiu que nem todas as abordagens são adequadas para diferentes tipos de viés nos dados, o que reforça a importância de práticas de avaliação robustas, em cenários onde os modelos podem gerar discriminação.
Foi ainda desenvolvida uma nova versão da biblioteca open-source Aequitas, a versão Aequitas Flow, um framework [estrutura] completo para avaliação sistemática de justiça em modelos de IA, tendo estas contribuições sido incluídas no software Feedzai Fairness Suite e disponibilizadas pela Feedzai mundialmente. Os dois recursos em open-source, BAF e Aequitas, têm uma divulgação e interesse elevados, com mais de 250.000 downloads. A esperança é que possam ser usados por investigadores para tornarem a IA uma máquina a tirar conclusões não precipitadas.
Este trabalho, defendido na FCUP a 12 de setembro de 2025, representa um esforço para ligar a teoria científica com a prática industrial, com o objetivo de equipar a comunidade com os meios necessários para desenvolver e implementar sistemas de IA com base em princípios éticos e responsáveis.
Para Sérgio Jesus, esta distinção é uma “honra” e um reconhecimento daquele que foi um trabalho de equipa. “Faz-me pensar em todas as pessoas que me ajudaram no percurso, principalmente os meus orientadores e colegas de trabalho, que foram essenciais para levarem a tese a bom porto”, sublinha o alumnus da FCUP.
O tema do trabalho surgiu por “grande influência” de Pedro Saleiro, Chief AI Officer da Opnova e de Pedro Bizarro, cofundador da Feedzai, especialistas na área de Responsible AI (como o Center for Responsible AI). “Focámo-nos na avaliação porque queríamos que os standards nesta área avançassem para além de obrigações regulatórias”, conta.
Entre orientadores da tese premiada estão a docente da FCUP, Rita Ribeiro e João Gama, professor na Faculdade de Economia da Universidade do Porto, ambos investigadores no INESC TEC, e Pedro Saleiro.
O prémio Vencer o Adamastor é uma iniciativa do Instituto de Engenharia de Sistemas e Computadores (INESC) em parceria com o jornal PÚBLICO e distingue trabalhos inovadores de jovens cientistas na área das tecnologias de informação e comunicação que revelem não só excelência científica, mas também potencial para desenvolvimento económico.