Quando algoritmos aprendem desigualdades: lidando com os vieses sociais na Inteligência Artificial
O avanço recente da Inteligência Artificial tem ampliado o uso de algoritmos em processos de tomada de decisão em diversos setores. Entretanto, modelos de aprendizado de máquina podem reproduzir e amplificar desigualdades sociais presentes nos dados de treinamento. Esta palestra aborda os vieses sociais em sistemas de Inteligência Artificial, apresentando exemplos de como padrões discriminatórios podem emergir em tarefas como classificação de imagens, reconhecimento facial e sistemas de recomendação. Serão discutidas estratégias para detecção, interpretação e mitigação de vieses algorítmicos, destacando o papel da modelagem matemática no desenvolvimento de sistemas de IA mais robustos, transparentes e socialmente responsáveis.
Minibiografia:
Possui Doutorado pelo Programa de Pós-Graduação em Ciências da Computação e Matemática Computacional (ICMC/USP), Mestrado em Matemática Aplicada e Computacional e Graduação em Matemática pela UNESP (FCT/Presidente Prudente), além de Graduação em Pedagogia pelo Centro Universitário Internacional UNINTER. Atualmente é docente da Universidade Estadual Paulista (UNESP). É fundadora do Projeto de Extensão GECET – Garotas nas Engenharias, Ciências Exatas e Tecnologias (PROEC-UNESP), do qual foi coordenadora no período de 2020 a 2024, atuando na promoção da participação feminina nas áreas STEM. É representante suplente do segmento “Universidades” no Conselho Municipal dos Direitos da Mulher (CMDM) de São José do Rio Preto (biênio 2025–2027). De 2021 a 2023, foi Coordenadora Geral do Comitê Temático “Mulheres na Matemática Aplicada e Computacional” da Sociedade Brasileira de Matemática Aplicada e Computacional (SBMAC). Entre 2021 e 2022, realizou estágio de pós-doutorado com bolsa CNPq no Instituto de Ciências Matemáticas e de Computação (ICMC/USP), desenvolvendo pesquisas em Ciência de Dados e Modelagem Epidemiológica aplicadas ao enfrentamento da COVID-19 no Estado de São Paulo. Atua nas áreas de Ciência de Dados e Matemática Computacional, com experiência em Análise Numérica, Mecânica Computacional, Aprendizado de Máquina, Processamento Digital de Imagens e Modelagem Aplicada.
