Este assunto da moda sobre a IA sempre me interessou bastante, em especial uma visão sobre a gestão de riscos. E lendo um trabalho da European Labour Authority alguns pontos me chamaram atenção para o tema, que queria compartilhar com vocês.
Começo dizendo de que a utilização de sistemas de Inteligência Artificial (IA) e algoritmos para a avaliação de riscos já é uma realidade em diversos países, sendo que esses sistemas ajudam muito, mas assim como os humanos, os algoritmos, especialmente aqueles baseados em aprendizado de máquina (ML), estão suscetíveis a vieses que podem tornar suas previsões injustas ou discriminatórias.
Queria falar então sobre alguns destes tipos de vieses envolvidos no desenvolvimento e uso de ferramentas de avaliação de risco, bem como as questões legais e éticas associadas.
A IAGen tem ajudado em muito na automação dos processos com a aplicação destas novas tecnologias para produzir e entregar bens e serviços com mínima intervenção humana, melhorando a eficiência, confiabilidade e/ou velocidade de tarefas anteriormente realizadas por humanos. Aonde temos um algoritmo com um procedimento utilizado para resolver um problema ou realizar uma computação, agindo como uma lista exata de instruções que executam ações especificadas passo a passo.
Mas vamos aos problemas e riscos, com os viés em aprendizado de máquina, que se refere a propriedades indesejadas ou potencialmente prejudiciais de dados ou modelos que resultam em desvios sistemáticos nos resultados algorítmicos. Os vieses podem surgir em diferentes estágios do processo de ML, desde a coleta de dados até a interpretação dos resultados.
- Viés Social: Dados disponíveis refletem vieses existentes na sociedade humana.
- Viés de Medição: Variáveis escolhidas e etiquetas são proxies imperfeitos para as variáveis reais de interesse.
- Viés de Representação: Dados de entrada não são representativos do mundo real, levando a erros sistemáticos nas previsões do modelo.
- Viés de Etiquetagem: Dados rotulados desviam-se sistematicamente da verdade subjacente.
- Viés Algorítmico: Considerações técnicas inadequadas durante a modelagem levam a desvios sistêmicos no resultado.
- Viés de Avaliação: População de teste não representativa ou métricas de desempenho inadequadas são usadas para avaliar o modelo.
- Viés de Implementação: O modelo é usado, interpretado e implantado em um contexto diferente do que foi construído.
- Viés de Feedback: O resultado do modelo influencia os dados de treinamento, reforçando pequenos vieses por meio de um ciclo de feedback.
O documento ainda lista alguns exemplos de como os vieses em IA podem causar danos:
- Plataforma de Busca de Empregos: Termos de busca em gênero podem gerar resultados diferentes, afetando desproporcionalmente grupos específicos.
- Sistema de Profiling de Empregados: Dados como gênero e origem migratória foram usados negativamente, perpetuando discriminação existente.
- Sistema de Detecção de Fraudes: Algoritmo considerava cidadania não-holandesa como fator de risco elevado, resultando em suspensão indevida de benefícios para pais não-holandeses.
O documento ainda lembra de que a legislação europeia estabelece direitos fundamentais à não discriminação e igualdade de tratamento. Entre as principais leis estão:
- Artigo 19 do Tratado sobre o Funcionamento da União Europeia (TFEU): Permite ao Conselho adotar legislação para combater discriminação em relação a seis características (sexo, origem racial ou étnica, religião ou crença, deficiência, idade, orientação sexual).
- Artigo 21 da Carta dos Direitos Fundamentais: Proíbe qualquer discriminação com base em diversas características.
- Diretivas do Conselho: Estabelecem requisitos mínimos em áreas como emprego, bens e serviços, educação, proteção social e saúde.
Aonde a discriminação pode ser direta ou indireta:
- Discriminação Direta: Tratamento menos favorável de uma pessoa em comparação a outra em situação semelhante, com base em uma característica protegida.
- Discriminação Indireta: Uma disposição, critério ou prática aparentemente neutra que coloca grupos protegidos em desvantagem particular, a menos que seja justificada por um objetivo legítimo.
Para abordar e mitigar os vieses em IA, várias metodologias podem ser aplicadas:
- Coleta e Preparação de Dados: Garantir que os dados coletados sejam representativos e livres de preconceitos.
- Modelagem e Avaliação: Utilizar técnicas adequadas para modelagem e avaliação que considerem vieses potenciais.
- Transparência e Responsabilidade: Implementar sistemas transparentes e mecanismos de responsabilização para revisar e ajustar algoritmos conforme necessário.
Além da conformidade legal, existem diretrizes éticas para garantir a IA confiável e não discriminatória, ainda alguns princípios éticos são:
- Beneficência: IA deve promover o bem-estar geral.
- Não-maleficência: Evitar causar danos com IA.
- Autonomia: Respeitar a autonomia dos indivíduos afetados.
- Justiça: Garantir que os benefícios e ônus da IA sejam distribuídos equitativamente.
- Explicabilidade: Garantir que as decisões tomadas por IA sejam compreensíveis.
A implementação de IA e algoritmos na avaliação de riscos oferece inúmeras vantagens, mas também apresenta desafios significativos em termos de vieses, discriminação e conformidade legal e ética, por isto mesmo é fundamental adotar práticas robustas de mitigação de vieses e garantir a transparência e a responsabilidade para construir sistemas de IA que sejam justos e confiáveis.
A compreensão detalhada dos conceitos, legislação aplicável e métodos de mitigação é essencial para profissionais que trabalham com IA na avaliação de riscos, garantindo que essas tecnologias sejam usadas de forma ética e legalmente compatível.
