Artigo
25/07/2024
Atualizado em 24/04/2026

Inteligência Artificial e Proteção de Dados: Desafios e Responsabilidades

A governança da inteligência artificial no Brasil depende do alinhamento entre LGPD, PL 2338/2023, ANPD e atuação do Encarregado de Proteção de Dados.

Resumo

Imagem de capa do artigo

A Lei Geral de Proteção de Dados - LGPD, sancionada em 2018, estabelece diretrizes claras para o tratamento de dados pessoais no Brasil. O Projeto de Lei (PL) nº 2338/2023 busca harmonizar a regulamentação da Inteligência Artificial (IA) com a LGPD, garantindo que o uso de IA respeite os direitos dos cidadãos e proteja seus dados pessoais, e a Autoridade Nacional de Proteção de Dados - ANPD desempenha um papel central nesse processo.

A atuação do Encarregado de dados Pessoais é crucial nesse processo, assegurando a conformidade com as normas de proteção de dados e promovendo a transparência e a responsabilidade no uso de IA

A convergência entre o PL 2338/2023 e a LGPD é essencial para evitar conflitos e sobreposições legais. A partir de sua nomeação como Coordenadora Nacional do Sistema de Inteligência Artificial - SIA, a ANPD tem a responsabilidade de garantir que as regulamentações de IA estejam alinhadas com os princípios da LGPD, como transparência, segurança, e respeito aos direitos dos titulares de dados. Isso inclui:

  • Transparência: As organizações devem ser transparentes sobre como utilizam IA e como os dados pessoais são processados.
  • Segurança: Medidas de segurança devem ser implementadas para proteger os dados pessoais contra acessos não autorizados e vazamentos.
  • Direitos dos Titulares: Os titulares de dados têm o direito de acessar, corrigir e excluir seus dados pessoais, e essas prerrogativas devem ser respeitadas no contexto da IA.

A ANPD, como Coordenadora Nacional do Sistema de Inteligência Artificial - SIA, tem várias responsabilidades importantes, como principais:

  • Fiscalização e Conformidade: A ANPD é responsável por fiscalizar o cumprimento das normas de proteção de dados pelas organizações que utilizam IA. Isso inclui a aplicação de sanções em caso de descumprimento.
  • Orientação e Educação: A ANPD deve orientar as organizações sobre as melhores práticas no uso de IA, promovendo a educação e a conscientização sobre a proteção de dados.
  • Cooperação Multissetorial: A ANPD deve promover a cooperação entre órgãos públicos, setor privado e sociedade civil para desenvolver políticas e diretrizes relacionadas à IA.

Uma das inovações trazidas pelo PL 2338/2023 será a obrigatoriedade da Avaliação de Impacto em Proteção de Dados - AIPD antes da implementação de sistemas de IA. A AIPD é um processo que visa identificar e mitigar riscos à privacidade e proteção de dados, tendo o Encarregado de Dados Pessoais - EDP a responsabilidade crucial nesse processo, atuando:

  • Identificação de Riscos: O Encarregado de dados Pessoais deve colaborar com as equipes técnicas para identificar os riscos à privacidade associados ao uso de IA.
  • Mitigação de Riscos: Com base na AIPD, o Encarregado de dados Pessoais deve propor medidas para mitigar esses riscos, garantindo que os direitos dos indivíduos sejam preservados.
  • Documentação e Transparência: O Encarregado de dados Pessoais deve documentar o processo de AIPD e garantir que as informações sejam transparentes e acessíveis aos titulares de dados e à ANPD.

O Papel do DPO na Governança da IA

O Encarregado de Proteção de Dados, é uma figura central na governança da Inteligência Artificial (IA), especialmente no contexto da proteção de dados pessoais. Sua atuação é fundamental para garantir que as organizações estejam em conformidade com as normas de proteção de dados e que os sistemas de IA sejam utilizados de maneira ética e responsável.

O Encarregado de Proteção de Dados é o responsável por garantir que as organizações que utilizam IA estejam em conformidade com as regras de proteção de dados pessoais estabelecidas pela Lei Geral de Proteção de Dados (LGPD) e pelo Projeto de Lei (PL) nº 2338/2023. Isso inclui:

  • Monitoramento Contínuo: O Encarregado de Proteção de Dados deve monitorar continuamente as práticas de tratamento de dados pessoais dentro da organização, assegurando que estejam alinhadas com as normas legais e éticas.
  • Auditorias Internas: Realizar auditorias internas regulares para verificar a conformidade com as políticas de proteção de dados e identificar possíveis áreas de melhoria.
  • Relatórios de Conformidade: Elaborar e apresentar relatórios de conformidade à alta administração e, quando necessário, às autoridades reguladoras.
A ANPD tem o poder de aplicar sanções em caso de violações das regras de proteção de dados e da IA.

Uma das responsabilidades mais críticas do Encarregado de Proteção de Dados é a condução da Avaliação de Impacto em Proteção de Dados (AIPD). Antes de implementar um sistema de IA, as organizações devem realizar AIPDs para avaliar e mitigar riscos à privacidade, e o Encarregado de Proteção de Dados desempenha um papel central nesse processo, como o responsável e especialista no tema.

Outro fator importante é a transparência, um dos princípios fundamentais na proteção de dados pessoais e na governança da IA. O Encarregado de Proteção de Dados deve assegurar que os sistemas de IA sejam transparentes, auditáveis e responsáveis, por meio de ações e controles, tais como:

  • Comunicação Clara: Garantir que as organizações comuniquem de forma clara e acessível sobre o uso de IA, explicando como os dados pessoais são processados e para quais finalidades.
  • Auditoria e Monitoramento: Implementar mecanismos de auditoria e monitoramento contínuo dos sistemas de IA para garantir que operem de acordo com as normas de proteção de dados.
  • Responsabilidade: Assegurar que haja responsabilidade clara dentro da organização para o uso ético e seguro da IA, promovendo uma cultura de proteção de dados.

Um papel fundamental, e minimizador de riscos e vulnerabilidades, e que o Encarregado de Proteção de Dados também desempenha, é o processo de educação e treinamento contínuo dos colaboradores sobre as melhores práticas de proteção de dados e uso ético da IA. Esta atividade deve ser desenvolvida por meio dos programas de treinamento; atualizações contínuas; cultura de proteção de dados; uso da IA, benefícios, riscos e ética; entre outros.

Uma das inovações trazidas pelo PL 2338/2023 será a obrigatoriedade da Avaliação de Impacto em Proteção de Dados - AIPD antes da implementação de sistemas de IA.

Sanções e Fiscalização

A ANPD tem o poder de aplicar sanções em caso de violações das regras de proteção de dados e da IA. As sanções podem variar desde advertências até multas significativas, dependendo da gravidade da infração. A fiscalização contínua é essencial para garantir a conformidade e proteger os direitos dos cidadãos.

A convergência entre o PL 2338/2023 e a LGPD, sob a supervisão da ANPD, é fundamental para garantir que o uso de IA no Brasil seja seguro, ético e respeite os direitos dos cidadãos. A atuação do Encarregado de dados Pessoais é crucial nesse processo, assegurando a conformidade com as normas de proteção de dados e promovendo a transparência e a responsabilidade no uso de IA. A colaboração entre todos os setores da sociedade é essencial para avançarmos com segurança e confiança na era da IA.

Material consultado via Okai.
As opiniões dos autores convidados da nossa comunidade são independentes e não necessariamente representam a opinião da Okai.
Atualizado

Não há sinal de desatualização relevante neste conteúdo.

Perguntas e respostas

Por que IA e proteção de dados precisam ser coordenadas?
Sistemas de IA usam dados pessoais e podem afetar transparência, segurança e direitos dos titulares.
Como o encarregado participa da governança?
Articula áreas, acompanha tratamentos, documenta avaliações e apoia transparência, incidentes e direitos.
Qual papel é atribuído à ANPD?
Coordenar, orientar e fiscalizar a proteção de dados no desenvolvimento e uso de sistemas de IA.
Para que serve a avaliação de impacto?
Identificar riscos à privacidade e definir medidas de mitigação antes da implementação e durante o uso.
Quais princípios devem orientar sistemas de IA?
Transparência, segurança, responsabilidade, respeito aos direitos e tratamento proporcional dos riscos.

Conteúdo gerado com apoio de IA. Não substitui análise profissional.

Autor

OM

Oerton Fernandes, MsC

Professor MIT | Especialista em Segurança da Informação | Perito Forense Digital | Investigador em Cibersegurança | Auditor Líder | Ethical Hacker | DPO | CPO | DPE | Teólogo