Dossiê de Estudo: Compliance em IA

O compliance em IA baseia-se nos princípios emanados pela OCDE e adotados pelo Governo Federal por meio da Estratégia Brasileira de Inteligência Artificial (EBIA). O foco primário do Estado é fomentar a inovação sem perder de vista o controle sobre o impacto social das tecnologias.

As futuras legislações (estruturadas a partir de projetos como o PL 2338/2023) classificam os sistemas de IA com base no Risco. Quanto maior o risco do sistema (ex: reconhecimento facial para segurança pública, análise de crédito, triagem de currículos), maiores e mais rigorosos serão os deveres de compliance, exigindo relatórios de impacto análogos aos RIPDs da LGPD.

O pilar central da regulação atual é a Transparência Inequívoca. É terminantemente proibido induzir o cidadão ou consumidor a acreditar que está interagindo com um ser humano quando, na verdade, está lidando com uma máquina.

Compliance em IA não é apenas criar termos de uso; exige a aplicação de governança na própria arquitetura do código. A empresa deve assegurar dois fatores operacionais:

• Mitigação de Vieses (Bias): Garantir que as bases de dados que treinam ou alimentam os motores cognitivos não reproduzam preconceitos raciais, de gênero ou socioeconômicos.
• Robustez, Segurança e Fallback: O sistema deve ser seguro contra manipulações. A implementação de arquiteturas resilientes, como mecanismos automatizados de fallback para alternar o roteamento entre modelos em caso de instabilidade em APIs ou limites de requisição, é uma exigência técnica de conformidade para garantir a continuidade ininterrupta e confiável do serviço.

A Lei Geral de Proteção de Dados (Art. 20) consagra a espinha dorsal dos direitos dos titulares face aos algoritmos. Quando uma decisão automatizada baseada em perfilamento de dados afeta os interesses de uma pessoa (ex: um motor de IA recusa um financiamento ou bloqueia uma contratação), essa pessoa possui o direito de solicitar a revisão da decisão.