Cada vez com mais frequência, nossas vidas são influenciadas por decisões automatizadas que utilizam nossos dados pessoais em diferentes contextos. No entanto, pouco ou nada se sabe sobre como essas decisões são tomadas e como funcionam essas “caixas pretas”.
Por esse motivo, gostaria de trazer para este texto algumas reflexões de forma breve: O que são decisões automatizadas? Quais os riscos e como essas decisões afetam nossos direitos enquanto indivíduos e cidadãos? Quais são nossos direitos neste contexto?
Decisões automatizadas são aquelas tomadas por meios tecnológicos como sistemas de Inteligência Artificial, que utilizam algoritmos baseados em dados para alcançar determinados resultados, o que pode ocorrer com nenhum ou algum nível de intervenção humana.
Muito embora estes sistemas algorítmicos e técnicas cada vez mais complexas indiscutivelmente aumentam a eficiência, eficácia e velocidade de certos processos, por outro lado, pode trazer problemas relacionados à falta de transparência sobre como esses sistemas funcionam. Exemplos do uso desses sistemas estão em toda parte: concessão do Auxílio Emergencial no Brasil durante a pandemia de Covid-19, sugestão de rotas em aplicativos de trânsito ou mapas, recomendação de conteúdos em plataformas de streaming, desbloqueio de telefones por biometria facial, seleção de candidatos para vagas de emprego, concessão de crédito, moderação de conteúdo, entre outros.
Tendo em vista que essas decisões podem ter um impacto significativo na vida das pessoas, torna-se uma pauta importante entender alguns mecanismos de proteção sobre os possíveis problemas desses sistemas, já que podem afetar direitos fundamentais, restringir oportunidades, além de possibilitar práticas ilegais discriminatórias e abusivas, especialmente contra grupos vulneráveis e minorias sociais.
A Lei Geral de Proteção de Dados (LGPD), em seu artigo 20, criou duas salvaguardas importantes para proteger os interesses e direitos fundamentais das pessoas dentro deste contexto, os direitos de (i) revisão e (ii) explicação de decisões automatizadas.
O direito à revisão de decisões automatizadas assegura ao titular dos dados o direito de solicitar a revisão de decisões baseadas unicamente em tratamento automatizado de dados pessoais que afetem seus interesses. Isso inclui decisões que definem perfis pessoais, profissionais, de consumo, crédito ou aspectos da personalidade.
Para exercer o direito à revisão, é necessário que um interesse do titular tenha sido afetado, embora a LGPD não defina claramente o que constitui um interesse afetado. O tratamento de dados para fins de profiling é um exemplo claro de algo que afeta os interesses do titular. Além disso, o direito à revisão está limitado a processos totalmente automatizados. No entanto, a LGPD não esclarece o que caracteriza um processo totalmente automatizado. Por exemplo, se um empréstimo é concedido sem intervenção humana, é considerado automatizado, mas se um gerente humano intervém, a situação se torna menos clara. Questões também surgem sobre a revisão de decisões mistas, onde há participação humana, embora limitada.
A maior controvérsia está na questão da revisão por pessoa natural, inicialmente prevista na LGPD mas suprimida pela Lei nº 13.853/2019. A doutrina sugere que, mesmo sem a menção explícita de intervenção humana no art. 20, a revisão por pessoa natural ainda é necessária em alguma fase do processo de revisão, conforme uma interpretação sistemática da LGPD.
Já o direito à explicação, que pode ser extraído do princípio da transparência (art. 6º, VI, LGPD), garante aos titulares informações claras e precisas sobre o tratamento de seus dados e os agentes envolvidos, observando segredos comerciais e industriais. O art. 20, §1º, da LGPD, obriga os controladores a fornecerem informações claras sobre os critérios e procedimentos utilizados para decisões automatizadas, e o §2º permite que a autoridade nacional realize auditorias para verificar aspectos discriminatórios quando as informações não forem fornecidas devido a segredo de negócio.
Importante destacar que, assim como o direito à revisão, o direito à explicação também enfrenta limitações, como quando envolve segredos comerciais, complexidade técnica dos sistemas algorítmicos e a capacidade do titular de compreender e utilizar a informação.
Em conclusão, a crescente presença de decisões automatizadas, embora traga benefícios de eficiência e conveniência, levanta questões importantes sobre transparência e direitos individuais. A LGPD, ao garantir os direitos à revisão e explicação de decisões automatizadas, é crucial para que as pessoas possam entender e contestar decisões que afetam suas vidas. No entanto, desafios persistem, como a definição clara de processos automatizados e a eficácia da revisão por pessoa natural. É essencial continuar debatendo e refinando essas questões para que a tecnologia respeite e proteja os direitos fundamentais dos cidadãos.
Advogado. Pós-graduado em Direito Empresarial pela FGV São Paulo. Alumni do Data Privacy. Associado ao International Association of Privacy Professionals (IAPP). Membro da Comissão do Novo Advogado do Instituto dos Advogados de São Paulo (IASP).