Experimento com agente de inteligência artificial que recomendou o desligamento de um trabalhador traz à tona debates sobre governança, responsabilidade jurídica e os limites da autonomia algorítmica no RH
Um experimento conduzido nos Estados Unidos acendeu o alerta mundial sobre a autonomia da inteligência artificial na gestão de pessoas. A agente de IA “Luna”, desenvolvida pela Andon Labs para gerir uma loja em San Francisco, recomendou a demissão de um funcionário após analisar seu histórico de pontualidade com base em uma política de frequência formulada pelo próprio sistema. Embora a decisão final e a execução tenham permanecido sob controle humano, o episódio expõe os riscos de delegar escolhas estratégicas e disciplinares a algoritmos.
Para Fábio Tiepolo, CEO da StaryaAI, o caso evidencia a necessidade de definir limites claros para os sistemas autônomos. “A IA pode organizar dados, identificar padrões, verificar regras, apontar inconsistências e recomendar caminhos. Mas a decisão final precisa continuar vinculada a uma pessoa ou instância humana responsável”, afirma. O executivo defende que ações de alto impacto — como contratações, demissões e punições — devem ter validação humana (Human in the Loop) e sistemas de contenção (guardrails). “A pergunta correta não é ‘a IA consegue fazer?’, mas ‘qual é o risco se ela fizer errado e conseguimos reverter esse resultado?'”, ressalta Tiepolo.
O enquadramento no Direito Trabalhista e na LGPD
No Brasil, a Consolidação das Leis do Trabalho (CLT) e a Lei Geral de Proteção de Dados (LGPD) impõem barreiras à automação de desligamentos. Conforme explica o advogado trabalhista Rafael Galle, sócio-fundador do GMP G&C Advogados Associados, a IA atua apenas como ferramenta de apoio ao poder diretivo do empregador, sem personalidade jurídica para responder por atos.
“Não existe, no ordenamento jurídico trabalhista brasileiro, a possibilidade de a IA ser responsabilizada por decisões tomadas a partir de suas sugestões. Ela é uma ferramenta, não um sujeito de direitos e obrigações”, alerta Galle. Se o algoritmo produzir uma recomendação eivada de vício ou discriminação, a responsabilidade civil e trabalhista recai integralmente sobre a empresa, podendo gerar anulação da dispensa, indenizações e sanções previstas na LGPD caso faltem transparência e explicação sobre os critérios automatizados.
A ascensão da gestão algorítmica
Além dos desligamentos, o avanço do algorithmic management (gestão algorítmica) já afeta a rotina corporativa por meio do monitoramento de produtividade, concessão de bônus e avaliação de desempenho.
Galle adverte que a falta de governança nesses sistemas pode desencadear uma nova onda de disputas judiciais. “A próxima onda de litígio trabalhista no Brasil tende a estar menos relacionada a ‘fui demitido por uma IA’ e mais a situações em que o trabalhador foi gerido, cobrado e pressionado por um sistema que nunca entendeu e que ninguém na empresa sabia explicar”, conclui.