Falha estrutural de IA impede bloqueio total a ataques de ‘prompt injection’, alertam pesquisas
Estudos de 2026 concluem que filtros e treinamentos são insuficientes para conter comandos maliciosos; especialista defende restrição de acessos e arquitetura de segurança em camadas.

A tentativa de blindar sistemas de inteligência artificial contra o prompt injection — técnica em que comandos maliciosos são inseridos em textos, e-mails ou documentos para manipular as respostas da IA — enfrenta um limite matemático estrutural. Estudos publicados em junho de 2026 por pesquisadores em segurança apontam que, em arquiteturas onde dados externos e instruções de controle percorrem o mesmo fluxo de processamento, é impossível barrar totalmente a manipulação apenas com filtros ou treinamentos do modelo.

A vulnerabilidade ocupa o topo da lista de maiores riscos para aplicações baseadas em Grandes Modelos de Linguagem (LLM) da OWASP (Open Worldwide Application Security Project).

Para Hesron Hori, sócio e diretor de Risk Assessment da Under Protection, o cenário exige uma mudança na estratégia de defesa das corporações:

“Quando se fala em prompt injection, a discussão não pode partir da ideia de que haverá uma ferramenta capaz de bloquear tudo. O ponto mais importante é estruturar o ambiente para que, mesmo se uma instrução maliciosa chegar até a IA, ela não tenha liberdade para acessar informações críticas ou executar ações que não deveria.”

Como o ataque funciona e os riscos da autonomia excessiva
A ameaça explora a incapacidade dos modelos de IA em separar, de forma absoluta, o que é apenas dado de leitura do que é uma instrução de execução. Um arquivo aparentemente inofensivo, como um currículo ou contrato enviado ao sistema, pode conter frases invisíveis projetadas para alterar o comportamento da ferramenta ou vazar informações.

De acordo com o levantamento da OWASP e os alertas da Under Protection, os principais pontos de atenção incluem:

Manipulação Indireta: Comandos ocultos em e-mails, sites ou planilhas consultadas pela IA podem instruir o sistema a ignorar regras de segurança corporativas.

Autonomia Excessiva (Excessive Agency): Quando a IA recebe permissões para alterar bancos de dados ou executar tarefas automatizadas, o ataque pode resultar em vazamentos reais e incidentes operacionais graves.

Proteção em Camadas: Pesquisas recentes mostram que combinar filtros de entrada, segregação de comandos e monitoramento de saída reduz a taxa de sucesso dos ataques de 71,4% para 11,3%, embora não a elimine completamente.

Segundo Hori, as empresas devem adotar o princípio da menor permissão possível, garantindo controle de acesso rigoroso e supervisão humana em ações sensíveis:

“Prompt injection não é um problema que se resolve apenas treinando melhor o modelo. Ele exige decisões de arquitetura, identidade, acesso, monitoramento e governança. A pergunta correta não é se uma tentativa vai conseguir chegar até a IA, mas o que o sistema poderá fazer caso isso aconteça.”Continue lendo

ANPD intensifica fiscalização e pressiona por governança prática e efetiva da LGPD nas empresas
Com novo status de agência reguladora e criação de cargos de fiscalização, autoridade atua sobre falhas no compartilhamento de dados, incidentes de cibersegurança e omissão do Encarregado (DPO).

A fiscalização da Agência Nacional de Proteção de Dados (ANPD) passou por uma guinada no país, ampliando a verificação direta sobre empresas privadas e órgãos públicos. Por meio de processos administrativos, auditorias e investigações de incidentes de segurança, o regulador passou a exigir que as organizações demonstrem, na prática, a efetividade de seus programas de privacidade. O movimento ganha força após a aprovação da Lei 15.352, que transformou a ANPD em autarquia de natureza especial (agência reguladora) e criou 200 cargos efetivos de Especialista em Regulação de Proteção de Dados, focados em inspeção e controle.

A ofensiva fiscalizatória atinge práticas operacionais e estruturas corporativas. Recentemente, a agência avançou na apuração de denúncias contra grandes organizações, como o processo administrativo instaurado contra a Claro por indícios de compartilhamento excessivo de dados e barreiras no atendimento aos titulares, além do monitoramento sobre a Serasa. Outro frente de atuação envolveu o Instituto Saúde e Cidadania, alvo de apuração após um ataque de ransomware que comprometeu aproximadamente 500 mil registros de pacientes, incluindo dados sensíveis de saúde.

Para Hesron Hori, especialista em gestão de riscos corporativos e sócio e diretor de Risk Assessment da Under Protection, a atuação mais rigorosa da agência coloca à prova a eficácia real das estruturas de conformidade montadas no setor corporativo:

“A empresa precisa demonstrar como protege os dados pessoais, quem responde pelos riscos, quais controles estão funcionando e como reage quando ocorre um incidente. A fiscalização aumenta a pressão para que a LGPD deixe de existir apenas no papel. Políticas internas, sozinhas, já não bastam para comprovar que os dados estão protegidos.”

Riscos operacionais, multas e a fusão entre LGPD e Cibersegurança
As sanções previstas pela LGPD em caso de descumprimento confirmado podem alcançar até 2% do faturamento da empresa, limitadas a R$ 50 milhões por infração. No entanto, especialistas destacam que o impacto financeiro direto é apenas uma parte do prejuízo decorrente de falhas no tratamento de dados.

O especialista da Under Protection pontua que vazamentos de informações e falhas de governança afetam diretamente a viabilidade dos negócios:

“Um problema com dados pessoais pode afetar a operação, a reputação, a confiança dos clientes e a capacidade de a companhia responder ao regulador. Por isso, LGPD, cibersegurança e segurança da informação não podem funcionar como agendas separadas. Uma empresa pode ter política de privacidade, contratos revisados e um encarregado indicado, mas isso não significa que esteja protegida. Quando acontece um ataque, são os controles, os processos internos e a capacidade de resposta que mostram se a governança funciona de verdade.”

DPO no radar da fiscalização e o desafio da terceirização
A atuação da ANPD também passou a verificar minuciosamente o papel do Encarregado pelo Tratamento de Dados Pessoais (conhecido como DPO). Em ação recente de monitoramento com 56 agentes de tratamento, o órgão identificou que 21 organizações não responderam às solicitações de adequação enviar pela autoridade. Esses casos foram encaminhados para a avaliação de sanções administrativas.

Diante desse cenário, a indicação meramente formal do profissional deixa de atender às exigências regulatórias:

“Ter um nome publicado no site não resolve a governança de dados. O encarregado precisa estar conectado aos processos, aos fornecedores, à segurança da informação e à resposta a incidentes. A fiscalização aumenta a importância de apresentar evidências de que esse trabalho acontece continuamente.”

Embora a legislação brasileira permita a terceirização do papel de DPO — em modelos conhecidos como DPO as a Service —, a delegação do cargo não exime a empresa contratante das responsabilidades legais sobre a proteção dos dados e a gestão de riscos de privacidade perante o órgão regulador e os titulares das informações.Continue lendo