In: Destaque, Notícias, Sem categoria

Pesquisa revela que 93% das empresas brasileiras usam IA de forma desestruturada
Estudo conduzido pela MIT SMR Brasil e TOTVS com cerca de 600 corporações mapeia abismo entre experimentação e geração de valor; 88% das companhias não medem o retorno financeiro da tecnologia.

A inteligência artificial tornou-se parte da rotina do ambiente corporativo no Brasil, mas a falta de integração com os objetivos estratégicos e sistemas centrais de negócios ainda impede a geração de resultados mensuráveis. É o que revela o estudo “Da adoção à escala: a maturidade da inteligência artificial nas empresas brasileiras”, realizado pela MIT Sloan Management Review (SMR) Brasil e encomendado pela TOTVS.

O levantamento, que ouviu 583 profissionais de empresas de diversos portes e setores em todo o país, indica que, embora 80% das organizações declarem testar ou utilizar IA, 93% operam em fases experimentais, testes ou com implementações parciais e pulverizadas.

Falta de controle financeiro e desarticulação entre áreas
Segundo o relatório, 40% das companhias conduzem iniciativas de IA sem nenhuma coordenação entre os diferentes setores internos. A pressa em adotar novas ferramentas tem superado a disciplina orçamentária: 86% das empresas não calculam o custo de operação da tecnologia e 88% não mensuram o retorno financeiro (ROI) obtido a partir dela.

Para Gustavo Bastos, vice-presidente de Plataformas e TI da TOTVS, o avanço da tecnologia exige uma transição do uso superficial para a integração aos processos produtivos:

“A adoção da IA já não diferencia mais ninguém; o que separa empresas de alta performance daquelas que ainda patinam hoje é a capacidade de incorporá-la à operação real. Usar a inteligência artificial apenas como um assistente isolado, sem atrelá-la às métricas e aos processos vitais da empresa, é deixar de gerar valor.”

O estudo calculou o Índice de Maturidade médio das empresas brasileiras em 6,69 (em uma escala de 0 a 10). Apenas 8% das companhias atingiram o nível mais alto de integração, conectando a IA diretamente aos seus sistemas de gestão (ERP). Além disso, organizações que mantêm parcerias tecnológicas externas apresentam maturidade 41% superior às que tentam evoluir isoladamente.

Desafios em infraestrutura, dados, cultura e governança
A pesquisa avaliou sete dimensões do uso da tecnologia nas corporações e destacou gargalos estruturais e culturais que retardam a escala das operações:

Integração de Dados: Embora 68% das companhias utilizem arquitetura em nuvem, apenas 46% relatam que suas soluções de IA acessam bases de dados de forma automática.

Capacitação e Letramento: 43% dos colaboradores temem cometer erros por confiar excessivamente na IA e 37% declaram não saber utilizar as ferramentas corretamente. Contudo, apenas 7% das empresas oferecem programas formais de treinamento.

Governança e Riscos: Apenas 14% das organizações contam com uma política corporativa formal de governança para IA. Para 46% dos executivos, o vazamento de dados ou uso indevido de informações é apontado como a principal ameaça.

Douglas Souza, CEO do CNEX (entidade que representa a MIT SMR no Brasil), enfatiza que “oferecer programas de capacitação estruturados e provocar as lideranças para redesenhar seus processos são duas premissas fundamentais para evoluir nos níveis de maturidade”.Continue lendo

In: Destaque, Notícias, Sem categoria

Falha estrutural de IA impede bloqueio total a ataques de ‘prompt injection’, alertam pesquisas
Estudos de 2026 concluem que filtros e treinamentos são insuficientes para conter comandos maliciosos; especialista defende restrição de acessos e arquitetura de segurança em camadas.

A tentativa de blindar sistemas de inteligência artificial contra o prompt injection — técnica em que comandos maliciosos são inseridos em textos, e-mails ou documentos para manipular as respostas da IA — enfrenta um limite matemático estrutural. Estudos publicados em junho de 2026 por pesquisadores em segurança apontam que, em arquiteturas onde dados externos e instruções de controle percorrem o mesmo fluxo de processamento, é impossível barrar totalmente a manipulação apenas com filtros ou treinamentos do modelo.

A vulnerabilidade ocupa o topo da lista de maiores riscos para aplicações baseadas em Grandes Modelos de Linguagem (LLM) da OWASP (Open Worldwide Application Security Project).

Para Hesron Hori, sócio e diretor de Risk Assessment da Under Protection, o cenário exige uma mudança na estratégia de defesa das corporações:

“Quando se fala em prompt injection, a discussão não pode partir da ideia de que haverá uma ferramenta capaz de bloquear tudo. O ponto mais importante é estruturar o ambiente para que, mesmo se uma instrução maliciosa chegar até a IA, ela não tenha liberdade para acessar informações críticas ou executar ações que não deveria.”

Como o ataque funciona e os riscos da autonomia excessiva
A ameaça explora a incapacidade dos modelos de IA em separar, de forma absoluta, o que é apenas dado de leitura do que é uma instrução de execução. Um arquivo aparentemente inofensivo, como um currículo ou contrato enviado ao sistema, pode conter frases invisíveis projetadas para alterar o comportamento da ferramenta ou vazar informações.

De acordo com o levantamento da OWASP e os alertas da Under Protection, os principais pontos de atenção incluem:

Manipulação Indireta: Comandos ocultos em e-mails, sites ou planilhas consultadas pela IA podem instruir o sistema a ignorar regras de segurança corporativas.

Autonomia Excessiva (Excessive Agency): Quando a IA recebe permissões para alterar bancos de dados ou executar tarefas automatizadas, o ataque pode resultar em vazamentos reais e incidentes operacionais graves.

Proteção em Camadas: Pesquisas recentes mostram que combinar filtros de entrada, segregação de comandos e monitoramento de saída reduz a taxa de sucesso dos ataques de 71,4% para 11,3%, embora não a elimine completamente.

Segundo Hori, as empresas devem adotar o princípio da menor permissão possível, garantindo controle de acesso rigoroso e supervisão humana em ações sensíveis:

“Prompt injection não é um problema que se resolve apenas treinando melhor o modelo. Ele exige decisões de arquitetura, identidade, acesso, monitoramento e governança. A pergunta correta não é se uma tentativa vai conseguir chegar até a IA, mas o que o sistema poderá fazer caso isso aconteça.”Continue lendo