Notícias recentes

Mão segura um chaveiro com poucas chaves diante de porta de vidro entreaberta, por onde passa um fluxo de luz turquesa

Agentes de IA na empresa: quem responde quando eles erram?

  • IA, Microsoft, Segurança
  • Nenhum comentário
  • Francisco Neto

Apenas 13% das organizações têm a base de governança necessária para adotar inteligência artificial com segurança. O dado vem de uma pesquisa com 2.100 executivos citada pela Forbes Brasil em 2 de novembro.

Só 29% têm um plano estratégico concreto, e 32% não contam com nenhuma estrutura definida, seja uma política de IA, regras de ética ou um órgão de supervisão.

Os números ganham peso porque a IA deixou de apenas responder perguntas. Os agentes já leem e-mails, abrem arquivos e executam tarefas em nome das pessoas. Um agente com permissão demais funciona como um funcionário com a chave de todas as salas e sem ninguém a quem prestar contas.

Falta alguém no comando

A reportagem, assinada por Joe McKendrick, ouviu a pesquisadora Maribel Lopez, da Lopez Research. Para ela, atribuir responsabilidades é hoje uma das fragilidades mais críticas das empresas que adotaram IA.

As práticas de governança, quando existem, ficam espalhadas entre jurídico e RH, e faltam profissionais preparados para manter a tecnologia nos trilhos.

Lopez defende que os líderes tenham, no mínimo, poder de veto sobre as decisões das máquinas. “Alguém precisa estar no comando e questionar as atitudes e funcionalidade dos agentes”, disse.

A velocidade da tecnologia complica o cenário. “A cada um ou dois meses, algo muda”, disse Lopez, para quem governança de IA não é algo que se configura uma vez e se esquece. Por isso, ela também recomenda começar por aplicativos SaaS que já trazem identidade, segurança e permissões embutidas, que podem ser estendidas aos agentes.

O nome do instituto responsável pela pesquisa aparece de duas formas na reportagem, SmartX e SmarterX, e o relatório original não está disponível publicamente para consulta.

O Microsoft 365 já tem boa parte das ferramentas

Para PMEs que usam Microsoft 365, a recomendação de Lopez tem aplicação direta. Segundo a documentação da Microsoft, o Copilot só exibe dados que o usuário já tem permissão para ver. Essa regra protege, mas também expõe: se uma pasta do SharePoint está aberta para toda a empresa, o Copilot vai encontrar o que estava esquecido nela.

A própria Microsoft orienta revisar as permissões antes da adoção.

Os administradores escolhem quais agentes ficam liberados na organização, pelo centro de administração do Microsoft 365. As conversas com o Copilot ficam armazenadas e podem ser pesquisadas e retidas pelo Microsoft Purview, o que cria um registro útil para auditoria.

O Microsoft Entra Agent ID vai além e dá aos agentes uma identidade própria, inclusive aos criados fora do ecossistema Microsoft. Com isso, a autenticação e a atividade de cada agente ficam registradas.

Para estender os recursos de segurança do Entra aos agentes, a Microsoft exige o Agent 365, incluído no Microsoft 365 E7 e vendido como complemento dos planos E5 e Business Premium. Preço e disponibilidade no Brasil devem ser confirmados com a Microsoft ou com um parceiro.

Menos autonomia, menos risco

A OWASP, referência internacional em segurança de aplicações, propõe o princípio da “menor agência”: dar autonomia ao agente apenas quando ela agrega valor. Isso significa permissões mínimas para cada ferramenta e aprovação humana para ações de impacto, como excluir dados, transferir valores ou publicar conteúdo.

Um agente que resume e-mails, por exemplo, não precisa enviar nem apagar mensagens.

O cuidado tem razão de ser. Em 2 de novembro, o Help Net Security noticiou, com base em análise da Sophos, que o grupo por trás do ransomware Aur0ra usou agentes de IA para mapear redes, procurar senhas e backups e chegar a administrador de domínio.

Os atacantes disfarçavam as invasões como testes autorizados para driblar as travas das ferramentas de IA. A Sophos lembra que controles tradicionais, como correções em dispositivos expostos, MFA resistente a phishing e monitoramento de alertas, continuam eficazes, desde que a resposta seja rápida. Um agente interno com acesso amplo aumenta o estrago que um invasor pode causar com uma única credencial roubada.

Por onde começar

Governança de agentes não exige um comitê. Numa PME, o primeiro passo é dar um dono a cada agente em uso, seja o Copilot, um agente do Copilot Studio ou uma automação, com alguém do negócio que responda pelo que ele faz.

Em seguida vem a faxina de permissões no SharePoint e no OneDrive, eliminando compartilhamentos abertos para “todos”.

Ações sensíveis, como pagamentos, envios para fora da empresa e exclusão de dados, devem passar por aprovação humana.

Por fim, a auditoria precisa estar ativa, com retenção definida no Purview e revisão periódica dos agentes liberados e do que eles fizeram.

Uma política curta de uso de IA completa o quadro, indicando quais ferramentas estão aprovadas e quais dados não podem entrar nelas. Os 32% de empresas sem nenhuma estrutura mostram que esse passo ainda falta em muita organização.

A pergunta da Forbes sobre quem controla os agentes tem uma resposta prática: alguém com nome, permissões enxutas e registro do que acontece. Quem já está no Microsoft 365 tem as ferramentas à mão.

A GetSmart pode ajudar a revisar permissões e identidades antes de levar o Copilot e os agentes para a operação.

Quer revisar custos, permissões ou o uso de IA na sua empresa? Fale com a GetSmart.

Fontes consultadas

Autor: Francisco Neto

Deixe um comentário

Este site utiliza o Akismet para reduzir spam. Saiba como seus dados em comentários são processados.