Empresas enfrentam riscos com agentes de IA invisíveis

A adoção acelerada de ferramentas de inteligência artificial tem levado empresas a gerenciar uma nova categoria de usuários digitais: agentes autônomos. Esses agentes executam tarefas, acessam sistemas e realizam ações sem intervenção humana constante, muitas vezes sem registro nas equipes de Tecnologia da Informação.

De acordo com levantamento recente da JumpCloud, 72% das organizações já contam com agentes de IA em ambientes de produção, enquanto apenas 23% consideram ter maturidade e integração de TI adequadas para administrá‑los de forma segura. O estudo aponta que a falta de governança aumenta a exposição a riscos operacionais e de segurança.

Um dos problemas identificados é o chamado "shadow AI", que ocorre quando agentes são implantados sem passar pelos processos tradicionais de avaliação e aprovação. Nesses casos, fluxos automatizados podem utilizar chaves de API, autorizações OAuth ou sessões autenticadas de funcionários para acessar recursos corporativos.

"Um dos grandes desafios da inteligência artificial nas empresas é que nem sempre o agente aparece como uma identidade independente. Em determinadas situações, ele pode operar utilizando credenciais que já pertencem a uma pessoa ou aplicação", explica Augusto Ferreira, diretor da FCBrasil.

Essa característica dificulta a atribuição de responsabilidade, pois atividades registradas nos sistemas podem aparecer associadas a usuários legítimos, ainda que parte da ação tenha sido executada por uma ferramenta automatizada. Assim, o simples registro de atividades pode não ser suficiente para compreender o comportamento dos agentes de IA.

A JumpCloud identifica quatro categorias recorrentes de agentes não governados: agentes de fluxo de trabalho, conectores que reutilizam credenciais existentes, agentes utilizados por desenvolvedores e agentes que operam por meio de navegadores e dispositivos. Para mitigar esses riscos, especialistas recomendam a identificação de todos os agentes em funcionamento, a definição clara de responsáveis, a delimitação dos sistemas que podem ser acessados e a estipulação de prazos para a validade das permissões.

"O objetivo não deve ser simplesmente bloquear a inteligência artificial. As empresas precisam encontrar uma maneira de permitir seu uso de forma controlada. Isso significa conhecer os agentes presentes no ambiente e aplicar limites compatíveis com cada atividade", afirma Ferreira.

Nesse contexto, soluções de gerenciamento de identidade e acesso podem assumir papel estratégico. A JumpCloud oferece uma abordagem centralizada para gerenciamento de usuários, dispositivos e identidades, incluindo recursos específicos para a governança de agentes autônomos. A tendência aponta para a ampliação da administração de identidades corporativas, que passará a englobar não apenas funcionários, fornecedores e dispositivos, mas também aplicações e agentes capazes de executar tarefas de forma autônoma.

Sobre a FCBrasil

Empresa especializada na distribuição de soluções de segurança da informação, com atuação focada no suporte técnico, comercial e na capacitação de canais de venda.

Sobre a JumpCloud

A JumpCloud fornece plataforma de gerenciamento de identidades, dispositivos e acessos baseada em nuvem, permitindo centralizar políticas e recursos de TI em ambientes corporativos distribuídos.