Boom da IA nas empresas amplia riscos do uso não supervisionado

12/08/2025 mindsecblog Artigos, Notícias 0

Pesquisa revela que a crescente adoção de modelos on-premises e agentes de IA traz novos desafios para as empresas

A Netskope, líder em segurança e redes modernas, divulgou hoje uma nova pesquisa que revela um aumento de 50% no uso da plataforma genAI entre usuários finais corporativos. Apesar de uma mudança contínua em direção à habilitação segura de aplicações genAI SaaS, como o ChatGPT e o Copilot, que rodam na nuvem e são acessadas como serviço, e agentes de IA, o crescimento da Shadow AI (quando funcionários utilizam aplicações de IA não autorizadas pela equipe de segurança) continua a agravar os riscos potenciais de segurança. Inclusive, estima-se que mais da metade de toda a adoção de aplicações atualmente é Shadow AI.

Os dados foram publicados no mais recente Relatório de Nuvem e Ameaças do Netskope Threat Labs. A pesquisa traz uma análise da migração contínua do uso corporativo para plataformas de genAI, sejam elas em nuvem ou on-premises, em meio ao crescente interesse em desenvolver aplicações de IA e agentes autônomos. Um cenário que cria desafios de segurança cibernética que merece a atenção dos líderes.

A ascensão das plataformas genAI

As plataformas genAI são ferramentas de infraestrutura fundamentais que permitem que as empresas criem aplicações e agentes de IA personalizados. Elas hoje representam a categoria de Shadow AI que cresce mais rápido, dada sua simplicidade e flexibilidade para os usuários.

No trimestre encerrado em maio de 2025, o número de usuários dessas plataformas aumentou em 50%. Elas aceleram a conexão direta de armazenamentos de dados corporativos a aplicações de IA e, conforme sua popularidade cresce, cria riscos de segurança aos dados corporativos que tornam ainda mais importante a prevenção contra perda de dados (DLP) e o monitoramento e conscientização contínuos. O tráfego de redes vinculado ao uso de plataforma genAI também aumentou 73% em relação ao trimestre anterior. Em maio, 41% das organizações já estavam usando pelo menos uma plataforma genAI. Aproximadamente 29% utilizam o Microsoft Azure OpenAI, seguido por Amazon Bedrock (22%) e Google Vertex AI (7,2%).

“O rápido crescimento da Shadow IA coloca sobre as empresas a responsabilidade de identificar quem cria novas aplicações e agentes de IA por meio de plataformas genAI e onde as constroem e implementam”, diz Ray Canzanese, diretor do Netskope Threat Labs. “As equipes de segurança não querem prejudicar o desejo de inovação de seus colegas de empresa, mas o uso da IA só tende a aumentar. Para proteger a inovação, as empresas precisam reformular seus controles de aplicações de IA e aprimorar as políticas de DLP para incorporar elementos de treinamento do usuário em tempo real.”

As multifaces da inovação em IA em casa

De implementações de genAI com GPUs locais ao desenvolvimento de ferramentas que interagem com aplicações SaaS ou plataformas genAI, as empresas exploram diversas estratégias para inovar com rapidez e, cada vez mais, recorrem a interfaces baseadas em Large Language Models (LLMs).

Atualmente, 34% das empresas utilizam essas interfaces, sendo o Ollama líder absoluto (33%), e outras, como LM Studio (0,9%) e Ramalama (0,6%), ainda começando a ganhar atenção.

Enquanto isso, os funcionários experimentam ferramentas de IA e acessam marketplaces de IA em um ritmo acelerado. Estão, por exemplo, baixando recursos do Hugging Face na maioria (67%) das empresas.

A crescente expectativa em torno dos agentes de IA tem impulsionado esse movimento. Os dados mostram que já existe uma massa crítica de usuários nas empresas criando agentes e explorando recursos de IA disponíveis em soluções SaaS. O GitHub Copilot está presente em 39% das organizações, e 5,5% delas já contam com usuários executando agentes gerados por frameworks populares de IA local.

Além disso, os agentes on-premises passaram a recuperar mais dados de serviços SaaS e a acessar um número crescente de endpoints de API além dos navegadores. Atualmente, dois terços (66%) das empresas têm usuários que realizam chamadas para a API da OpenAI, e 13% acessam a API da Anthropic.

A contínua evolução do uso de IA SaaS

A Netskope monitora atualmente mais de 1.550 aplicações SaaS de genAI — um salto expressivo frente às 317 registradas em fevereiro, refletindo a velocidade com que novas ferramentas estão sendo lançadas e adotadas. Em média, cada organização já utiliza cerca de 15 dessas aplicações, ante 13 no trimestre anterior. O volume de dados enviados mensalmente para essas plataformas também cresceu, passando de 7,7 GB para 8,2 GB.

Os usuários corporativos vêm se concentrando cada vez mais em soluções como Gemini e Copilot, impulsionados pelo esforço das equipes de segurança em habilitar esses recursos com proteção adequada, especialmente por estarem mais integrados aos pacotes de produtividade das empresas.

O ChatGPT, por sua vez, registrou sua primeira queda de popularidade no ambiente corporativo desde o início do monitoramento pela Netskope em 2023. Entre as dez ferramentas genAI mais utilizadas, foi a única a perder espaço desde fevereiro, enquanto outras, como Anthropic Claude, Perplexity AI, Grammarly e Gamma, apresentaram crescimento.

O Grok estreou no top 10 das aplicações mais utilizadas. Embora ainda figure entre as mais bloqueadas, suas taxas de bloqueio vêm caindo à medida que mais empresas adotam políticas mais granulares de controle e monitoramento.

Governança e monitoramento do uso da IA

Diante da rápida adoção de diferentes tecnologias de IA generativa, cabe aos CISOs e outros líderes de segurança adotar medidas concretas para garantir um uso seguro e responsável. A Netskope recomenda:

Avaliação do cenário da genAI: Identifique quais ferramentas de IA generativa estão em uso, quem as utiliza e de que forma estão sendo aplicadas.
Reforço de controles sobre as aplicações de genAI: Estabeleça políticas claras que permitam apenas o uso de ferramentas aprovadas pela empresa, com mecanismos robustos de bloqueio e treinamentos em tempo real para orientar os usuários.
Controles locais de inventário: Se uma empresa opera infraestrutura de genAI localmente, aplique frameworks de segurança como o OWASP Top 10 para LLMs, garantindo proteção adequada para dados, usuários e redes que interagem com a infraestrutura genAI local.
Monitoramento e conscientização contínuos: Implemente mecanismos de monitoramento contínuo para detectar novas instâncias de Shadow AI e acompanhe os avanços em ética, regulamentações e ataques adversários.
Gerencie os riscos emergentes da Shadow AI agêntica: Identifique quem está liderando iniciativas com IA agêntica e trabalhe junto a essas equipes para desenvolver políticas realistas que limitem o uso não autorizado e protejam a empresa da Shadow AI.

Para saber mais, acesse o Relatório de Ameaças e Nuvem do Netskope Threat Labs: Shadow AI e IA agêntica