Aumento de plataformas GenAI aumentam desafio da Segurança
Mês da Cibersegurança reforça debate sobre conscientização contínua no uso da genAI
O Mês de Conscientização sobre Cibersegurança reforça a importância de capacitar os funcionários contra riscos digitais, mas especialistas alertam que treinamentos anuais isolados já não dão conta da complexidade atual. As vulnerabilidades surgem justamente nos intervalos entre as sessões formais, quando os colaboradores estão focados em suas atividades e acabam contornando políticas ou ferramentas impostas pela empresa.
O aumento no uso de plataformas de Inteligência Artificial generativa (GenAI) é um exemplo desse desafio. Dados do Netskope Threat Labs mostram que, entre março e maio de 2025, o uso corporativo dessas aplicações cresceu 50%. Mais da metade desse volume, no entanto, ocorreu por meio de Shadow AI, quando usuários recorrem a sistemas não autorizados, em desacordo com políticas internas.
Portanto, embora a prática global de promover treinamentos pontuais durante o Mês de Conscientização sobre Segurança Cibernética seja válida, o aprendizado contínuo em tempo real mostra-se muito mais eficaz. Em vez de restringir o acesso dos usuários a aplicações úteis ou depender apenas de sessões anuais, os avisos contextuais oferecem suporte imediato e ajudam os funcionários a tomarem decisões mais seguras, inclusive no uso de GenAI. A pesquisa da Netskope revelou que 57% dos usuários mudaram seu comportamento após receberem orientação imediata, reforçando que abordagens em tempo real são mais efetivas quando conectadas às escolhas práticas do dia a dia.
Para Cláudio Bannwart, country manager da Netskope no Brasil, esse é o caminho para equilibrar inovação e proteção. “A prioridade das empresas deve ser incorporar o coaching aos fluxos de trabalho diários, orientando os profissionais em direção a ferramentas aprovadas e práticas mais seguras. É uma abordagem mais equilibrada: proteger os dados e, ao mesmo tempo, impulsionar a inovação no ambiente de trabalho.”
Destaques da Pesquisa Netspoke
- IA de sombra representa a maior parte do uso de IA na empresa, impulsionado pela adoção individual de aplicativos de IA SaaS, plataformas de IA, implantações de IA locais e agora agentes de IA personalizados.
- IA SaaS o uso continua a crescer rapidamente dentro da organização média, com 50% mais pessoas interagindo com aplicativos de IA e 6,5% mais dados sendo carregados em aplicativos de IA SaaS nos últimos três meses, com média de 8,2 GB por organização por mês.
- Bate-papoGPT experimentou seu primeiro declínio na popularidade empresarial desde que começamos a rastreá-lo em 2023, à medida que o uso de IA SaaS se consolida em torno de soluções especialmente desenvolvidas, como Gemini e Copilot, que estão bem integradas aos fluxos de trabalho empresariais existentes.
- Plataformas de IA (por exemplo, Amazon Bedrock, Azure OpenAI e Google Vertex AI) estão ganhando popularidade rapidamente, permitindo que os usuários criem aplicativos e agentes personalizados que interagem diretamente com armazenamentos de dados corporativos, apresentando novos desafios de IA paralela para as empresas enfrentarem.
- Agentes de IA estão sendo desenvolvidos, testados e implantados no local usando estruturas de agentes como LangChain, criando um novo tipo particularmente desafiador de IA paralela, já que as implantações no local são normalmente as mais difíceis de descobrir e proteger.
Crescimento contínuo do aplicativo SaaS genAI
Uma das maneiras pela qual o crescimento dos aplicativos SaaS genAI se manifesta na empresa é na quantidade de dados que fluem para esses aplicativos. Para a organização média, a quantidade de dados carregados a cada mês aumentou 6,5%, de 7,7 GB para 8,2 GB nos últimos três meses. Mesmo em organizações que já estão vendo uma quantidade significativa de dados sendo carregados em aplicativos SaaS genAI, o rápido crescimento continua sem sinais de desaceleração.
Outra mudança notável observada na pesquisa que ocorreu nos últimos quatro meses é uma diminuição no número de organizações que usam o ChatGPT. Desde a sua introdução em novembro de 2022, a percentagem de organizações que utilizam o ChatGPT nunca diminuiu. Em fevereiro, relatamos que quase 80% das organizações estavam usando o ChatGPT, que agora caiu modestamente para 78%. Essa queda ocorre no momento em que Gemini e Copilot (Microsoft Copilot, Microsoft 365 Copilot, GitHub Copilot) continuam ganhando força, graças à sua integração perfeita aos ecossistemas de produtos do Google e da Microsoft, que já são onipresentes nas empresas. O ChatGPT foi o único dos 10 principais aplicativos a apresentar queda desde fevereiro, conforme mostrado na figura abaixo. Outros 10 principais aplicativos, incluindo Anthropic Claude, Perplexity AI, Grammarly e Gamma, tiveram ganhos na adoção empresarial.
Na busca de proteger e evitar vazamento de informações alguns aplicativos SaaS genAI, como o DeepSeek, permanecem fortemente bloqueados e, por outro lado, não é visto nenhum uso empresarial significativo relacionado a esses aplicativos.
Shadow AI é um termo relativamente novo que descreve o uso de soluções de IA sem o conhecimento ou aprovação de departamentos centralizados de TI e segurança cibernética. Nos primeiros dias, quase 100% do uso do SaaS genAI era shadow AI. Com o tempo, as organizações começaram a revisar e aprovar soluções empresariais específicas (normalmente ChatGPT, Gemini ou Copilot), e os usuários fizeram a transição para essas soluções aprovadas
Aumento da adoção de plataformas genAI
O uso de plataformas genAI está disparando. Vimos um aumento de 50% no número de usuários e um aumento de 73% no tráfego de rede nessas plataformas nos últimos três meses. Em maio, 41% das organizações usavam pelo menos uma plataforma genAI, enquanto 14% usavam pelo menos duas e 2,7% usavam pelo menos três. Uma das razões por trás da proliferação de múltiplas soluções é que a adoção de plataformas genAI é outro problema paralelo de IA; os indivíduos estão escolhendo as estruturas com as quais estão mais familiarizados ou que parecem mais adequadas aos seus casos de uso específicos. Usar uma plataforma genAI também é quase tão acessível quanto usar um aplicativo SaaS genAI, já que todos os principais provedores de serviços em nuvem têm suas próprias ofertas. A plataforma genAI mais popular é o Microsoft Azure OpenAI, usado por 29% das organizações.O Amazon Bedrock vem logo atrás, com 22%, com o Google Vertex AI em um distante terceiro lugar, com 7,2%. Todas as três plataformas estão ganhando popularidade à medida que mais usuários se familiarizam com elas e exploram as oportunidades que elas oferecem.
O rápido crescimento da IA paralela coloca sobre a organização a responsabilidade de identificar quem está criando infraestrutura genAI em nuvem usando plataformas genAI, onde a estão construindo e se estão seguindo as melhores práticas para segurança de IA. Um dos recursos poderosos dessas plataformas genAI é que elas permitem a conexão direta de armazenamentos de dados corporativos a aplicativos de IA, necessitando de revisões e monitoramento adicionais para garantir que esses aplicativos não comprometam a segurança dos dados corporativos.
Aumento da adoção do genAI local
Outra prática que está ganhando popularidade é o uso do genAI no local. O uso local do genAI assume diversas formas, desde o uso de recursos de GPU locais para treinar ou hospedar modelos até o desenvolvimento de ferramentas locais que interagem com aplicativos SaaS genAI ou plataformas genAI. Usar o genAI localmente é uma boa maneira para as organizações aproveitarem seu investimento existente em recursos de GPU ou criarem ferramentas que interajam com sistemas e conjuntos de dados locais. No entanto, a implantação no local também significa que a organização é a única responsável pela segurança de sua infraestrutura genAI. Além disso, compreender e aplicar estruturas como a OWASP Top 10 para aplicações de modelos de linguagem grandes ou Atlas de Mitra agora é essencial.
Uma das maneiras mais populares de usar o genAI localmente é implantar uma interface LLM. Semelhante às plataformas genAI, as interfaces LLM permitem a interação com vários modelos usando uma única interface. As interfaces LLM não são tão amplamente utilizadas quanto as plataformas genAI, com apenas 34% das organizações usando interfaces LLM, em comparação com 41% usando plataformas genAI.
Uma perspectiva CISO
- Avalie seu cenário genAI:
- Identifique o uso: Determine quais aplicativos SaaS genAI, plataformas genAI e ferramentas genAI hospedadas localmente estão em uso em sua organização.
- Identificação do usuário: Identifique quem está usando essas ferramentas e como elas estão sendo aproveitadas em diferentes departamentos e fluxos de trabalho.
- Reforce os controles do aplicativo genAI:
- Aplicativos aprovados: Estabelecer e aplicar uma política que permita apenas o uso de aplicativos genAI aprovados pela empresa.
- Bloqueie aplicativos não aprovados: Implemente mecanismos de bloqueio robustos para impedir o uso de aplicativos genAI não aprovados.
- DLP para dados sensíveis: Use políticas de prevenção de perda de dados (DLP) para evitar que dados confidenciais sejam compartilhados com aplicativos genAI não autorizados.
- Coaching de usuários em tempo real: Implante treinamento de usuários em tempo real para orientar os usuários em direção a soluções aprovadas e educá-los sobre práticas seguras de genAI. Compare regularmente esses controles com as melhores práticas do setor.
- Inventário da infraestrutura local do genAI:
- Estruturas de segurança: Se sua organização estiver executando qualquer infraestrutura genAI localmente, revise e aplique estruturas de segurança relevantes, como:
- Medidas de proteção: Certifique-se de que haja proteção adequada para dados, usuários e redes que interagem com a infraestrutura local do genAI.
- Monitoramento e conscientização contínuos:
- Monitore o uso do genAI: Implemente o monitoramento contínuo do uso do genAI em sua organização para detectar novas instâncias de IA paralela, seja por meio de aplicativos SaaS, plataformas genAI ou implantações locais.
- Mantenha-se informado: Mantenha-se atualizado sobre novos desenvolvimentos em ética de IA, mudanças regulatórias e ataques adversários para ajustar sua postura de segurança de forma proativa.
- Compreendendo e propondo o risco da IA de sombra agêntica:
- Funcionário não verificado: A IA de sombra agêntica é como uma pessoa que entra no seu escritório todos os dias, manipulando dados, tomando medidas em sistemas e tudo isso sem precisar verificar os antecedentes ou ter monitoramento de segurança em vigor.
- Defina orientações: Estabelecer diretrizes para a organização e seus membros. Use as detecções descritas neste relatório para identificar aqueles que estão liderando a adoção da IA agente e faça parceria com eles para desenvolver uma política, padrão ou diretriz acionável e realista.
Ao tomar essas medidas proativas, as organizações podem gerenciar efetivamente os desafios em evolução apresentados pelas tecnologias genAI e garantir sua adoção segura e responsável.
Fonte: Netspoke
Veja também:
Be the first to comment