Amazon identifica agentes de IA em campanha de roubo de chaves de API e exploração de aplicações expostas

Monitoramento de gateways de IA e proteção de chaves de API

Uma investigação da Amazon Threat Intelligence identificou agentes de inteligência artificial empregados em operações automatizadas para localizar chaves de API, testar acessos e explorar aplicações de IA expostas à internet. Os registros capturados entre 3 de outubro e 5 de novembro de 2026 mostram como credenciais encontradas poderiam alimentar novas buscas, criando um ciclo de ataques financiado pelos próprios recursos comprometidos.

A análise, publicada em 13 de novembro, partiu da rede MadPot, formada por sensores que simulam serviços acessíveis a possíveis invasores. Alguns desses sensores se apresentavam como interfaces compatíveis com APIs de modelos de linguagem. Ao interagir com eles, agentes associados ao framework ARTEX transmitiram prompts, histórico de ferramentas, instruções permanentes e memória operacional. Essa combinação permitiu reconstruir objetivos e métodos descritos pelos próprios agentes, inclusive atividades fora do alcance direto dos sensores.

A ressalva é essencial: a Amazon confirmou a captura desses registros e informou ter notificado clientes AWS potencialmente afetados, mas não conseguiu verificar todas as invasões e resultados que os agentes alegavam ter alcançado em ambientes de terceiros. A empresa avalia com confiança moderada o uso do ARTEX e a associação das campanhas a diferentes grupos com vínculos chineses; idioma e configuração de fuso horário, isoladamente, não comprovam autoria.

Um gateway vulnerável pode concentrar as chaves de vários provedores

A operação descrita buscava mais do que uma chave isolada. Gateways de modelos e plataformas de construção de aplicações, entre eles LiteLLM, One API, New API, Dify, Langflow, RAGFlow, Open WebUI e Ollama, podem armazenar ou intermediar credenciais de múltiplos serviços. Uma interface de administração exposta, uma instalação não inicializada ou um segredo publicado por engano pode dar acesso a diversos provedores e projetos ao mesmo tempo.

Os registros descrevem uma sequência de descoberta, identificação do produto, tentativa de exploração, extração e validação de credenciais. Entre os caminhos considerados pelos operadores estavam senhas e chaves padrão, endpoints administrativos sem autenticação, vulnerabilidades conhecidas, SSRF para consultar metadados de nuvem e segredos em arquivos de ambiente, código JavaScript, mapas de origem, repositórios e camadas de imagens de contêineres. As falhas CVE-2025-3248, no Langflow, e CVE-2026-28797, no RAGFlow, aparecem no repertório observado; isso não significa que toda instalação desses produtos esteja vulnerável ou tenha sido invadida.

Os agentes também classificavam o valor das credenciais. Uma chave que apenas parecia válida tinha utilidade diferente de outra capaz de realizar chamadas pagas ou ler dados. Segundo a Amazon, parte das chaves obtidas era incorporada ao gateway de modelos da própria operação, permitindo que o consumo de IA empregado na busca por novas vítimas fosse custeado por terceiros. A automação dividia tarefas entre agentes de planejamento, execução, verificação e consolidação, com uma memória compartilhada para evitar recomeçar o trabalho a cada ciclo.

O prejuízo pode começar na fatura e terminar em dados e permissões

O uso não autorizado de uma API de inferência pode gerar cobranças por requisições e tokens, mas o impacto não se limita ao custo. Uma credencial de nuvem com permissões excessivas pode permitir consultar identidades, enumerar armazenamento, acessar serviços de segredos ou alcançar aplicações conectadas. Uma chave restrita a inferência não concede automaticamente esses privilégios: a extensão do dano depende das permissões efetivas, dos recursos associados e da possibilidade de movimentação entre serviços.

Essa diferença precisa orientar a resposta. Um aumento de consumo de modelos é um sinal de possível abuso financeiro; acessos anormais a cofres de segredos ou mudanças de políticas IAM indicam outra categoria de risco, potencialmente mais grave. A investigação da Amazon descreve tentativas de expansão de privilégios, mas não autoriza presumir que todas tenham sido bem-sucedidas.

Como reconhecer a exploração antes que a conta seja comprometida

O primeiro trabalho de monitoramento é construir um inventário de gateways, aplicações de IA, endpoints de inferência, credenciais e contas responsáveis pelo faturamento. Sem relacionar uma chave ao serviço, proprietário, ambiente e limite esperado de consumo, um alerta de gasto elevado pode chegar tarde ou não indicar quem deve agir. O inventário também precisa alcançar instalações de teste e serviços publicados fora do processo formal de implantação.

Na borda, logs de proxy reverso, WAF e gateway devem permitir identificar acessos a rotas administrativas, endpoints de configuração, tentativas repetidas de autenticação, variações incomuns de origem e sondagens de arquivos sensíveis. A detecção deve considerar volume e sequência, não apenas um endereço IP: operadores podem usar proxies, alternar origens e distribuir chamadas. Expor um painel administrativo sem autenticação é um problema de arquitetura que o monitoramento não corrige.

No plano das APIs, o SOC deve correlacionar requisições por chave, usuário, aplicação, modelo, origem, horário, taxa de erros, volume de tokens e custo. Uma credencial normalmente utilizada por uma aplicação interna que passa a consumir modelos premium continuamente, em horários incomuns ou a partir de infraestrutura desconhecida, merece investigação. Também são relevantes sequências de testes de credenciais, alterações de limites e criação inesperada de novas chaves. Alertas de orçamento devem ser acompanhados de limites técnicos de requisições e tokens, quando suportados, pois alertar sobre a fatura não equivale a bloquear o abuso.

Em nuvem, a correlação precisa incluir trilhas de auditoria de identidade e acesso, consultas a gerenciadores de segredos, leitura de parâmetros, mudanças em políticas, emissão de credenciais temporárias e acesso anormal a armazenamento. Na AWS, por exemplo, CloudTrail, CloudWatch, eventos de IAM e trilhas dos serviços envolvidos podem fornecer partes dessa visibilidade, desde que habilitados, retidos e integrados. A ausência de um evento em um único log não descarta exploração: cobertura, granularidade e configurações variam por serviço.

Um desenho operacional útil combina regras de detecção com contexto de negócio. O SIEM pode associar uma nova origem de acesso administrativo, seguida de consulta a segredos e pico de chamadas de inferência, em um mesmo incidente. A equipe deve manter linhas de base por aplicação e ambiente para reduzir falsos positivos durante lançamentos, testes de carga e mudanças legítimas de modelo. Telemetria de prompts e respostas exige cuidado adicional: pode conter dados pessoais, código ou segredos e precisa de mascaramento, retenção controlada e acesso restrito.

Reduzir exposição, limitar permissões e preparar a revogação

Interfaces de administração e configuração não devem permanecer diretamente acessíveis à internet sem necessidade. Autenticação forte, controle de acesso por função, proteção de rotas administrativas, segmentação e restrições de rede reduzem a superfície explorável. Credenciais padrão devem ser eliminadas na implantação; instalações incompletas, endpoints de depuração e funcionalidades não utilizadas precisam ser desativados. Atualizações devem seguir os avisos dos respectivos projetos, priorizando versões afetadas e exposição real.

Chaves de provedores e credenciais de nuvem não devem ser incorporadas ao código-fonte, imagens de contêineres, variáveis expostas ao cliente ou arquivos publicados. Cofres de segredos, identidades de workload e credenciais temporárias, quando disponíveis, são preferíveis a chaves permanentes compartilhadas. Cada aplicação deve receber o menor conjunto de permissões e escopo de modelos necessários, com separação entre desenvolvimento e produção. Varreduras de segredos no repositório, histórico, pipelines e artefatos de build ajudam a encontrar exposições que uma revisão do código atual pode não revelar.

Na resposta a um possível vazamento, a equipe deve preservar evidências, identificar o escopo de uso da chave, revogar ou rotacionar a credencial comprometida no provedor de origem e substituir dependências sem provocar interrupções desnecessárias. Também deve examinar histórico de chamadas, alterações IAM, acessos a dados, faturamento e eventual emissão de outras credenciais. Apagar o segredo de um arquivo público não invalida cópias já obtidas; apenas a revogação efetiva interrompe seu uso. A revisão deve alcançar integrações e serviços que compartilham o mesmo segredo.

A AWS publicou em 12 de novembro um exemplo de gateway LiteLLM com chaves virtuais por usuário, limites de gasto, métricas de requisições e tokens e observabilidade. O material também alerta para um detalhe operacional: quando o custo do modelo não é configurado corretamente, o controle de orçamento pode registrar consumo financeiro zero e deixar de aplicar o limite esperado. Isso ilustra por que controles de segurança precisam ser testados com cenários de abuso, e não apenas declarados como habilitados.

Para organizações brasileiras que adotam ferramentas de IA rapidamente, o desafio imediato é identificar quem administra cada gateway, quais credenciais ele concentra e como a empresa perceberia seu uso fora do padrão. O caso observado pela Amazon mostra uma automação ofensiva persistente apoiada em falhas conhecidas. A defesa depende de visibilidade contínua, permissões limitadas e capacidade de revogar acessos antes que uma credencial exposta se transforme em um problema maior.

Mindsec — Sophos Workspace Protection: proteção de ambientes e acessos corporativos

 

Referências

About mindsecblog 3963 Articles
Blog patrocinado por MindSec Segurança e Tecnologia da Informação Ltda.

Be the first to comment

Leave a Reply

Your email address will not be published.