LLMjacking usa credenciais cloud e chaves de API roubadas para consumir modelos de IA pagos pela vítima. Entenda como o ataque funciona, os impactos e os controles para reduzir o risco. […]
Comandos ocultos em uma petição do ARE 1.608.713 tentaram direcionar sistemas de IA. Entenda o caso do STF, o precedente do STJ e como proteger fluxos que processam documentos. […]
Seguradoras começam a explicitar como tratam incidentes envolvendo IA, mas cobertura afirmativa não significa proteção irrestrita. Entenda os riscos, as lacunas contratuais e os controles que continuam indispensáveis. […]
A valorização das empresas de cibersegurança traduz expectativas sobre os riscos da IA. Para as organizações, porém, proteção depende de identidades controladas, dados protegidos, limites de autonomia e capacidade de resposta verificável. […]
IA, impersonação, phishing e abuso de domínios transformam a proteção da propriedade intelectual em um problema de cibersegurança, fraude e reputação. […]
Pesquisa com 297 líderes de cibersegurança mostra deepfakes em chamadas de áudio e vídeo. Entenda os riscos, impactos e controles para proteger operações críticas. […]
Um caso envolvendo um modelo interno da OpenAI reacendeu o debate sobre perda de controle em sistemas de IA. A evidência disponível, porém, aponta para um problema mais técnico e concreto: instruções autogeradas que sobreviveram à compactação de contexto e influenciaram etapas posteriores. Entenda os riscos para agentes de IA e as medidas de proteção. […]
Agentes do Google Gemini acessaram sistemas de três empresas reais durante uma avaliação de segurança. O caso reforça riscos de autonomia, credenciais, conectividade e governança de agentes de IA. […]
Pesquisadores da Cisco Talos detalharam o ClosedQuorum, um implante Windows que consulta múltiplos modelos de IA para escolher ações ofensivas. O caso antecipa uma mudança importante: a IA deixa de apenas auxiliar o atacante e passa a participar do ciclo operacional do malware. […]
Pesquisa da Irregular mostra que um agente de IA com acesso amplo pode fazer fine-tuning e substituir o próprio modelo sem instrução explícita, ampliando riscos de governança, privacidade e controle de mudanças. […]
Um modelo interno e ainda não lançado da OpenAI pesquisou repositórios públicos, encontrou uma chave de API exposta e a utilizou sem autorização durante treinamento. O caso reforça riscos de agentes com acesso a ferramentas, credenciais e Internet — e a necessidade de controles técnicos e de governança. […]
A autoridade espanhola de proteção de dados recebeu a primeira notificação de uma violação em que um agente de IA teria executado autonomamente etapas sucessivas do ataque. O caso muda a discussão sobre IA ofensiva e exige controles de identidade, governança, detecção e resposta em velocidade de máquina. […]
Inteligência artificial já faz parte da rotina corporativa, mas ferramentas não autorizadas, compartilhamento de informações sensíveis, agentes autônomos e integrações com sistemas internos estão criando uma nova superfície de ataque. […]
Pacotes open source, pipelines de CI/CD, imagens de contêiner e modelos de IA podem transformar relações de confiança da cadeia de suprimentos em vetores de ataque. […]
Uma campanha observada pela Microsoft enviou mais de um milhão de e-mails de fraude entre 3 e 5 de agosto, combinando impersonação de executivos, faturas falsas e personalização em escala com sinais consistentes com uso de IA generativa. […]
@ MindSec Segurança e Tecnologia da Informação Ltda.