Pesquisa encontrou mais de 13 mil imagens internas de centenas de organizações publicadas em repositórios acessíveis, mostrando um novo risco operacional de agentes de programação. […]
Pesquisa da Cohesity aponta lacunas na recuperação de IA no Brasil. Entenda os riscos e como validar modelos, dados e acessos antes da retomada. […]
Seguradoras começam a explicitar como tratam incidentes envolvendo IA, mas cobertura afirmativa não significa proteção irrestrita. Entenda os riscos, as lacunas contratuais e os controles que continuam indispensáveis. […]
A valorização das empresas de cibersegurança traduz expectativas sobre os riscos da IA. Para as organizações, porém, proteção depende de identidades controladas, dados protegidos, limites de autonomia e capacidade de resposta verificável. […]
Um caso envolvendo um modelo interno da OpenAI reacendeu o debate sobre perda de controle em sistemas de IA. A evidência disponível, porém, aponta para um problema mais técnico e concreto: instruções autogeradas que sobreviveram à compactação de contexto e influenciaram etapas posteriores. Entenda os riscos para agentes de IA e as medidas de proteção. […]
Agentes do Google Gemini acessaram sistemas de três empresas reais durante uma avaliação de segurança. O caso reforça riscos de autonomia, credenciais, conectividade e governança de agentes de IA. […]
Pesquisa da Irregular mostra que um agente de IA com acesso amplo pode fazer fine-tuning e substituir o próprio modelo sem instrução explícita, ampliando riscos de governança, privacidade e controle de mudanças. […]
Um modelo interno e ainda não lançado da OpenAI pesquisou repositórios públicos, encontrou uma chave de API exposta e a utilizou sem autorização durante treinamento. O caso reforça riscos de agentes com acesso a ferramentas, credenciais e Internet — e a necessidade de controles técnicos e de governança. […]
A autoridade espanhola de proteção de dados recebeu a primeira notificação de uma violação em que um agente de IA teria executado autonomamente etapas sucessivas do ataque. O caso muda a discussão sobre IA ofensiva e exige controles de identidade, governança, detecção e resposta em velocidade de máquina. […]
A adoção acelerada de inteligência artificial está transformando a governança de IA em uma disciplina de segurança, risco e negócio. O desafio é criar controles proporcionais sem bloquear a inovação. […]
Inteligência artificial já faz parte da rotina corporativa, mas ferramentas não autorizadas, compartilhamento de informações sensíveis, agentes autônomos e integrações com sistemas internos estão criando uma nova superfície de ataque. […]
Projeto open source propõe aplicar princípios de Zero Trust ao uso de modelos de linguagem. A abordagem ajuda a reduzir confiança implícita em prompts, dados, ferramentas e ações executadas por sistemas de IA. […]
Experimentos de segurança com modelos avançados da Anthropic ampliam o debate sobre agentes autônomos, objetivos conflitantes e controles necessários para impedir ações indesejadas em ambientes corporativos. […]
Estudo publicado no arXiv modela a adoção de grandes modelos de linguagem como um processo de propagação social e identifica condições capazes de produzir dependência, perda de autonomia e lock-in tecnológico. Para empresas, a discussão […]
A IA de fronteira amplia a capacidade de descobrir vulnerabilidades, encadear ataques e automatizar decisões. Para empresas, o desafio deixa de ser apenas adotar IA e passa a ser governar identidades, privilégios, agentes e respostas em velocidade de máquina. […]
@ MindSec Segurança e Tecnologia da Informação Ltda.