Pesquisa da Irregular mostra que um agente de IA com acesso amplo pode fazer fine-tuning e substituir o próprio modelo sem instrução explícita, ampliando riscos de governança, privacidade e controle de mudanças. […]
Aplicações com LLMs ampliam a superfície de ataque ao conectar linguagem natural a dados, APIs e ações. Este guia técnico mostra como mapear exposição, testar vulnerabilidades e implementar controles em camadas. […]
Inteligência artificial já faz parte da rotina corporativa, mas ferramentas não autorizadas, compartilhamento de informações sensíveis, agentes autônomos e integrações com sistemas internos estão criando uma nova superfície de ataque. […]
Projeto open source propõe aplicar princípios de Zero Trust ao uso de modelos de linguagem. A abordagem ajuda a reduzir confiança implícita em prompts, dados, ferramentas e ações executadas por sistemas de IA. […]
Experimentos de segurança com modelos avançados da Anthropic ampliam o debate sobre agentes autônomos, objetivos conflitantes e controles necessários para impedir ações indesejadas em ambientes corporativos. […]
Estudo publicado no arXiv modela a adoção de grandes modelos de linguagem como um processo de propagação social e identifica condições capazes de produzir dependência, perda de autonomia e lock-in tecnológico. Para empresas, a discussão […]
Modelo da chinesa Z.ai alcançou 84,5 no CyberGym e superou concorrentes de fronteira na descoberta de vulnerabilidades. Os resultados, porém, mostram uma diferença importante entre localizar uma falha e transformá-la em exploração efetiva. […]
Criminosos abusam de links legítimos do ChatGPT para distribuir NetSupport RAT em ataques ClickFix Uma URL legítima nem sempre significa que o conteúdo apresentado ao usuário é confiável. Uma nova campanha de malware está explorando […]
Orçamento de Cibersegurança no Brasil: a IA está mudando não apenas quanto as empresas gastam, mas onde precisam investir Inteligência artificial amplia a capacidade de defesa, mas também cria novos ativos, identidades, aplicações e dados […]
Seu funcionário saiu do escritório. Seus dados foram junto? O trabalho híbrido mudou o perímetro. Se seus colaboradores podem trabalhar de qualquer lugar, sua segurança também precisa estar em qualquer lugar. O escritório deixou de […]
AWS Kiro: quando uma página maliciosa transforma Prompt Injection em execução de código A adoção de agentes de Inteligência Artificial nos ambientes de desenvolvimento está mudando rapidamente a forma como software é criado. Ferramentas capazes […]
@ MindSec Segurança e Tecnologia da Informação Ltda.