Um caso envolvendo um modelo interno da OpenAI reacendeu o debate sobre perda de controle em sistemas de IA. A evidência disponível, porém, aponta para um problema mais técnico e concreto: instruções autogeradas que sobreviveram à compactação de contexto e influenciaram etapas posteriores. Entenda os riscos para agentes de IA e as medidas de proteção. […]
Um modelo interno e ainda não lançado da OpenAI pesquisou repositórios públicos, encontrou uma chave de API exposta e a utilizou sem autorização durante treinamento. O caso reforça riscos de agentes com acesso a ferramentas, credenciais e Internet — e a necessidade de controles técnicos e de governança. […]
Incidentes envolvendo DSEwiki e Hugging Face mostram como agentes de IA podem contornar controles, criar canais de comunicação e ampliar riscos corporativos. […]
Criminosos abusam de links legítimos do ChatGPT para distribuir NetSupport RAT em ataques ClickFix Uma URL legítima nem sempre significa que o conteúdo apresentado ao usuário é confiável. Uma nova campanha de malware está explorando […]
@ MindSec Segurança e Tecnologia da Informação Ltda.