Principais tendências de IA em cibersegurança

25/12/2024 mindsecblog Artigos, Notícias 0

Principais tendências de IA em cibersegurança para ficar de olho em 2025

Especialistas da Proofpoint apresentam as transformações estratégicas em segurança e as tecnologias para proteção das empresas no próximo ano

Chegado dezembro, passamos a olhar para o ano que se aproxima. Avaliando 2025, vemos que o cenário da segurança cibernética vai continuar evoluindo em um ritmo alucinante, já que os agentes de ameaças continuam aperfeiçoando sua arte de roubo de dados. Eles estão usando a inteligência artificial (IA) para criar códigos e iscas mais convincentes (especialmente em idiomas que, tradicionalmente, têm sido uma barreira, como o português), automatizar ataques e atingir pessoas com mais precisão. Ao mesmo tempo, estão cada vez mais voltando sua atenção para os indivíduos, usando as mídias sociais e os aplicativos de mensagens como um campo de testes antes de se dirigirem a organizações.

Especialistas da Proofpoint, empresa líder em segurança cibernética e compliance, apresentam suas previsões de IA em cibersegurança, lançando luz sobre as tendências e tecnologias que definirão a próxima onda de desafios e soluções de segurança.

Os agentes de ameaças explorarão a IA manipulando dados privados

Estamos testemunhando uma convergência no domínio da IA, à medida em que os modelos se tornam cada vez mais eficientes e os agentes de IA semiautônomos se integram aos fluxos de trabalho automatizados. “Essa evolução abre possibilidades intrigantes para os agentes de ameaças atenderem a seus próprios interesses, especificamente em termos de como eles podem manipular dados privados usados por LLMs (Large Language Models)”, explica Daniel Rapp, diretor de IA e dados da Proofpoint.

Como os agentes de IA dependem cada vez mais de dados privados em e-mails, repositórios de documentos SaaS (Software como Serviço) e fontes semelhantes para o contexto, a proteção desses vetores de ameaças se tornará ainda mais essencial daqui para frente. “Em 2025, começaremos a ver as tentativas de manipular fontes de dados privados. Por exemplo, poderemos ver agentes de ameaças enganando propositalmente a IA, contaminando dados privados usados por LLMs para confundir a IA ou fazer com que ela faça algo prejudicial. Esse desenvolvimento exigirá maior vigilância e medidas de segurança avançadas para garantir que a IA não seja enganada por informações ruins”, detalha Rapp.

2025: A era das “máquinas de tomada de decisão” por meio da IA

A IA Generativa (GenIA) deve ir além da geração de conteúdo e se tornará o mecanismo de tomada de decisões por trás de inúmeros processos de negócios, de RH ao marketing e DevOps (parceria entre TI e desenvolvimento de software que enfatiza comunicação, colaboração e integração). “Em 2025, a IA se tornará um ‘aprendiz’ indispensável dos desenvolvedores, fazendo tudo, desde a automação de correções de bugs até testes e otimização de código”, afirma Ravi Ithal, gerente geral da Normalyze, adquirida pela Proofpoint em 2024.

De acordo com Ithal, a tendência de usar ferramentas de desenvolvimento assistidas por IA se acelerará no próximo ano, preencherá as lacunas de habilidades, reduzirá as taxas de erro e ajudará os desenvolvedores a acompanhar os ciclos de lançamento mais rápidos do DevOps. Isso transformará os pipelines de DevOps em “linhas de produção preditivas” e criará fluxos de trabalho que corrigem problemas antes que eles afetem a produção.

IA se tornará uma parte essencial de como fazemos negócios

Há alguns anos, a computação em nuvem e a mobilidade eram apenas palavras da moda, mas agora elas fazem parte da estrutura de como as organizações fazem negócios. “As tecnologias de IA, e especialmente a GenIA, estão sendo mais avaliadas do ponto de vista do comprador, e muitos as consideram um risco para terceiros. Os CISOs estão agora na berlinda e devem tentar entender tanto o risco versus recompensa quanto a materialidade do risco quando se trata de ferramentas de IA”, pontua Patrick Joyce, diretor global de Chief Information Security Officer (CISO).

Segundo o especialista, os CISOs estão se perguntando como os funcionários estão usando a IA para entender onde eles podem estar colocando informações confidenciais em risco. Como resultado, haverá uma melhor definição sobre como os LLMs estão alimentando as ferramentas de IA.

Sobre a Proofpoint

A Proofpoint, Inc. é uma empresa líder em cibersegurança e compliance que protege os maiores ativos e maiores riscos das organizações: suas pessoas. Com um conjunto integrado de soluções baseadas em nuvem, a Proofpoint ajuda empresas de todo o mundo a interromper ameaças direcionadas, proteger seus dados e tornar seus usuários mais resilientes contra ataques cibernéticos. Organizações líderes de todos os tamanhos, incluindo 85% da Fortune 100, contam com a Proofpoint para soluções de segurança e conformidade centradas em pessoas que mitigam seus riscos mais críticos em e-mail, nuvem, mídia social e web. Mais informações estão disponíveis em https://www.proofpoint.com/br.