Uso de aplicativos de IA aumenta e chama a atenção de cibercriminosos

12/01/2024 mindsecblog Artigos, Notícias 8

Uso de aplicativos de IA aumenta e chama a atenção de cibercriminosos, segundo Netskope Threat Labs ataque aumento em 400%

Novo estudo detalha o grande crescimento da adoção de IA generativa, riscos de aplicações em nuvem, principais ameaças e adversários ao longo de 2023

A Netskope, líder em Secure Access Service Edge (SASE), compartilhou hoje um novo estudo mostrando que mais de 10% dos usuários corporativos acessam pelo menos um aplicativo de inteligência artificial (IA) generativa todos os meses, em comparação com apenas 2% há um ano. As descobertas, publicadas como parte do Cloud & Threat Report da Netskope, ressaltam o rápido crescimento na adoção de aplicativos de IA generativa nas empresas e os riscos de segurança emergentes que acompanham esta onda. O Cloud & Threat Report anual da Netskope detalha as principais tendências de segurança na nuvem em 2023 e antecipa como a adoção da nuvem e a superfície de ataque continuarão a evoluir em 2024.

2023: O ano da IA generativa

A Netskope descobriu que mais de 10% de todos os usuários corporativos acessam pelo menos um aplicativo de IA generativa por mês, em comparação com apenas 2% há um ano. Em 2023, o ChatGPT foi o app mais popular, respondendo por 7% do uso corporativo.

Embora a Netskope espere que o número total de usuários que acessam aplicativos de IA nas empresas continue aumentando moderadamente no próximo ano, há uma comunidade emergente de usuários avançados que utiliza cada vez mais esses aplicativos. Com o uso aumentando exponencialmente, espera-se que os 25% dos principais usuários aumentem significativamente a atividade de IA generativa em 2024, à medida que este grupo encontra novas maneiras de integrar a tecnologia em suas rotinas diárias.

“Com o uso crescente de aplicativos de IA, os usuários corporativos estão mais propensos a expor dados confidenciais, como credenciais, informações pessoais ou de propriedade intelectual”, diz Ray Canzanese, diretor de Pesquisa de Ameaças do Netskope Threat Labs. “Para a ativação segura de aplicativos de IA, as organizações devem implementar controles adequados e recursos avançados de proteção de dados, ao mesmo tempo em que se concentram em como os funcionários podem usar a IA de forma produtiva.”

Uso crescente de apps em nuvem

A adoção geral de aplicações em nuvem continuou a aumentar ao longo do ano, com os usuários corporativos experimentando novas ferramentas de forma consistente e aumentando o uso das mais populares.

Os destaques do estudo incluem:

O número de apps em nuvem acessados pelas empresas aumentou em média 19% ao ano, com os usuários saltando de 14 para 20 apps diferentes em apenas dois anos.

Metade dos usuários corporativos interage com entre 11 e 33 aplicativos em nuvem por mês, com os principais 1% usando mais de 96 apps mensalmente. As interações com esses aplicativos em nuvem estão aumentando em um ritmo ainda mais acelerado, passando de pouco mais de mil atividades por mês, há dois anos, para quase duas mil atualmente.
A maioria dos usuários corporativos gera entre 600 e 5 mil atividades por mês, enquanto 1% dos principais usuários geram mais de 50 mil atividades por mês.

Ataques de engenharia social ocupam o primeiro lugar

A forma mais comum pela qual os invasores obtiveram acesso inicial em 2023 foi por meio de engenharia social, pois é a maneira mais fácil de encontrarem o caminho para sistemas que corrigem rapidamente vulnerabilidades de segurança conhecidas e limitam o acesso remoto. Os esquemas mais difundidos no ano passado usaram ataques de engenharia social, como phishing, para roubar credenciais, e cavalos de Tróia (trojans), para induzir as vítimas a baixar e instalar malware.

Os usuários caíram em golpes de phishing com uma frequência 3 vezes maior do que os usuários que baixaram cavalos de Tróia, com uma média de 29 em cada 10 mil usuários corporativos clicando em link de phishing todos os meses em 2023. Aplicações em nuvem e sites de compras estiveram entre os principais alvos ao longo do ano, enquanto os portais bancários, as redes sociais e os alvos governamentais também registaram um aumento notável.

Como segundo vetor de ataque mais comum, os usuários baixaram uma média de 11 cavalos de Tróia por mês para cada 10 mil usuários, o que significa que uma organização típica desse porte teria uma média de 132 cavalos de Troia baixados por usuários em sua rede por ano.

Ameaças em atividade e seus atores

A maior parte da atividade adversária dirigida aos clientes da Netskope em 2023 teve motivação criminosa, sendo os adversários geopolíticos mais ativos contra usuários na Ásia e na América Latina. A Netskope descobriu que os principais grupos criminosos, ao longo de 2023, estavam baseados na Rússia, e os principais grupos de ameaças geopolíticas estavam baseados na China (visando principalmente vítimas na Ásia, especialmente Singapura).

Muitos grupos de ameaças dependiam fortemente do Cobalt Strike para manter a permanência e implementar ransomware, infostealers (para roubo de informações), wipers (limpadores) e outros softwares maliciosos para extorquir suas vítimas. No relatório, o Netskope Threat Labs compartilha perfis dos cinco principais adversários vistos este ano, incluindo campanhas e atividades específicas provenientes de cada grupo detectado em primeira mão pela Netskope.

“Em 2023, vimos adversários aproveitando a crescente adoção de aplicações em nuvem por empresas, especialmente por meio de golpes de engenharia social. Esta tendência provavelmente continuará em 2024”, acrescenta Canzanese.

Principais conclusões para as empresas

A Netskope recomenda que as organizações tomem as seguintes medidas contra estas principais tendências:

Limitar o acesso apenas aos aplicativos que atendem a uma finalidade comercial legítima, criando um processo de revisão e aprovação para novos apps e implementando um processo de monitoramento contínuo que alertará os operadores de segurança quando os aplicativos estiverem sendo usados indevidamente ou forem comprometidos.
Garantir a ativação e adoção seguras de aplicativos de IA deve agora ser uma prioridade urgente para a maioria das organizações, incluindo a identificação de apps permitidos e a implementação de controles que permitam que os usuários utilizem todo o potencial do aplicativo, ao mesmo tempo que mantêm a proteção da organização contra riscos.
Continuar os investimentos para reduzir o risco de engenharia social, incluindo o treinamento sobre conscientização para a segurança e tecnologia anti-phishing.

Faça o download do Cloud and Threat Report 2024 completo: aqui. Para obter mais informações sobre ameaças habilitadas em nuvem e as últimas descobertas do Netskope Threat Labs, acesse o Threat Research Hub da Netskope.