A inteligência artificial generativa (GenAI) está transformando o cenário da cibersegurança, mas nem sempre para melhor. Uma pesquisa recente do Gartner revelou que 29% dos líderes de cibersegurança relataram ataques às suas infraestruturas de aplicações corporativas de GenAI nos últimos 12 meses. Esse aumento nos ataques destaca a necessidade urgente de repensar as estratégias de segurança cibernética.

Adicione ao Google Notícias
Neste artigo
  1. Quais são os principais tipos de ataques que as empresas estão enfrentando com a GenAI?
  2. Como a GenAI está mudando o panorama dos ataques cibernéticos?
  3. O que os líderes de cibersegurança precisam fazer para se proteger?
  4. Quais são as áreas de maior preocupação em relação à segurança da GenAI?
  5. Perguntas Frequentes sobre Ataques à infraestrutura de aplicações

Quais são os principais tipos de ataques que as empresas estão enfrentando com a GenAI?

A pesquisa do Gartner, realizada entre março e maio de 2025, aponta para diversas formas de ataques que exploram a GenAI. Deepfakes, que utilizam engenharia social ou exploram processos automatizados, afetaram 62% das organizações. Além disso, 32% das empresas sofreram ataques que manipularam prompts de aplicações de IA.

Os assistentes de chatbot, por exemplo, são particularmente vulneráveis a técnicas de prompts adversariais. Atacantes podem usar esses prompts para manipular os Grandes Modelos de Linguagem (LLMs), induzindo-os a fornecer respostas tendenciosas ou maliciosas. A Cloudflare investe no Brasil para frear o recorde de ataques cibernéticos, mostrando a crescente preocupação com a segurança digital.

Como a GenAI está mudando o panorama dos ataques cibernéticos?

Segundo Akif Khan, Vice-Presidente Analista do Gartner, a rápida adoção da GenAI tem levado a um aumento nos ataques de phishing, deepfakes e engenharia social. Paralelamente, novas ameaças estão surgindo, como ataques à infraestrutura das aplicações de GenAI e manipulações de prompts. A análise da SAP para a era da inteligência artificial no mundo corporativo também ressalta a importância de se adaptar a essas mudanças.

Essa evolução exige que os líderes de cibersegurança estejam atentos e preparados para enfrentar um leque maior de ameaças. É crucial entender como a GenAI pode ser explorada para fins maliciosos e implementar medidas preventivas eficazes.

O que os líderes de cibersegurança precisam fazer para se proteger?

A pesquisa do Gartner indica que 67% dos líderes de cibersegurança reconhecem a necessidade de mudanças significativas nas abordagens de segurança cibernética para mitigar os riscos da GenAI. No entanto, Akif Khan adverte contra mudanças radicais ou investimentos isolados. A estratégia ideal é fortalecer os controles centrais e implementar medidas direcionadas para cada nova categoria de risco.

Em vez de reinventar a roda, as organizações devem focar em aprimorar as práticas de segurança existentes e adaptá-las ao novo cenário imposto pela GenAI. Isso inclui a implementação de firewalls mais robustos e programas de treinamento para conscientizar os funcionários sobre os perigos de phishing e engenharia social.

Quais são as áreas de maior preocupação em relação à segurança da GenAI?

Uma das maiores preocupações é a vulnerabilidade dos modelos de linguagem a ataques de prompt injection. Esses ataques exploram a capacidade da IA de gerar texto com base em instruções fornecidas, permitindo que invasores manipulem o modelo para realizar ações não autorizadas, como vazar informações confidenciais ou disseminar conteúdo malicioso. A OpenAI atinge avaliação de US$ 500 bilhões e lidera o mercado global de IA, evidenciando a importância de proteger essa tecnologia.

Outro ponto crítico é a proliferação de deepfakes, que podem ser usados para campanhas de desinformação em larga escala ou para fraudes financeiras. A capacidade de criar vídeos e áudios falsos com alta qualidade torna cada vez mais difícil distinguir entre o real e o falso, representando um desafio significativo para a segurança cibernética.

Perguntas Frequentes sobre Ataques à infraestrutura de aplicações

Quais são os tipos mais comuns de ataques que exploram a inteligência artificial generativa?

Os ataques mais comuns incluem o uso de deepfakes para engenharia social e a exploração de vulnerabilidades em prompts de aplicações de IA, que podem manipular os modelos de linguagem a fornecer respostas maliciosas ou tendenciosas.

Como as empresas podem se proteger contra esses novos tipos de ataques?

As empresas devem fortalecer seus controles centrais de segurança, implementar medidas específicas para cada categoria de risco e investir em programas de treinamento para conscientizar os funcionários sobre os perigos de phishing e engenharia social.

Qual a importância de monitorar e atualizar as estratégias de cibersegurança?

É crucial monitorar continuamente o cenário de ameaças e atualizar as estratégias de cibersegurança para se adaptar aos novos riscos introduzidos pela inteligência artificial generativa, garantindo uma proteção eficaz contra ataques cada vez mais sofisticados.