PERSPECTIVA
Redefina a resiliência: Cibersegurança na era gen AI
5 MINUTOS DE LEITURA
2 maio 2024
Resumo
- Cibercriminosos usam cada vez mais ataques impulsionados por IA, como ransomware e phishing, para mirar em organizações.
- Certas indústrias são mais visadas devido à complexidade de suas infraestruturas tecnológicas, o que as expõe a ataques mais elaborados e sofisticados.
- Para enfrentar esses riscos, é essencial que as organizações reforcem suas estratégias e adotem princípios de segurança desde o início de sua jornada com a gen AI.
Gen AI Segura
Quando se trata de gen AI e cibersegurança, quem tem vantagem: os atacantes ou os defensores?
Impacto da gen AI em ambiente de ameaças
Cibercriminosos estão cada vez mais interessados em aproveitar o potencial da gen AI, o que resulta no crescimento dos ataques cibernéticos, incluindo ransomware. Tais ataques geralmente começam com esquemas de phishing desenvolvidos por meio da IA generativa, impactando áreas como governos locais, educação, indústria e saúde. Além disso, temos observado um crescimento no uso de deepfakes de voz que simulam executivos para realizar autorizações financeiras fraudulentas.
Agentes maliciosos utilizam LLMs avançados para desenvolver ransomware em Python, disseminado por meio de métodos de ofuscação e que aumenta as chances de sucesso desses ataques. Setores como serviços financeiros, governamentais e de energia - alvos frequentes devido ao uso de tecnologias mais sofisticadas - são mais vulneráveis a ataques que empregam IA generativa.
56%
de executivos acreditam que os atacantes terão vantagem sobre os defensores nos próximos dois anos.
76%
Aumento nos ataques de ransomware desde o lançamento do ChatGPT.
1.265%
Aumento de ataques de phishing nos últimos dezoito meses.
Vulnerabilidades de gen AI
A gen AI aumenta a exposição das organizações a um leque mais amplo de ameaças e ataques sofisticados, além de introduzir novos pontos de vulnerabilidade. À medida que as implementações de IA generativa se expandem de projetos piloto para aplicações em larga escala, os riscos crescem devido à complexidade e extensão dessas iniciativas. Muitas organizações ainda não estão preparadas para lidar com essas novas vulnerabilidades de forma eficaz.
Para mitigar novos riscos, é fundamental implementar recursos como a detecção de Shadow AI, a filtragem de prompts e respostas de LLM, e a realização de testes de integração específicos para IA. As organizações devem prontamente revisar e fortalecer suas medidas de segurança para se defenderem contra ataques baseados em IA e para assegurar a proteção de seus próprios sistemas de IA. A abordagem mais eficiente para obter vantagem nesse contexto é adotar a segurança por design.
A segura jornada da gen AI
Como acelerar a adoção em massa de gen AI e garantir a segurança dos ambientes de gen AI:
A segurança de gen AI deve ser uma parte integral do GRC, estabelecendo um claro quadro de governança, políticas e processos.
Conduza uma avaliação de segurança abrangente para entender a maturidade atual da segurança em seu ambiente de IA generativa. Avalie as arquiteturas de IA generativa e garanta o alinhamento com as práticas recomendadas do setor.
As organizações devem focar na segurança completa dos ambientes de gen AI, desde a camada de dados até o modelo base, abranger as aplicações de gen AI e incluir o gerenciamento de acesso e controles de identidade.
Reinvente a resiliência cibernética com gen AI
A gen AI também apresenta uma oportunidade para a defesa cibernética e a reinvenção da segurança cibernética. Ao aproveitar totalmente a gen AI, as organizações podem virar o jogo contra possíveis ataques e aprimorar suas capacidades de defesa cibernética.
As organizações precisam incorporar tecnologias de defesa impulsionadas por IA e testar o uso das tecnologias de gen AI que poderiam ser utilizadas por agentes de ameaças contra elas. Isso inclui a implementação de testes de penetração movidos a IA, práticas que se tornarão essenciais para as organizações à medida que as regulamentações de gen AI evoluírem.
Muitas empresas de plataformas e hiperescaladores estão lançando recursos de segurança de IA em seus próprios ambientes e para consumo mais amplo. Além disso, há novos participantes no espaço que criaram soluções específicas de segurança gen AI do zero para proteger ambientes.