Como proteger sua empresa no mundo do ChatGPT
Com o potencial de ser tão revolucionário quanto a internet, os smartphones e a computação em nuvem, o surgimento de ferramentas de IA generativas como ChatGPT e GitHub CoPilot, sem dúvida, abrirá novas possibilidades e desafios para as empresas. O avanço rápido e abrangente da IA aumentou as apostas para aqueles que procuram aproveitar essa tecnologia de forma responsável, ao mesmo tempo em que se preparam para o impacto potencial da adoção da IA por criminosos cibernéticos. Com sua capacidade de escrever código que pode ajudar a identificar e explorar sistemas vulneráveis, gerar e-mails de phishing hiperpersonalizados e até mesmo imitar vozes de executivos para autorizar transações fraudulentas, é essencial que as organizações reavaliem seu cálculo de risco em torno da IA e considerem estratégias defensivas e ofensivas contra hackers.
Aqui estão três das principais estratégias que os executivos de TI e segurança devem considerar ao avaliar sua postura de segurança cibernética na era da IA:
1. Combater IA com IA
Algumas pessoas temem o pior com a IA e imaginam um futuro em que uma máquina pensante onisciente se torna uma super arma que ameaça a humanidade em uma “corrida armamentista de IA”. Essa descrição é bastante exagerada e a realidade da IA é muito menos ameaçadora.
Os maus atores, sem dúvida, usarão ferramentas de IA para fins nefastos. Mas as ferramentas de IA existentes são geralmente limitadas à codificação básica e possuem proteções para evitar a escrita de códigos verdadeiramente maliciosos.
Pelo lado positivo, a IA tem o potencial de aprimorar as habilidades das equipes de defesa de segurança cibernética e aumentar suas habilidades, principalmente no campo da segurança cibernética, onde vemos uma escassez de profissionais qualificados. Ao usar ferramentas de IA, os analistas iniciantes podem receber assistência com tarefas de rotina e os engenheiros de segurança podem experimentar um aumento em seus recursos de codificação e script.
A chave para o sucesso é investir em ferramentas de IA e treinamento para aprimorar o conhecimento, em vez de combater cada ameaça ofensiva de IA com uma contramedida de IA.
2. Proteger o e-mail
A maioria dos ataques cibernéticos começa em nossas caixas de entrada de e-mail. Agentes mal-intencionados enviam e-mails fraudulentos, aproveitando táticas de phishing e engenharia social para obter credenciais que lhes permitirão acessar uma organização. Avanços recentes em IA vão tornar esses e-mails cada vez mais sofisticados e realistas, e a integração de chatbots alimentados por IA em kits de ferramentas de engenharia social ampliará o escopo e o alcance desses ataques.
Profissionais de segurança cibernética devem reconhecer o potencial de ataques de phishing e engenharia social alimentados por IA e educar os usuários sobre como detectá-los e responder a eles. É imperativo continuar treinando os usuários para identificar ataques de phishing, fornecer uma plataforma para relatar rapidamente atividades suspeitas e contar com a ajuda deles na estratégia geral de defesa cibernética.
No entanto, erros humanos são inevitáveis e devemos proteger os usuários de ataques hackers, contando também com defesas técnicas. Infelizmente, as ferramentas básicas de filtragem nos principais serviços de e-mail muitas vezes não são suficientes. As empresas devem buscar ferramentas avançadas de segurança de e-mail para bloquear de forma abrangente ataques em diferentes vetores, mesmo de remetentes ou domínios confiáveis.
3. Defender os dados
Embora o phishing e a coleta de credenciais sejam frequentemente os primeiros passos em qualquer ataque, eles não representam o quadro completo. Ao considerar os riscos apresentados pela IA aos dados e aplicativos de uma empresa, é importante reconhecer a natureza multifacetada dos possíveis ataques.
As organizações devem ir além da proteção de redes com um perímetro tradicional de castelo e fosso e, em vez disso, se concentrar em onde os dados estão armazenados e como os usuários e aplicativos os acessam. Para muitas empresas, isso significa adotar uma arquitetura Zero Trust com uma solução de serviço de acesso seguro de borda (SASE) fortificada com autenticação multifator (MFA) resistente a phishing.
Aplicativos e APIs expostos à internet são vulneráveis a vários tipos de ataques, incluindo aqueles realizados por bots ou outros ataques movidos por IA. Esses aplicativos devem contar com proteções adequadas, como criptografia, um firewall de aplicativos web (WAF), validação de entrada e limitação de taxa, para mitigar bots ou futuros ataques movidos por IA.
À medida que as empresas adotam ferramentas de IA, elas devem garantir que seus usuários não estejam usando ou vazando dados da empresa indevidamente. Algumas empresas, como o JPMorgan Chase, decidiram restringir o uso do ChatGPT por parte dos funcionários, mas, no mínimo, as empresas devem implementar políticas de uso aceitável, controles técnicos e medidas de prevenção de perda de dados para mitigar quaisquer riscos.
O caminho a seguir
É essencial que os profissionais de segurança cibernética permaneçam curiosos e experimentem ferramentas de IA para obter uma melhor compreensão de seus possíveis usos para fins bons e maliciosos. Para se proteger contra ataques, as organizações devem procurar maneiras de ampliar seus próprios recursos, seja usando o ChatGPT ou explorando ferramentas e plataformas de segurança cibernética que tenham acesso a dados de treinamento abrangentes e aproveitem a inteligência contra ameaças em várias dimensões de defesa.
A questão fundamental é que as empresas devem implementar medidas de segurança abrangentes que evoluam com o mundo em constante mudança. Embora a IA tenha surgido como uma possível ameaça, essa tecnologia também pode trazer benefícios poderosos, só precisamos saber como usá-la com segurança.
Este artigo é parte de uma série sobre as tendências e os assuntos mais recentes que influenciam os tomadores de decisões de tecnologia hoje em dia.
Este artigo foi originalmente produzido pela Security Boulevard
Principais conclusões
Após ler este artigo, você entenderá:
O impacto que a adoção da IA por criminosos cibernéticos pode ter
Como avaliar o cálculo de risco em torno da IA considerando tanto a estratégia defensiva quanto a ofensiva
Três considerações principais para avaliar a postura de segurança na era da IA