Preparação para o futuro da IA na segurança cibernética
A IA está na mente de todos hoje. Os modelos de linguagem grande (LLMs), como aqueles que alimentam o ChatGPT da OpenAI, estimularam nossa imaginação: observamos novas possibilidades para o uso da IA generativa para criar soluções inovadoras.
Como profissionais de segurança, pensamos em como os cibercriminosos usam a IA para criar novos tipos de ataques e fortalecer seus métodos existentes. Enquanto isso, contemplamos a IA defensiva e exploramos maneiras de usar a IA para detectar e defender contra ameaças.
Ainda assim, muitas organizações estão se concentrando apenas no que a IA pode fazer hoje ou no curto prazo. Poucas estão prevendo o tremendo impacto que a IA provavelmente terá em nossas empresas e em nossas vidas em 5, 10 ou 20 anos. Porém, precisamos visualizar esse futuro, porque para nos prepararmos adequadamente para ele, temos que começar a planejar agora.
Entender o hoje e prever o futuro
A IA ainda é uma tecnologia um pouco imatura. Embora o aprendizado de máquina (ML) esteja mais maduro, a aplicação do ML ainda está em seus estágios iniciais. As organizações hoje, em sua maioria, estão coletando dados e fazendo análises básicas. Algumas estão experimentando LLMs para gerar texto ou usando ferramentas de design com IA para criar ilustrações exclusivas. Mas a verdadeira inferência de IA ainda não está disponível: os modelos ainda não conseguem tirar conclusões ou gerar insights significativos a partir de dados ao vivo, mesmo que alguns fornecedores digam o contrário.
Essa falta de inferência fica clara quando tentamos usar a IA e o ML para algo mais do que gerar texto ou imagens. Quando eu estava fazendo meu mestrado em ciência de dados e ML, tínhamos um projeto para tentar prever quais jogadores de beisebol seriam incluídos no Hall da Fama. O modelo que criamos descobriu que o principal fator de previsão era o número de rebatidas, quantas vezes o jogador rebateu ao longo de sua carreira. Quanto mais longa a carreira, e quanto mais rebatidas, maior a probabilidade de ele entrar no Hall da Fama.
Foi um resultado interessante, mas o modelo não conseguiu produzir nenhum insight a partir dele. O modelo não conseguiu nos dizer por que as rebatidas poderiam ser o melhor fator de previsão. Nós, humanos, percebemos, porém, que para ter uma carreira longa, com muitas rebatidas, é preciso ser um excelente jogador. E quando você tem muitas rebatidas, é mais provável que você tenha um número razoável de rebatidas e home runs.
Quando os modelos começarem a compreender o significado e a adquirir a capacidade de fazer inferências, veremos efeitos mais dramáticos da IA.
Dada a velocidade das mudanças na IA, a inferência estará aqui antes que percebamos. Pense em quanto os LLMs progrediram nos últimos anos. Eles deixaram de fornecer preenchimento básico de texto para oferecer suporte a conversas robustas baseadas em texto que permitem prompts longos, aceitam entradas visuais e retêm o contexto entre as sessões. Enquanto isso, os aumentos contínuos na capacidade dos computadores permitem que os modelos ingiram rapidamente e aprendam com mais e mais dados, o que, por sua vez, ajuda esses modelos a produzir resultados melhores e mais precisos.
Daqui a 20 anos, a IA e outras tecnologias avançadas provavelmente remodelarão o nosso mundo consideravelmente. Por exemplo, será possível ver menos pessoas com carros, porque seremos capazes de chamar carros totalmente autônomos sob demanda. Fazer compras, limpar a casa, cortar a grama e outras tarefas diárias provavelmente serão simplificadas pela tecnologia.
E sim, é possível que no futuro a IA mude muitos dos nossos empregos atuais. No setor de tecnologia, talvez não será mais necessário escrever códigos, por exemplo. Mas ainda precisaremos que as pessoas entendam como projetar soluções baseadas em IA que atendam às necessidades das empresas, como gerenciar essa tecnologia e como protegê-la.
Dando os primeiros passos em direção a uma estratégia de longo prazo
Como começar a desenvolver uma estratégia hoje que ajudará sua organização a maximizar o valor da IA no futuro?
Entender a tecnologia: o primeiro passo na construção de uma estratégia de IA no longo prazo é entender o suficiente da tecnologia para poder usá-la. Você não precisa se tornar um especialista em ciência de dados ou ML. Mas como l íder de segurança, você deve entender como os invasores usam a IA e como sua equipe pode aplicar a IA para antecipar e se defender contra esses ataques.
Você também deve começar a pensar em como sua organização pode agregar conjuntos de dados, o que será necessário para que a IA e o ML funcionem. Em seguida, você precisará proteger esses conjuntos de dados agregados.Planejar o apoio aos casos de uso da empresa: hoje, algumas organizações estão tão ansiosas para adotar a IA que se concentram imediatamente na escolha do melhor modelo de ML. Em seguida, elas tentam encontrar um problema da empresa para resolver. Mas você deve identificar primeiro os problemas da empresa que precisa resolver. É de vital importância iniciar com o problema da empresa em vez da tecnologia.
Que tipos de problemas da empresa podem ser bons candidatos para a IA? Muitas tarefas repetitivas, como resumir reuniões ou responder a solicitações iniciais de atendimento ao cliente, já são realizadas pela IA.
No futuro, as organizações podem usar a IA e o ML em situações em que os modelos aprendam mais com as experiências e informações externas. Assim, por exemplo, no setor bancário, as equipes de fraude poderiam empregar a IA para melhorar a precisão da detecção de fraudes, aprendendo com os resultados reais. Além disso, as equipes de marketing de todos os setores poderiam usar a IA para agilizar a criação de conteúdo: poderiam inserir preferências e estilos de redação e fornecer feedback que os modelos usariam para melhorar os resultados subsequentes.
Como líderes de segurança, precisamos começar a planejar esses e outros casos de uso das empresas. Precisamos encontrar maneiras de ajudar as equipes corporativas a incorporar a IA em seus fluxos de trabalho para resolver problemas das empresas sem comprometer a conformidade e a segurança.
Modernizar a segurança
Para nos prepararmos para o futuro da IA, precisamos de modernizar a segurança, e precisamos iniciar essa modernização agora. Muitas equipes de segurança ainda operam da mesma forma que nos últimos 15 ou 20 anos. Elas estão reagindo às ameaças mais recentes e implementando várias soluções pontuais para lidar com vulnerabilidades. Mas esse tipo de abordagem nos levou ao ponto em que estamos agora: ocorrem cada vez mais violações a cada dia. Precisamos ficar menos entusiasmados com o próximo grande produto pontual e mais focados na missão de proteger nossos clientes, trabalhadores e empresas.
Conforme as equipes de segurança ficam para trás, os invasores avançam rapidamente. Num futuro não muito distante, veremos mais tentativas de contornar modelos de IA usados para segurança cibernética, explorando dados que não são levados em conta nesses modelos. Também veremos malware orientado por IA que pode aprender com métodos defensivos e modificar rapidamente seu ataque.
Para modernizar a segurança, temos que repensar quais ferramentas e habilidades precisamos e como devemos trabalhar. Prever onde estaremos em 5, 10 ou 20 anos nos ajudará a descobrir o que precisamos fazer hoje. Aqui estão quatro recomendações sobre como começar:
Implementar as tecnologias e ferramentas corretas: modernizar a segurança requer ferramentas avançadas. As organizações precisam de tecnologia que possa antecipar e detectar automaticamente novos tipos de ameaças impulsionadas pela IA. Hoje, se observarmos um novo endereço de IP tentando fazer VPN na Cloudflare, nossa equipe de SOC poderá ter que escrever uma regra estática para evitar o acesso. Mas nesse caso, estamos resolvendo um problema específico em vez de abordar uma questão maior.
No futuro, provavelmente usaremos recursos integrados de IA e ML que podem detectar e mitigar automaticamente esses tipos de ameaças.
Ferramentas com recursos de IA também poderiam nos ajudar a simplificar a conformidade. Podemos ter ferramentas que recomendem alterações nos controles ou políticas sempre que novos regulamentos forem introduzidos.Abordar a lacuna de competências: como a IA assumirá algumas tarefas de baixo nível, as equipes de TI e segurança precisarão de pessoas com conjuntos de habilidades mais avançados. As equipes de TI precisarão de pessoas com experiência em ciência de dados, ML e redes neurais.
Ao mesmo tempo, as equipes de TI e de negócios precisarão de conhecimento especializado: se quiser usar a IA para melhorar a tomada de decisões médicas, por exemplo, precisará colaborar com profissionais médicos. A ciência de dados deve ser a interseção da ciência da computação, da matemática e da estatística, e do conhecimento especializado.
As equipes de segurança precisam de pessoas que possam interpretar os resultados gerados pelos modelos de IA e determinar como as estratégias ou políticas devem mudar para lidar com as ameaças em evolução. Um dos erros mais comuns que tenho visto é prestar atenção ao resultado do modelo sem entender o significado. Lembre-se daquele exemplo do Hall da Fama do beisebol: se apenas prestarmos atenção aos resultados (que descobriram que as rebatidas são o melhor indicador de quem entra), os jogadores mais jovens podem presumir que deveriam se concentrar apenas em ter o maior número de rebatidas. Na verdade, eles devem trabalhar no desenvolvimento de suas habilidades para que possam ter uma carreira longa e marcante.Modificar as operações: as equipes de segurança também precisam mudar a forma como operam. No futuro, ainda precisaremos de um SOC com 250 pessoas, globalmente disperso, operando 24 horas por dia, todos os dias? Podemos precisar de operações 24 horas por dia, mas provavelmente seremos capazes de concluir muitas das tarefas humanas existentes com computadores, assim, seremos capazes de concentrar os humanos em outras tarefas.
Poderíamos ter um SOC autônomo em 5 a 10 anos, o que significa que devemos começar a formular um plano agora de como ele irá operar. Precisamos desse tempo de espera devido à complexidade dos nossos ambientes de segurança. Já é difícil proteger esses ambientes, incorporar a IA será um desafio.
Se pudermos economizar algum tempo com um SOC autônomo, também precisaremos investir mais tempo na manutenção da integridade dos dados e na manutenção da conformidade regulatória. Quanto mais usarmos modelos de IA internamente, mais dados precisaremos para gerenciar e controlar. Precisamos saber onde estão os dados, garantir que sejam precisos e garantir que possamos proteger a confidencialidade.
Tem havido muita discussão sobre a governança da IA, mas o fator mais importante são os dados. Já existem inúmeras leis globais sobre como e onde podemos usar e armazenar dados. As equipes de segurança terão que garantir que suas organizações continuem a cumprir as leis de soberania de dados , bem como os regulamentos de privacidade de dados. A conformidade pode se tornar mais difícil se as equipes de TI mudarem o local onde estão executando modelos de IA, por exemplo, movendo dados da nuvem de volta para ambientes no local.Começar a consolidar os parceiros de tecnologia: pode ser difícil agregar dados e gerar os insights orientados por IA necessários quando você usa soluções de vários fornecedores. Nossos ambientes de TI e segurança são complexos o suficiente sem a necessidade de gerenciar todas essas soluções diferentes. À medida que sua organização olha para o futuro, você deve começar a consolidar soluções. Trabalhar com quatro ou cinco parceiros principais é muito mais simples do que tentar gerenciar dados de cinquenta.
Olhar para o futuro e planejar no presente
A IA está aqui, mas vimos apenas os primeiros vislumbres do seu impacto em nosso trabalho e em nossas vidas. Como líderes de segurança, temos que começar a planejar agora as mudanças que estão por vir. Com a estratégia certa no longo prazo, estaremos melhor posicionados para apoiar o uso interno da IA para os objetivos da empresa, empregar a IA para reforçar a segurança e nos defender contra as ameaças impulsionadas pela IA.
Saiba como a Cloudflare pode ajudar sua organização a começar a criar e implantar aplicativos de IA na rede global da Cloudflare hoje mesmo. E descubra como você pode modernizar a segurança para o futuro da IA com a nuvem de conectividade da Cloudflare.
Este artigo é parte de uma série sobre as tendências e os assuntos mais recentes que influenciam os tomadores de decisões de tecnologia hoje em dia.
Autoria
Grant Bourzikas — @grantbourzikas
Diretor de segurança, Cloudflare
Principais conclusões
Após ler este artigo, você entenderá:
A importância de planejar agora para garantir o futuro da IA
Os dois primeiros passos para o desenvolvimento de uma estratégia de longo prazo
Quatro recomendações de como modernizar a segurança