Aprende a prepararte para el futuro de la IA en el ámbito de la ciberseguridad
Hoy en día, la IA está en la mente de todos. Los modelos de lenguaje de gran tamaño (LLM), como los que hacen funcionar ChatGPT de OpenAI, han despertado nuestra imaginación. Estamos descubriendo nuevas posibilidades para utilizar la IA generativa que nos permitan crear soluciones innovadoras.
Como profesionales de la seguridad, estamos pensando en cómo los ciberdelincuentes utilizan la IA para crear nuevos tipos de ataques y afianzar sus métodos existentes. Mientras tanto, estamos contemplando la IA defensiva y explorando formas de utilizar la IA para detectar mejor las amenazas y defendernos de ellas.
Aun así, demasiadas organizaciones se centran únicamente en lo que la IA puede hacer hoy o a corto plazo. Muy pocos prevén el tremendo impacto que probablemente tendrá en nuestros negocios y en nuestras vidas dentro de 5, 10 o 20 años. Sin embargo, tenemos que imaginar ese futuro, porque para prepararnos adecuadamente, tenemos que empezar a planificar ahora.
La importancia de comprender el presente e imaginar el futuro
La IA es todavía una tecnología algo inmadura. Si bien el aprendizaje automático está más desarrollado, su aplicación sigue estando en una etapa incipiente. Hoy en día, las organizaciones recopilan principalmente datos y realizan análisis básicos. Algunas experimentan con los LLM para generar texto o utilizan herramientas de diseño con IA para crear ilustraciones únicas. Pero la verdadera inferencia de la IA aún no está disponible. Los modelos aún no pueden sacar conclusiones ni generar información significativa a partir de datos en tiempo real, pese a que algunos proveedores te digan lo contrario.
Esa falta de inferencia es evidente cuando intentamos utilizar la IA y el aprendizaje automático para algo más que generar texto o imágenes. Cuando estaba trabajando en mi máster en ciencia de datos y aprendizaje automático, teníamos un proyecto para intentar predecir qué jugadores de béisbol entrarían en el Salón de la Fama. El modelo que creamos descubrió que el principal indicador era el número de turnos al bate, es decir, el número de veces que el jugador bateó a lo largo de su carrera. Cuanto más larga fuera su carrera y más veces bateara, más probabilidades tendría de entrar en el Salón de la Fama.
Fue un resultado interesante, pero del modelo no se podía desprender ninguna información. No podía decirnos por qué los turnos al bate podían ser el mejor indicador. Sin embargo, los humanos nos dimos cuenta de que para tener una carrera larga, con muchos turnos al bate, tienes que ser un jugador excelente. Y cuando tienes muchos turnos al bate, es más probable que tengas un número decente de hits y jonrones.
Cuando los modelos empiecen a entender el significado y adquieran la capacidad de hacer inferencias, veremos efectos más espectaculares de la IA.
Dada la velocidad de la evolución de la IA, la inferencia estará aquí antes de que nos demos cuenta. Piensa en lo que han avanzado los LLM en los últimos años. Han pasado de proporcionar una función básica de finalización de texto a admitir conversaciones sólidas basadas en texto que permiten instrucciones largas, aceptan entradas visuales y retienen el contexto entre sesiones. Mientras tanto, el aumento continuo de la potencia de cálculo está permitiendo que los modelos ingieran y aprendan cada vez más datos rápidamente, lo que a su vez ayuda a esos modelos a generar resultados mejores y más precisos.
En 20 años, la IA y otras tecnologías avanzadas probablemente redefinirán nuestro mundo considerablemente. Por ejemplo, es posible que veamos menos personas con coches, porque podremos disponer de coches totalmente autónomos bajo demanda. Puede que la tecnología agilice la compra de comida, la limpieza doméstica, la jardinería y otras tareas diarias.
Y sí, es posible que en el futuro la IA cambie muchos de nuestros trabajos actuales. En el sector tecnológico, es posible que ya no tengamos que escribir código, por ejemplo. Pero seguiremos necesitando gente que entienda cómo diseñar soluciones basadas en IA que satisfagan las necesidades empresariales, cómo gestionar esta tecnología y cómo protegerla.
Primeros pasos hacia una estrategia a largo plazo
Cómo puedes empezar a desarrollar hoy una estrategia que ayude a tu organización a maximizar el valor de la IA en el futuro
Aprende a entender la tecnología: el primer paso para desarrollar una estrategia de IA a largo plazo es entender la tecnología lo suficiente como para poder utilizarla. No tienes que convertirte en un experto en ciencia de datos o aprendizaje automático. Sin embargo, como responsable de seguridad, debes comprender cómo los atacantes utilizan la IA y cómo tu equipo puede aplicar la IA para anticiparse y defenderse de esos ataques.
También deberías empezar a pensar en cómo tu organización puede agregar conjuntos de datos, algo que necesitarás hacer para que la IA y el aprendizaje automático funcionen. A continuación, tendrás que proteger esos conjuntos de datos agregados.Elabora un plan para dar soporte a los casos de uso empresarial: hoy en día, algunas organizaciones están tan impacientes por implementar la IA que se centran en elegir el mejor modelo de aprendizaje automático. A continuación, intentan encontrar un problema empresarial que resolver. Pero primero debes identificar los problemas que debes abordar. Es de vital importancia empezar por los problemas de la empresa y no por la tecnología.
¿Qué tipos de problemas podrían ser buenos candidatos para la IA? La IA ya se encarga de muchas tareas repetitivas, tales como elaborar resúmenes de reuniones o responder a las solicitudes iniciales de atención al cliente.
En el futuro, las organizaciones podrían utilizar la IA y el aprendizaje automático en situaciones en las que los modelos aprendan más de las experiencias y las aportaciones externas. Así, por ejemplo, en el sector bancario, los equipos de lucha contra el fraude podrían utilizar la IA para mejorar la precisión de la detección del fraude mediante el aprendizaje de los resultados reales. Además, los equipos de marketing de todos los sectores podrían utilizar la IA para agilizar la creación de contenido. Por ejemplo, podrían definir preferencias y estilos de escritura, y proporcionar comentarios que los modelos utilizarían para mejorar los resultados posteriores.
Como responsables de seguridad, tenemos que empezar a planificar estos y otros casos de uso empresarial. Necesitamos encontrar formas de ayudar a los equipos empresariales a incorporar la IA en sus flujos de trabajo para resolver problemas sin poner en riesgo la conformidad y la seguridad.
Modernización de la seguridad
Para prepararnos para el futuro de la IA, tenemos que modernizar la seguridad, y tenemos que empezar ya. Muchos equipos de seguridad siguen operando como lo han hecho durante los últimos 15 o 20 años. Reaccionan a la última amenaza e implementan numerosas soluciones específicas para abordar las vulnerabilidades. Pero este tipo de enfoque nos ha llevado al punto en el que nos encontramos ahora: cada día se producen más fugas. Tenemos que dejar de preocuparnos por el lanzamiento del próximo producto específico espectacular y centrarnos más en la misión de proteger a nuestros clientes, usuarios y empresas.
Mientras los equipos de seguridad se van quedando atrás, los atacantes avanzan rápidamente. En un futuro no muy lejano, veremos más intentos de esquivar los modelos de IA utilizados para la ciberseguridad mediante la explotación de datos que no se incluyen en esos modelos. También veremos malware basado en IA que puede aprender de los métodos defensivos y modificar rápidamente su ataque.
Para modernizar la seguridad, tenemos que replantearnos qué herramientas y habilidades necesitamos, y cómo debemos trabajar. Imaginar dónde estaremos dentro de 5, 10 o 20 años nos ayudará a determinar lo que tenemos que hacer hoy día. Estas son las 4 recomendaciones para saber cómo empezar:
Implementa las tecnologías y las herramientas adecuadas: la modernización de la seguridad requiere herramientas avanzadas. Las organizaciones necesitan una tecnología que pueda anticipar y detectar automáticamente nuevos tipos de amenazas basadas en la IA. Hoy en día, si vemos que una nueva dirección IP intenta acceder por VPN a Cloudflare, nuestro equipo de SOC podría tener que escribir una regla estática para impedir el acceso. Pero en ese caso, estamos resolviendo un problema específico en lugar de abordar un problema mayor.
En el futuro, es probable que utilicemos capacidades integradas de IA y aprendizaje automático que puedan detectar y mitigar automáticamente esos tipos de amenazas.
Las herramientas con capacidades de IA también podrían ayudarnos a optimizar la conformidad. Es posible que tengamos herramientas que puedan recomendar cambios en los controles o políticas cada vez que entren en vigor nuevas normativas.Aborda el déficit de competencias: debido a que la IA se hará cargo de algunas tareas de bajo nivel, los equipos de informática y de seguridad necesitarán personas con conjuntos de habilidades más avanzadas. Los equipos de informática necesitarán personas con experiencia en ciencia de datos, aprendizaje automático y redes neuronales.
Al mismo tiempo, los equipos informáticos y comerciales necesitarán conocimientos especializados. Si quieres utilizar la IA para mejorar la toma de decisiones en el ámbito médico, por ejemplo, tendrás que colaborar con profesionales médicos. La ciencia de datos debe ser la intersección de la informática, las matemáticas y la estadística, y el conocimiento especializado.
Los equipos de seguridad necesitan profesionales que puedan interpretar los resultados generados por los modelos de IA y determinar cómo deben cambiar las estrategias o políticas para hacer frente a la evolución de las amenazas. Uno de los errores más comunes que he visto es escuchar el resultado del modelo sin entender el significado. Recuerda el ejemplo del Salón de la Fama del béisbol. Si solo escuchamos el resultado (que descubrió que los turnos al bate son el mejor indicador de quién conseguirá entrar en el Salón de la Fama), los jugadores jóvenes podrían suponer que solo deberían centrarse en tener la mayor cantidad de turnos al bate. De hecho, deberían trabajar en el desarrollo de sus habilidades para poder tener una carrera larga y sobresaliente.Modifica las operaciones: los equipos de seguridad también necesitan cambiar su forma de operar. ¿Seguiremos necesitando un SOC de 250 personas, disperso por todo el mundo, que funcione las 24 horas del día, los 7 días de la semana en el futuro? Es posible que necesitemos operaciones las 24 horas del día, pero es probable que podamos completar muchas de esas tareas humanas existentes con ordenadores, por lo que los humanos podrán centrarse en otras tareas.
Podríamos tener un SOC autónomo en 5 a 10 años, lo que significa que deberíamos empezar a formular un plan ahora sobre su funcionamiento. Necesitamos ese plazo debido a la complejidad de nuestros entornos de seguridad. Ya es bastante difícil proteger esos entornos, pero la incorporación de la IA será un desafío.
Si podemos ahorrar algo de tiempo con un SOC autónomo, también tendremos que invertir más tiempo en mantener la integridad de los datos y la conformidad normativa. Cuanto más utilicemos internamente los modelos de IA, más datos tendremos que gestionar y controlar. Necesitamos saber dónde están los datos, asegurarnos de que sean precisos y garantizar que podemos salvaguardar la confidencialidad.
Se ha debatido mucho sobre la gobernanza de la IA, pero el factor más importante son los datos. Ya existen numerosas leyes globales sobre cómo y dónde podemos utilizar y almacenar los datos. Los equipos de seguridad tendrán que garantizar que sus organizaciones siguen cumpliendo las leyes de soberanía de datos, así como las normativas de privacidad de datos. La conformidad podría complicarse si los equipos informáticos cambian el lugar en el que ejecutan los modelos de IA, por ejemplo, trasladando los datos de la nube a los entornos locales.Empieza a consolidar socios tecnológicos: puede ser difícil agregar datos y generar la información basada en la IA que necesitas cuando utilizas soluciones de numerosos proveedores. Nuestros entornos informáticos y de seguridad son lo suficientemente complejos como para tener que gestionar todas esas soluciones distintas. A medida que tu organización mira hacia el futuro, debes empezar a consolidar soluciones. Trabajar con cuatro o cinco socios clave es mucho más sencillo que tratar de gestionar los datos de 50 de ellos.
Mira hacia delante y planifica en el presente
La IA está aquí, pero solo hemos visto los primeros indicios de su impacto en nuestro trabajo y nuestras vidas. Como responsables de seguridad, tenemos que empezar a planificar ahora los cambios que se avecinan. Con la estrategia adecuada a largo plazo, estaremos mejor preparados para admitir el uso interno de la IA para lograr los objetivos empresariales, para reforzar la seguridad y para defendernos de las amenazas basadas en la IA.
Descubre cómo Cloudflare puede ayudar a tu organización a empezar hoy mismo a desarrollar e implementar aplicaciones de IA en la red global de Cloudflare. Aprende a modernizar la seguridad para el futuro de la IA con la conectividad cloud de Cloudflare.
Este artículo forma parte de un conjunto de publicaciones sobre las últimas tendencias y temas que afectan a los responsables de la toma de decisiones sobre tecnología en la actualidad.
Autor
Grant Bourzikas - @grantbourzikas
Director de seguridad, Cloudflare
CONCLUSIONES CLAVE
Después de leer este artículo podrás entender:
La importancia de planificar ahora para proteger el futuro de la IA
Los 2 primeros pasos en el desarrollo de una estrategia a largo plazo
Las 4 recomendaciones para modernizar la seguridad