Cómo proteger tu empresa en el mundo del ChatGPT
La aparición de herramientas de IA generativa como ChatGPT y GitHub CoPilot, que tienen el mismo potencial de innovar que Internet, los teléfonos inteligentes y la informática en nube, planteará sin duda nuevas posibilidades y desafíos a las empresas. El rápido y profundo avance de la IA ha elevado las apuestas para quienes buscan aprovechar esta tecnología de forma responsable, al tiempo que se preparan para el impacto potencial de la adopción de la IA por parte de los ciberdelincuentes. Su capacidad para escribir código que puede ayudar a identificar y explotar sistemas vulnerables, generar correos electrónicos de phishing hiperpersonalizados e incluso imitar las voces de los ejecutivos para autorizar transacciones fraudulentas, exige que las organizaciones reevalúen su cálculo del riesgo en torno a la IA y contemplen estrategias defensivas y ofensivas contra la piratería informática.
A continuación, te mostramos tres estrategias clave que los responsables de informática y seguridad deben tener en cuenta a la hora de evaluar su postura de ciberseguridad en la era de la IA:
1. Combate la IA con IA
Algunas personas temen lo peor con la IA e imaginan un futuro en el que una máquina inteligente que todo lo sabe se convierta en una "superarma" que amenace a la humanidad en una "carrera armamentística de inteligencia artificial". Esa descripción es bastante hiperbólica y la realidad de la IA es mucho menos preocupante.
Los ciberdelincuentes utilizarán, sin duda, herramientas de IA con fines infames. Sin embargo, las herramientas de IA existentes se limitan generalmente a la codificación básica y disponen de salvaguardias para impedir la escritura de código malicioso.
El lado positivo es que la IA tiene el potencial de mejorar las habilidades de los equipos de ciberseguridad y aumentar sus capacidades, sobre todo en el campo de la ciberseguridad, donde vemos una falta de profesionales cualificados. Mediante el uso de herramientas de IA, los analistas principiantes pueden recibir ayuda con las tareas rutinarias y los ingenieros de seguridad pueden aumentar sus capacidades de codificación y scripting.
La clave del éxito está en invertir en herramientas de IA y en formación para elevar el nivel de competencias, en lugar de equiparar cada amenaza ofensiva de IA con una contramedida de IA.
2. Protege el correo electrónico
La mayoría de los ciberataques tienen su origen en nuestras bandejas de entrada. Los ciberdelincuentes envían correos electrónicos fraudulentos a través de tácticas de phishing e ingeniería social para obtener credenciales que les permitan entrar en una organización. Los recientes avances en IA harán que estos correos electrónicos sean cada vez más sofisticados y realistas, y la integración de chatbots de IA en los conjuntos de herramientas de ingeniería social ampliará el ámbito y el alcance de estos ataques.
Los profesionales de la ciberseguridad deben reconocer el potencial de los ataques de phishing e ingeniería social potenciados por IA y sensibilizar a los usuarios para que puedan detectarlos y responder a ellos. Es imprescindible seguir formando a los usuarios para identificar los ataques de phishing, proporcionar una plataforma para informar rápidamente de las actividades sospechosas y conseguir su ayuda en la estrategia general de ciberdefensa.
Sin embargo, el error humano es inevitable, y debemos proteger a los usuarios de la piratería informática apoyándonos también en las defensas técnicas. Por desgracia, las herramientas básicas de filtrado de los principales servicios de correo electrónico no suelen ser suficientes. Las empresas deben buscar herramientas avanzadas de seguridad del correo electrónico para bloquear de manera integral los ataques de diferentes vectores, incluso desde remitentes o dominios de confianza.
3. Protege los datos
Aunque el phishing y el robo de credenciales son a menudo los primeros pasos de cualquier ataque, no lo son todo. Teniendo en cuenta los riesgos que plantea la IA para los datos y las aplicaciones de las empresas, es importante reconocer la naturaleza multidimensional de los posibles ataques.
Las organizaciones deben ir más allá de la protección de las redes con el uso de un modelo de seguridad perimetral, y centrarse en el lugar donde se alojan los datos y la forma en la que los usuarios y las aplicaciones acceden a ellos. Para muchas empresas, esto significa implementar una arquitectura Zero Trust con un perímetro de servicio de acceso seguro (SASE) complementado con la autenticación multifactor (MFA) resistente al phishing.
Las aplicaciones y las API accesibles desde Internet son vulnerables a varios tipos de ataques, incluidos los llevados a cabo por bots u otros ataques impulsados por IA. Estas aplicaciones deben contar con protecciones adecuadas como la encriptación, un firewall de aplicaciones web (WAF), la validación de entradas y la limitación de velocidad para mitigar los ataques de bots o futuros ataques impulsados por la IA.
Conforme las empresas adoptan las herramientas de IA, deben asegurarse de que sus usuarios no las utilicen indebidamente ni filtren datos de la empresa. Algunas empresas, como JPMorgan Chase, han decidido restringir a los empleados el uso de ChatGPT, pero como mínimo, las empresas deben aplicar políticas de uso aceptable, controles técnicos y medidas de prevención de pérdida de datos para mitigar cualquier riesgo.
El camino a futuro
Es esencial que los profesionales de la ciberseguridad mantengan una actitud curiosa y experimenten con herramientas de IA para comprender mejor sus posibles usos, tanto para fines buenos como maliciosos. Para protegerse contra los ataques, las organizaciones deben buscar formas de desarrollar sus propias capacidades, ya sea utilizando ChatGPT o explorando herramientas y plataformas de ciberseguridad que tengan acceso a amplios datos de entrenamiento y aprovechen la inteligencia sobre amenazas en varios aspectos de la protección.
La conclusión es que las empresas deben aplicar medidas de seguridad integrales que evolucionen acorde con el mundo en transformación. Si bien la IA ha surgido como una amenaza potencial, la tecnología también puede reportar grandes beneficios, solo hay que saber cómo utilizarla de forma segura.
Este artículo forma parte de un conjunto de publicaciones sobre las últimas tendencias y temas que afectan a los responsables de la toma de decisiones sobre tecnología en la actualidad.
Este artículo se publicó originalmente en Security Boulevard
CONCLUSIONES CLAVE
Después de leer este artículo podrás entender:
Las implicaciones que puede tener el uso de la IA por los ciberdelincuentes
Cómo evaluar el cálculo del riesgo en torno a la IA considerando tanto la estrategia defensiva como la ofensiva
3 consideraciones clave para evaluar la postura de seguridad en la era de la IA