사이버 보안에서 AI의 미래 준비하기
오늘날 모든 사람은 AI를 염두에 두고 있습니다. OpenAI의 ChatGPT를 구동하는 것과 같은 대규모 언어 모델(LLM)은 우리의 상상력을 자극했습니다. 우리는 혁신적인 솔루션을 구축하기 위해 생성형 AI를 사용할 수 있는 새로운 가능성을 보고 있습니다.
보안 전문가로서 저희는 사이버 범죄자가 AI를 사용하여 새로운 유형의 공격을 생성하고 기존 방법을 강화하는 방법에 대해 숙고하고 있습니다. 한편, 방어형 AI를 고려하고 있으며 위협을 더 잘 감지하고 방어하기 위해 AI를 사용하는 방법도 모색하고 있습니다.
그렇지만 너무 많은 조직에서 AI가 현재 또는 단기적으로 할 수 있는 일에만 집중하고 있습니다. AI가 5년, 10년, 20년 후에 비즈니스와 생활에 미칠 엄청난 영향을 내다보는 사람은 거의 없습니다. 하지만 제대로 대비하려면 지금 계획을 시작해야 하기 때문에 미래를 구상해야 합니다.
현재를 이해하고 미래를 구상하기
AI는 여전히 다소 미성숙한 기술입니다. 머신 러닝(ML)이 더 성숙하기는 하지만, ML의 적용은 아직도 초기 단계에 있습니다. 오늘날 조직에서는 대부분 데이터를 수집하고 기본적인 분석을 수행합니다. 일부 조직에서는 LLM을 시험해서 텍스트를 생성해 보거나 AI가 주입된 디자인 도구를 사용하여 독특한 일러스트레이션을 만들고 있습니다. 그러나 진정한 AI 추론은 아직 불가능합니다. 모델은 아직 라이브 데이터에서 결론을 도출하거나 의미 있는 인사이트를 생성할 수 없습니다. 일부 벤더가 그렇지 않다고 말하더라도요.
텍스트나 이미지를 생성하는 것 이상의 용도로 AI와 ML을 사용하려고 시도할 때 이러한 추론의 부족은 분명해집니다. 제가 데이터 과학 및 ML 석사 과정을 거치는 중이었을 때, 명예의 전당에 입성할 야구 선수가 누구인지 예측하는 프로젝트가 있었습니다. 우리가 만든 모델은 타수, 즉 해당 선수가 자신의 경력을 통해 타석에 선 숫자가 가장 큰 예측 요인이라는 것을 알아냈습니다. 경력이 길수록 타수가 많을수록 명예의 전당에 입성할 가능성이 높아집니다.
흥미로운 결과였지만, 그 모델에서는 그 사실로부터 인사이트를 생성할 수는 없었습니다. 그 모델은 왜 타수가 가장 잘 예측할 수 있는 요인인지 우리에게 알려주지 못했습니다. 하지만 우리 인간은 많은 타석에 서고 경력을 오래 유지하려면 훌륭한 선수가 되어야 한다는 것을 깨달았습니다. 그리고 타석에 많이 서면 괜찮은 숫자의 안타와 홈런을 칠 가능성이 높습니다.
모델이 의미를 이해하기 시작하고 추론할 능력을 갖기 시작하면 우리는 AI에서 더 극적인 효과를 볼 수 있게 될 것입니다.
AI의 변화 속도를 고려할 때, 추론은 우리가 알기도 전에 이루어질 것입니다. 지난 몇 년 동안 LLM이 얼마나 발전했는지 생각해 보세요. LLM은 기본적인 텍스트 완성 기능을 제공하는 것에서 시작해 긴 프롬프트를 가능하게 하고, 시각적 입력을 수용하며, 세션 사이에 컨텍스트를 유지하는 강력한 텍스트 기반 대화를 지원하는 것으로 발전했습니다. 한편, 컴퓨터 성능이 지속해서 증가함에 따라 모델은 점점 더 많은 데이터를 빠르게 수집하고 학습할 수 있으며, 이는 해당 모델에서 더 우수하고 정확한 결과를 생성하는 데 도움이 됩니다.
20년 후에는 AI와 기타 첨단 기술로 인해 세상이 크게 바뀔 것입니다. 예를 들어, 완전 자율주행 자동차를 온디맨드로 호출할 수 있으므로 자동차를 소유한 사람이 줄어들 수 있습니다. 식품 쇼핑, 집안 청소,잔디 깎기, 그 밖의 일상적인 일들이 기술의 발전으로 인해 간소화될 것입니다.
그리고 미래에는 AI가 현재 있는 많은 업무를 바꿀 수도 있습니다. 예를 들어, 기술 산업에서는 더 이상 코드를 작성하지 않아도 될 수 있습니다. 하지만 비즈니스 니즈를 충족하는 AI 기반 솔루션을 설계하는 방법, 이 기술을 관리하는 방법, 기술을 보호하는 방법을 이해하려면 여전히 사람들이 필요합니다.
장기 전략을 위한 첫 단계
조직에서 미래에 AI의 가치를 극대화할 수 있는 전략 개발을 지금 시작하려면 어떻게 해야 할까요?
기술에 대한 이해: 장기적인 AI 전략을 수립하는 첫 번째 단계는 사용할 수 있도록 기술을 충분히 이해하는 것입니다. 데이터 과학 또는 ML의 전문가가 될 필요는 없습니다. 하지만 보안 리더는 공격자가 AI를 사용하는 방법과 팀에서 AI를 적용하여 이러한 공격을 예측하고 방어하는 방법을 이해해야 합니다.
또한 조직에서 데이터 세트를 집계하는 방법에 대해 생각하기 시작해야 하며, 이는 AI와 ML이 작동하도록 하기 위한 것입니다. 그런 다음 집계된 데이터 세트를 보호해야 합니다.비즈니스 사용 사례 지원 계획: 오늘날 일부 조직에서는 AI 채택에 대한 열망이 아주 높아서 즉시 최상의 ML 모델을 선택하는 데 집중합니다. 그런 다음, 해결할 비즈니스 문제를 찾아봅니다. 하지만 해결해야 하는 비즈니스 문제를 먼저 파악해야 합니다. 기술이 아니라 비즈니스 문제를 앞세우는 것이 매우 중요합니다.
어떤 유형의 비즈니스 문제에 AI를 적용할 수 있을까요? 회의 결과 요약 또는 초기 고객 서비스 요청에 대응하기 등 다수의 반복적인 작업은 이미 AI가 처리하고 있습니다.
향후에는 모델이 경험과 외부 입력으로부터 더 많은 것을 학습하는 상황에서 조직에서 AI와 ML을 활용할 수 있습니다. 예를 들어 은행 업계의 사기 대응팀에서는 AI를 활용하여 실제 결과를 통해 학습하여 사기 감지의 정확도를 높일 수 있습니다. 또한, 다양한 산업의 마케팅팀에서 AI를 사용하여 콘텐츠 제작을 간소화할 수 있습니다. 글쓰기 선호도와 스타일을 입력하면 모델이 후속 결과를 개선하는 데 사용할 피드백을 AI가 제공할 수 있습니다.
보안 리더는 이러한 비즈니스 사용 사례와 다른 비즈니스 사용 사례에 대한 계획을 시작해야 합니다. 우리는 비즈니스 팀에서 규제 준수 및 보안을 저해하지 않으면서 비즈니스 문제를 해결할 수 있도록 AI를 워크플로우에 통합하는 방법을 찾아야 합니다.
보안 최신화하기
AI의 미래를 대비하려면 보안을 최신화해야 하며, 지금 바로 그 최신화를 시작해야 합니다. 많은 보안팀에서는 지난 15년, 20년 동안 사용해 온 방식을 아직도 사용하고 있습니다. 이들은 최신 위협에 대응하고 다중 포인트 솔루션을 구현하여 취약점을 해결하고 있습니다. 그러나 이러한 유형의 접근 방식은 매일 점점 더 많은 유출이 발생하는 지금의 상태로 이어졌습니다. 하지만 차세대의 훌륭한 포인트 제품에 더 끌리기보다는 고객, 직원, 회사를 보호한다는 사명에 더 집중해야 합니다.
보안팀이 뒤처지면서 공격자들은 발빠르게 공격을 진행하고 있습니다. 머지 않은 미래에는 사이버 보안에 사용되는 AI 모델을 우회하여 해당 모델에 고려되지 않은 데이터를 악용하려는 시도가 더 많아질 것입니다. 방어적 방법을 통해 학습하고 빠르게 공격을 수정할 수 있는 AI 기반 맬웨어도 보게 될 수 있습니다.
보안을 최신화하려면 어떤 도구가 필요한지, 어떤 기술이 필요한지, 어떻게 작업해야 하는지 다시 생각해야 합니다. 5년 후, 10년 후, 20년 후 우리의 위치를 구상하면 현재 우리가 해야 할 일을 파악하는 데 도움이 됩니다. 시작을 위한 4가지 권장 사항은 다음과 같습니다.
적절한 기술 및 도구 구현: 보안을 최신화하려면 첨단 도구가 필요합니다. 조직에서는 새로운 유형의 AI 기반 위협을 자동으로 예측하고 감지하는 기술이 필요합니다. 오늘날 새로운 IP 주소가 Cloudflare에 VPN을 연결하는 것이 발견되면 SOC 팀에서는 액세스를 방지하는 정적 규칙을 작성해야 할 수도 있습니다. 하지만 그 경우에는 더 큰 문제를 해결하는 대신 특정 문제를 해결하게 됩니다.
향후에는 이러한 유형의 위협 을 자동으로 선택하고 완화할 수 있는 기본 제공 AI 및 ML 기능을 사용할 가능성이 높습니다.
AI 기능이 있는 도구도 규제 준수를 간소화하는 데 도움이 될 수 있습니다. 새로운 규제가 도입될 때마다 제어나 정책의 변경을 권장해주는 도구가 있을 수 있습니다.기술 격차 해소: AI가 낮은 수준의 일부 작업을 넘겨받을 수 있으므로 IT 및 보안팀에서는 첨단 기술을 갖춘 인력이 필요합니다. IT 팀에는 데이터 과학, ML, 신경망에 대한 전문 지식을 갖춘 사람이 필요합니다.
동시에 IT 및 비즈니스 팀에서는 도메인 전문 지식이 필요합니다. 예를 들어, AI를 사용하여 의료 의사 결정을 개선하려면 의료 전문가와 협업해야 합니다. 데이터 과학은 컴퓨터 과학, 수학 및 통계, 도메인 지식의 교차점이어야 합니다.
보안팀에는 AI 모델에서 생성한 결과를 해석하고 진화하는 위협에 대응하기 위해 전략이나 정책을 어떻게 변경해야 하는지를 결정할 수 있는 사람들이 필요합니다. 제가 봐온 가장 일반적인 실수 중 하나는 의미를 이해하지 않고 모델의 결과물을 받아보는 것입니다. 명예의 전당에 오가는 선수의 예를 기억하시죠. 결과물만 받아보는 경우(해당 결과물은 명예의 전당에 입성할 사람이 누구일지 가장 잘 예측할 수 있는 요인이라는 것을 알게 된 것입니다), 젊은 야구 선수들은 가장 많은 타수에 집중해야 한다고 생각할 수 있습니다. 하지만 선수들은 실제로는 길고 뛰어난 경력을 쌓을 수 있도록 기술을 개발하기 위해 노력해야 합니다.운영 방식 수정: 보안 팀의 운영 방식도 바꿔야 합니다. 전세계에 분산된 SOC 250명이 24시간 연중무휴로 운영되는 것이 앞으로도 필요할까요? 상시 운영이 필요할 수도 있지만, 기존의 인간 작업 중 많은 부분을 컴퓨터로 완료할 수 있으므로 인간이 다른 작업에 집중할 수 있게 될 것입니다.
5년, 10년 후에는 자율 SOC가 생길 수 있는데, 이는 그 작동 방식에 대한 계획을 지금 작성하기 시작해야 한다는 의미입니다. 우리에게는 보안 환경이 복잡하므로 그 정도의 시간이 필요합니다. 이러한 환경을 보호하는 것도 어렵고 AI를 통합하는 것도 어려울 것입니다.
자율 SOC를 통해 시간을 절약할 수 있다면 데이터 무결성을 유지하고 규제 준수를 유지하는 데도 더 많은 시간을 투자해야 합니다. 내부적으로 AI 모델을 더 많이 사용할수록 관리하고 통제해야 하는 데이터가 많아집니다. 우리는 데이터의 위치를 알고 있고, 정확한지 확인해야 하며, 기밀을 보호할 수 있어야 합니다.
AI 거버넌스에 대해 많은 논의가 있었지만, 가장 중요한 요소는 데이터입니다. 데이터를 사용하고 저장하는 방법과 장소에 대한 법률이 전 세계에 걸쳐 이미 많이 있습니다. 보안팀에서는 조직에서 데이터 주권법과 데이터 개인정보 보호 규제를 지속해서 준수하도록 해야 합니다. 예를 들어 데이터를 클라우드에서 온프레미스 환경으로 다시 이동하는 경우와 같이 IT 팀에서 AI 모델을 실행하는 곳을 전환하는 경우 규제 준수가 더 어려울 수 있습니다.기술 파트너 통합 시작: 다양한 벤더의 솔루션을 이용하면서, 데이터를 집계하고 필요한 AI 기반 인사이트를 생성하는 일은 어려울 수 있습니다. 우리의 IT 및 보안 환경은 이러한 개별 솔루션을 모두 관리할 필요가 없더라도 충분히 복잡합니다. 귀 조직에서 미래를 내다보고 있다면 솔루션 통합을 시작해야 합니다. 50개 파트너의 데이터를 관리하는 것보다 4~5개의 주요 파트너와 협력하는 것이 훨씬 간단합니다.
향후 전망 및 현재 계획
AI가 등장했지만, 우리는 AI가 우리의 일과 삶에 미치는 영향을 어렴풋이 목격했을 뿐입니다. 우리 보안 리더들은 다가올 변화에 대비하기 위해 지금 계획을 시작해야 합니다. 올바른 장기 전략이 있다면 우리는는 비즈니스 목표를 위해 AI를 내부에서 사용하도록 지원하고, 보안을 강화하기 위해 AI를 이용하며, AI 기반 위협을 방어할 수 있는 더 나은 위치를 차지하게 될 것입니다.
귀 조직에서 지금 Cloudflare의 전역 네트워크에서 AI 앱을 구축하고 배포하기 시작하는 데 Cloudflare에서 어떻게 도움을 줄 수 있는지 알아보세요. 그리고 Cloudflare의 클라우드 연결성을 이용하여 AI의 미래를 위해 보안을 최신화하는 방법을 알아보세요.
이 글은 오늘날의 기술 의사 결정자에 영향을 주는 최신 동향 및 주제에 대한 시리즈 중 일부입니다.
작성자
Grant Bourzikas — @grantbourzikas
최고 보안 책임자, Cloudflare
핵심 사항
이 글을 읽고 나면 다음을 이해할 수 있습니다.
AI의 미래를 보호하기 위한 현재 계획의 중요성
장기 전략 개발의 첫 2단계
보안을 최신화하는 방법을 위한 4가지 권장 사항