サイバーセキュリティにおけるAIの未来への準備
AIは現在、誰もが関心を持っています。OpenAIのChatGPTを支えているような大規模言語モデル（LLM）は、私たちの想像力をかき立てました。私たちは、生成AIを使用して革新的なソリューションを構築する新しい可能性を見出しています。
私たちはセキュリティのプロとして、サイバー犯罪者がAIをどのように使って新しいタイプの攻撃を生み出し、既存の手法を強化しているかについて考えています。一方、私たちは防御的AIについて考え、AIを使用して脅威をより適切に検出および防御する方法を模索しています。
今でも、AIが現在または短期的にできることだけに焦点を絞っている企業はあまりに多いです。AIが5年、10年、20年後に私たちのビジネスや生活に多大な影響を与える可能性を想定している企業は、あまりにも少ないのです。ただ、その将来を想定する必要があるのです。なぜなら、その将来に十分に備えるためには、今計画を始めなければならないからです。
現在を理解し、明日を描く
AIはまだやや未熟な技術です。機械学習（ML）は比較的成熟していますが、そのアプリケーションはまだ初期段階です。現在、企業は主にデータ収集と基本的な分析を行っています。テキストを生成するためにLLMを試したり、AIを取り入れたデザインツールを使ってユニークなイラストを作成している企業もあります。しかし、真のAI推論はまだ利用できません。モデルはまだ結論を導き出したり、一部のベンダーがそうではないと言ったとしても、ライブデータから有意義なインサイトを生成することはできないのです。
この推論の欠如は、テキストや画像の生成以上のものにAIやMLを使おうとすると明らかです。私がデータサイエンスとMLの修士号の取得に取り組んでいた時、どの野球選手が殿堂入りするかを予測しようとするプロジェクトがありました。私たちが作成したモデルは、最高の予測因子が打席数（つまり、その選手が自身のキャリア中に何本打ったか）であることを発見しました。キャリアが長く、打席数が多いほど、殿堂入りの可能性が高くなります。
興味深い結果ではありましたが、モデルは何の洞察も得ることができませんでした。このモデルでは、打席検証が最善の予測因子となり得る理由を教えてくれませんでした。しかし、私たち人間は、野球人生を長くするためには、多くの打席に立ち、名選手にならなければならないと認識しました。また、打席が多いと、十分なヒット数やホームラン数が確保される可能性が高くなります。
モデルが意味を理解し、推論を行う能力を獲得し始めると、AIからより劇的な効果が見られるようになるでしょう。
AIの変化のスピードを考えると、私たちが知らないうちに推論が行われることになります。過去数年でLLMがどれだけの進歩を遂げたかを考えてみてください。基本的なテキスト補完の提供から、長いプロンプト、視覚的入力を受け付け、セッション間の文脈を保持できる堅牢なテキストベースの会話をサポートするものへと進化しました。一方、演算能力は上昇し続けており、モデルはより多くのデータを迅速に取り込んで学習することが可能になっており、より優れた、より正確な結果を出すモデルに一役買っています。
今後20年以内に、AIやその他の先進技術によって世界は大きく変わる可能性があります。例えば、完全な自動運転車をオンデマンドで呼び出せるようになるため、車を所有する人が減るかもしれません。食料品の買い物、家のクリーニング、芝刈り、その他の日常的な仕事は、テクノロジーによって効率化される可能性が高いです。
そして確かに、将来的にAIが現在の仕事の多くを変える可能性があります。例えば、テクノロジー業界では、コードを書く必要がなくなるかもしれません。しかし、人々にはまだ、ビジネスニーズを満たすAIベースのソリューションを設計する方法、この技術を管理する方 法、この技術を保護する方法を理解してもらう必要があります。
長期的な戦略に向けての第一歩
将来のAI価値を最大化するための戦略策定に今すぐ着手するにはどうすればよいでしょうか？
テクノロジーの理解：長期的なAI戦略を構築するための第一歩は、テクノロジーを十分に理解して使えるようにすることです。データサイエンスやMLの専門家になる必要はありません。しかし、セキュリティ責任者として、攻撃者がAIをどのように使用しているか、チームがAIを使用してこれらの攻撃を予測し、防御する方法を理解する必要があります。
また、AIとMLを機能させるために必要となるデータセットを集計する方法についても考え始める必要があります。次に、集計されたデータセットを保護する必要があります。ビジネスユースケースをサポートするためのプラン：現在、一部の組織ではAIの導入を切望するあまり、最適なMLモデルの選択に飛びついています。その後に、解決すべきビジネス問題を見つけようとします。しかし、まず対処すべきビジネス問題を特定する必要があります。極めて重要なのは、技術ではなくビジネス問題を主導することです。
AIの導入に適してい るのはどのようなビジネス問題でしょうか？会議の要約や最初のカスタマーサービスリクエストへの対応など、反復的なタスクの多くは既にAIが処理しています。
将来的に、企業は、モデルが経験や外部入力からより多くを学習するような状況でAIとMLを使用する可能性があります。したがって、例えば銀行業界では、不正対策チームがAIを活用すると、実際の結果から学習することで不正検出の精度を高めることができます。また、各業界のマーケティングチームは、コンテンツ作成を効率化するためにAIを使用できます。書き方の好みやスタイルを入力し、モデルがその後の結果を改善するために使用するフィードバックを提供できるからです。
私たちは、セキュリティ責任者として、これらのユースケースやその他のビジネスユースケースを想定してプランを立て始める必要があります。コンプライアンスとセキュリティを損なうことなくビジネス問題を解決するためには、ビジネスチームがワークフローにAIを組み込むのをサポートする方法を私たちが見つける必要があります。
セキュリティの最新化
AIの未来に備えるために、セキュリティの最新化が必要であり、今からその最新化を始める必要があります。多くのセキュリティチームは、15年前または20年前と同じ方法で運用を続けています。最新の脅威に対応し、脆弱性に対処するために複数のポイント ソリューションを実装しています。しかし、この種のアプローチのせいで、セキュリティ侵害が日々増加し続けているという現状が生まれました。私たちは次の優れたポイント製品に惑わされることなく、顧客、従業員、会社を保護するというミッションにもっと重点を置く必要があります。
セキュリティチームが後れを取る一方で、攻撃者は急速に進化しています。それほど遠くない将来、サイバーセキュリティに使用されるAIモデルを回避し、そのモデルに考慮されていないデータを悪用しようとする試みが増えるでしょう。防御方法から学習し、攻撃を迅速に修正するAI駆動型のマルウェアも登場します。
セキュリティを最新化するためには、必要なツール、必要なスキル、私たちの取り組み方を再考する必要があります。5年後、10年後、20年後の状況を想像することで、現在何をすべきかが見えてきます。着手すべき方法について、以下に4つの提案を記しました。
適切な技術とツールの導入：セキュリティの最新化には高度なツールが必要です。企業には、新しいタイプのAI駆動型の脅威を自動的に予測して検出できるテクノロジーが必要です。現在、新しいIPアドレスがVPN経由でCloudflareに接続を試みているのを見つけた場合、SOCチームはアクセスを防止するために静的ルールを作成する必要があるかもしれません。しかし、この場合、私たちはより大きな問題を解決するのではなく、特定の問題 を解決することになります。
将来的には、この種の脅威を自動的に選択して軽減できるAIやML機能が組み込まれるようになるでしょう。
AI機能を持つツールも、コンプライアンスの合理化に役立ちます。新たな規制が導入されるたびに、管理やポリシーの変更を提案できるツールも登場するかもしれません。スキルギャップの解消：AIは低レベルのタスクを引き継ぐため、ITおよびセキュリティチームにはより高度なスキルセットを持つ人材が必要になります。ITチームは、データサイエンス、ML、ニューラルネットワークの専門知識を持つ人材を必要とするでしょう。
同時に、ITやビジネスチームはその分野に関する専門知識が必要になります。例えば、医療の意思決定を改善するためにAIを使用したい場合は、医療専門家との協力が必要になります。データサイエンスは、コンピューターサイエンス、数学、統計、ドメイン知識の共通集合となるべきです。
セキュリティチームには、AIモデルによって生成された結果を解釈し、進化する脅威に対処するために戦略やポリシーをどのように変更すべきかを判断できる人材が必要です。私が見てきた最も一般的な間違いの1つは、意味を理解せずにモデルの出力に注目することです。野球殿堂入りの例を思い出してください。（打席数が殿堂入りの最善の予測因子であることを発見した）出力だけに注目すると、若い選手は打席数が多くすることだけに集中すべきだと考えるかもしれません。むしろ、長く有意 義な野球人生を送れるようスキル開発に取り組むべきです。運用の変更：セキュリティチームは運用方法を変える必要もあります。今後も世界中に分散し、24時間365日無休で稼働する250人体制のSOCが必要なのでしょうか？24時間体制の運用は必要かもしれませんが、おそらく既存の人間のタスクの多くをコンピューターが完了できるようになるでしょうから、人間は他のタスクに集中すできるでしょう。
5～10年後には自律型SOCが登場する可能性があります。つまり、それをどのように運用するかについて、今すぐ計画する必要があるということです。セキュリティ環境の複雑性により、こうしたリードタイムが必要なのです。複雑なセキュリティ環境を保護することはそれだけでも困難であり、AIを組み込むことは課題となります。
自律型SOCで時間を節約することができれば、データインテグリティの維持と規制コンプライアンスの維持により多くの時間を投資する必要もあります。社内でAIモデルを使えば使うほど、管理・制御しなければならないデータが増えます。データの場所を知り、データが正確であることを確認し、機密性を保護する必要があります。
AIのガバナンスについてはこれまで多くの議論が行われてきましたが、最も重要な要素はデータです。私たちがデータを使用し、保存する方法と場所については、すでに世界各地に数多くの法律があります。セキュリテ ィチームは、組織がデータ主権法とデータプライバシー規制を引き続き遵守するようにしなければなりません。ITチームがAIモデルの実行場所を移動させると（クラウドからオンプレミス環境にデータを戻す場合など）、コンプライアンスがさらに難しくなる可能性があります。テクノロジーパートナーの統合の開始：多数のベンダーのソリューションを使用すると、データを集約し、必要なAIを活用したインサイトを生成することが困難になることがあります。私たちのITおよびセキュリティ環境は、こうした個別ソリューションをすべて管理する必要がなくても、十分に複雑です。組織が将来に目を向ける際に、ソリューションの統合に着手する必要があります。4つか5つの主要パートナーと連携する方が、50のパートナーのデータを管理しようとするよりもはるかに効率的です。
将来を見据え、現在の計画を立てる
AIが登場しましたが、私たちの仕事や生活に与える影響は、まだ始まったばかりです。私たちはセキュリティ責任者として、今後の変化に備えて今すぐ計画を始めなければなりません。適切な長期戦略を立てることで、ビジネス目標に向けたAIの社内利用をサポートし、セキュリティの強化にAIを採用して、AIを活用した脅威を防御するといった作業が円滑に なるでしょう。
Cloudflareのグローバルネットワーク上で、お客様の組織が今日からAIアプリケーションの構築・デプロイを開始するにあたり、Cloudflareがどのように支援できるかをご覧ください。また、Cloudflareのコネクティビティクラウドで、AIの未来に向けてセキュリティを最新化する方法もご覧いただけます。
この記事は、技術関連の意思決定者に影響を及ぼす最新のトレンドとトピックについてお伝えするシリーズの一環です。
著者
Grant Bourzikas — @grantbourzikas
最高セキュリティ責任者、Cloudflare
記事の要点
この記事では、以下のことがわかるようになります。
AIの未来を守るために今計画することの重要性
長期戦略を立てるための最初の2ステップ
セキュリティを最新化する方法に関する4つの提案