How Will AI Affect Cybersecurity?

人工知能は、従業員の効率を高める社内アプリケーションであろうと、サポートクエリを最小限に抑える顧客向けツールであろうと、AIの広範な採用は、サイバーセキュリティの分野に良い面も悪い面も大きな影響を及ぼしています。

Request a free trial ソリューション概要を読む（英語）

サイバーセキュリティにおけるAIがもたらす課題

AIは大量のデータを迅速に組み込み、生成する能力があるため、意図的に悪意のある目的に使用されると、重大な危険をもたらす可能性があります。

これらの AI 主導の脅威は、企業を保護するタスクをより困難にする可能性があります。

フィッシング LLM

ソーシャルエンジニアリングは、信頼と人為的ミスを利用して、個人や組織を操作して機密データを開示させたり、セキュリティを侵害させたりします。フィッシングのような手法は、攻撃者が正当な情報源になりすまして被害者を騙すという中心的な手法です。

有害なリンクのクリック
個人情報の共有
資金の移動

攻撃者は、誤った信頼感や切迫感を作り出すことで、技術的な防御を突破することなく、ネットワーク、デバイス、アカウントにアクセスできるようになり、代わりに人間の行動を簡単に操作できるようになったのです。

OpenAIのGPT-4のような高度なAIモデルは、高度にパーソナライズされたスピアフィッシングメールを大規模に生成することができ、信じられないほどのリアリズムと最小限のコストで実現できます。これにより、大量フィッシングの効率性と標的型攻撃の精度が組み合わされ、その結果、サイバー犯罪者は本物に見えるカスタム攻撃を展開することができます。したがって、これらのフィッシングメッセージのヒット率ははるかに高くなり、より多くのサイバー犯罪の資金源となっています。

マルチモーダル生成モデルの台頭により、以下のコンテンツを読み込んで作成することができます。

テキスト
画像
オーディオ

これにより、攻撃者は電子メール以外にも多くの攻撃手段を得ることができます。これらのモデルにより、攻撃者はターゲットの画像と音声サンプルを分析することで、高度にパーソナライズされたフィッシングコンテンツを生成できます。

たとえば、MicrosoftのVALL-Eは、簡単なオーディオサンプルから人の声を複製できるため、攻撃者は説得力のある音声フィッシング(ビッシング)通話を捏造し、アソシエイトを模倣することができます。このように複数のモダリティ(テキスト、画像、音声)が収束することで、潜在的な攻撃の範囲とリアリズムが大幅に広がります。

キャプチャ

CAPTCHA チェックは通常、悪質なボットを締め出し、人間だけがオンラインリソースと対話していることを確認するための手段でした。

しかし、AIの継続的な学習能力により、研究者はreCAPTCHA v2をバイパスできるボットを作成しています。

オブジェクト認識モデルとVPN (1つのIPアドレスからの繰り返しの試行を隠すため)、自然なマウスの動きツール、偽のクッキーデータを組み合わせることで、AIを搭載したツールは、人間のようなブラウジング行動をシミュレートすることができました。その結果、このツールはすべてのCAPTCHAテストの100%を上回りました。

セキュリティリスクを増大させるAIの社内開発

サイバー攻撃者が懸念すべきは、AIが手に委ねるだけでなく、社内のAIツールのセキュリティリスクも重大です。たとえば、トレーニングデータの漏洩は、Microsoftの研究者が意図せずにGitHubで約38テラバイトの機密データを公開したときに見られるように、重大な脆弱性を提示します。

このインシデントは、AI モデルをダウンロードするための Azure Storage URL に対するアクセス許可が、ストレージアカウント全体へのアクセスを誤って許可したために発生しました。公開されたデータには、次のような機密情報が含まれていました。

個人用バックアップ
サービスパスワード
シークレットキー
30,000+ 内部 Microsoft Teams メッセージ

これは、AI研究における偶発的なデータ漏洩の潜在的な深刻さと、なぜ注意が必要なのかを示しています。

サイバーセキュリティに対するAIの利点

適切な人の手にかかれば、AI主導のツールは、新しいAIの脅威だけでなく、セキュリティチームが長年にわたって悩まされてきた従来の困難の一部も打ち消すことができます。

大量のデータを分析する能力

セキュリティ情報およびイベント管理 (SIEM) ソリューションは、組織の防御全体からのログ収集と分析を一元化します。 SIEMは、データを集約することで次のことを支援します。

異常の特定
アラートのトリガー
追加のコンテキストを収集する
影響を受けるアセットの分離

これにより、組織は潜在的なセキュリティインシデントに迅速かつ効果的に対応することができます。

機械学習とパターン認識により、AI対応のSIEMシステムは、手動のレビューよりもはるかに迅速に過去のセキュリティデータを分析できます。さらに、この個々のデータをすべて使用して、各ユーザーとデバイスの行動ベースラインを構築できます。

ログの署名と事前定義された重要度に依存する従来のSIEMとは異なり、AI SIEMは、現在のイベントをこのベースラインと比較することで脅威を動的に検出します。さらに、これらのシステムは異常なパターンを分析して既知の攻撃ベクトルとの接続を確立し、高精度でほぼリアルタイムのアラートを可能にします。

フィッシング脅威の検出

フィッシング攻撃の主な目的は、正規のWebサイトを密接に模倣することであり、この類似性は被害者をだまして信頼できるサイトにいると信じ込ませるのに役立ちます。

この模倣により、被害者は知らず知らずのうちに、次のような機密情報を攻撃者に直接提供してしまいます。

パスワード
財務詳細

フィッシングページの表示に説得力があるほど、被害者を巧みに操作して有害な行動を取らせる可能性が高くなります。

テキストと画像の両方を処理するマルチモーダル大規模言語モデル(LLM)は、ブランドベースのフィッシングを検出する大きな可能性を秘めています。さまざまなブランド表現に関する広範なトレーニングにより、これらのモデルはWebページの視覚的要素とテキスト要素を分析して、ブランドの関連性を認識します。

この機能により、LLMはフィッシングの試みを示す可能性のあるブランドプレゼンテーションの不一致を特定でき、ブランドベースのサイバー脅威の自動検出方法が改善される可能性があります。

データ漏洩防止

これらのAIツールがトレーニングデータをどのように適用するかを保護することの重要性は、かつてないほど重要になっています。 AIプロンプトとその応答は、会話型の非構造化データの形式をとるため、従来の DLP 手法で使用されているように、キーワードで保護することは非常に困難です。

高度なAIベースのデータ分類は、これらのアプリケーションに関連する潜在的なデータ漏洩を検出して防止することで、機密情報の保護に役立ち、プラットフォームのデータフローに対する完全な制御が維持されます。

チェック・ポイントがフル・セキュリティ・ AI の統合を許可する方法

組織内のGenAIアプリケーションを理解するには、これらのツールがもたらす可能性のあるリスク、特にデータセキュリティとコンプライアンスに関するリスクを特定して評価することが重要です。 AIの長所と短所を自社のユースケースで慎重に比較検討することが、AIの長期的な適合性を判断するための鍵となります。

チェック・ポイントの GenAIセキュリティは、プロンプト内の会話データを正確に分類して保護することにより、チームのすべてのAIプロジェクトを安全に保つことができます。すでに多数のツールを構築している場合は、GenAI アプリケーションと接続されているすべてのサービスを詳細に可視化できます。これにより、シャドーITのリスクが軽減され、規制の要求をさらに先取りすることができます。今すぐプレビュープログラムに参加して、AI ツールの無秩序な広がりをお試しください。

チェック・ポイントの既存のサイバーセキュリティツール内の AI のアプリケーションについては、Infinityプラットフォームが生成 AI を活用して、高度な脅威対策、合理化された自動脅威対応、効果的なセキュリティ管理を実現します。 50の AI エンジンを組み合わせて脅威インテリジェンスの全範囲をカバーすることにより、チェック・ポイント Infinity は、あらゆるセキュリティ・ソリューションの中で最高のキャッチ率を実現します。新たな侵害の痕跡が発見されると、そのパターンは2秒以内に技術スタック全体に迅速に適用され、以下のものが確保されます。