CrowdStrikeが監視と攻撃検証の2社を買収、AI防御の死角を埋める
ニュースの概要
セキュリティ大手のCrowdStrikeが、AIエージェントの監視を手がけるFiddler AIと、AIの弱点を攻撃側の目線で調べるDreadnodeの2社を買収することで合意しました。Fiddlerの技術は「Falcon Observe」として、エージェントが何を考えどの道具を呼び出したかを追跡し、でたらめな回答や行動のずれを本番環境で見つけるために使われる予定です。Dreadnodeは、脱獄やプロンプトインジェクションといった攻撃を模擬し、モデルやエージェントの穴を事前に洗い出す企業です。見張る力と試す力を同時に手に入れる動きといえます。
引用元: CrowdStrike、AIエージェント監視・攻撃検証企業を買収へ（The AI Gazette）
分析・見解
見張る会社と攻める会社を同時に買った意味
この買収の面白さは、2社の役割が正反対な点にあります。Fiddlerは動いているAIを見守る会社です。Dreadnodeは動かす前のAIを叩いて壊れ方を調べる会社です。つまり、運用前の検証と運用中の監視を一本の線でつなぐ構図になります。
これまでのセキュリティ製品は、端末やネットワークの異常を見つけることが中心でした。AIエージェントは、人の代わりに文書を読み、判断し、外部のシステムを操作します。守る対象が「通信」から「判断そのもの」に広がったのです。
推論の過程を記録することがなぜ防御になるのか
Falcon Observeが狙うのは、推論の過程とツール呼び出しの記録です。たとえば経費精算を任されたエージェントが、なぜか社外へファイルを送ろうとしたとします。結果だけを見ても理由は分かりません。どの指示を読み、どの順で判断したかが残っていれば、原因を数分でたどれます。
航空機のフライトレコーダーに近い発想です。事故が起きてから原因を探すのではなく、事故の前兆である「行動のずれ」を日々の記録から拾えます。ハルシネーション（＝もっともらしい誤回答）も同じ仕組みで検知できます。
攻撃側の目線を製品に取り込む動きは前例がある
Dreadnodeの価値は、攻撃の手口を知っていることです。思い出されるのは、2020年代前半に脆弱性診断の会社を各社が次々と取り込んだ流れです。守りの製品だけでは新しい手口に追いつけず、攻める知見を内部に持つ方が早いと判明しました。
AIでも同じことが起きます。プロンプトインジェクション（＝文章に紛れ込ませた命令でAIを操る攻撃）は、毎週のように新しい型が見つかります。対策リストを読むだけでは遅く、自社で攻撃を再現できる体制が差になります。
一社完結の利便性と、見えなくなるものの両面
監視と検証が同じ基盤に載れば、検証で見つけた弱点を、そのまま本番の監視ルールに変えられます。運用担当にとっては大きな時短です。
一方で、評価する側と守る側が同じ会社になる点には注意が要ります。自社製品に都合のよい物差しで検証される可能性があるからです。第三者の検証を残す設計が、これから重要になります。
ビジネスへの影響
導入済みのエージェントに、記録の穴がないか点検する
最初にやるべきは、自社のAIエージェントが「何を読み、何を呼び出したか」を後から追えるかの確認です。多くの企業では、最終的な回答だけが残り、途中の判断は消えています。まず記録の保存期間と範囲を決めてください。月に一度でも、実際の記録から不審な動きを抜き出して読む習慣をつけると、監視ツールを入れる前に基礎体力がつきます。
購入より前に、検証の責任者を決めておく
監視ツールを買っても、警告を誰が受け取り、どう止めるかが決まっていなければ意味がありません。情報システム部門と事業部門のどちらが停止判断を持つかを、導入前に文書にしておきます。
また、攻撃の模擬検証は新しい機能を追加する前と、モデルを入れ替える前に実施するのが現実的です。年1回では間に合いません。
ベンダー選びでは、一社集約の代償を見積もる
統合された製品は導入が楽ですが、乗り換えにくくなります。契約時に、記録データを他社の形式で取り出せるか、第三者の検証結果を併用できるかを確認してください。価格だけで比べると、後から出口の費用が膨らみます。小さく始め、半年後に実績を見て広げる進め方を勧めます。
