Cloudflare、AI GatewayにID認識機能とユーザーインサイトを追加し、不正なAI挙動を検知

Cloudflareは、AI Gateway向けに2つの機能を展開し、増大する問題、すなわち誰がAIを使っているのか、その行動が正常かどうかを把握することを目指しています。同社は、Cloudflare Accessを統合したID認識型AI Gatewayのオープンベータと、異常な利用パターンを検知する行動分析ツールであるUser Insightsの一般提供を発表しました。

核となるアイデアは、AI Gatewayを通過するすべてのリクエストに検証済みのIDを紐付け、そのIDにとって正常な状態のベースラインを構築することです。これにより、組織は従業員の利用が10倍に急増したり、エージェントが暴走したりした場合に、予期せぬ請求書やセキュリティインシデントになる前に気付くことができます。

ID認識型AI Gateway

Cloudflare Accessとの統合により、組織はAI Gatewayの前にカスタムドメインを配置し、OktaやEntraなどの既存のIDプロバイダーで保護できます。これにより、共有APIキーの必要性がなくなり、管理者はゲートウェイにアクセスできるユーザーをきめ細かく制御するポリシーを設定できます。

認証されたすべてのリクエストには、ユーザーのIDがcf.user_idとして含まれ、ログ、分析、支出のフィルタリングに使用できます。支出制限と組み合わせることで、ユーザーごとの予算が可能になります。各ユーザーには個別の支出上限が設定され、上限に達するとリクエストはブロックされるか、より安価なモデルにルーティングされます。

早期導入企業であるFlexportは、共有APIキーの問題を強調しました。FlexportのスタッフセキュリティエンジニアであるMax Baumgarten氏は、この統合により、AIクライアントごとに個別の認証システムを構築することなく、既存のIDポリシーをゲートウェイに適用できると述べています。

User Insights: 行動ベースライン

User InsightsはAI Gatewayの新しいタブで、トラフィックを分析して、人であれエージェントであれ、アカウントごとの行動フィンガープリントを構築します。セッションをアカウント自身の履歴と照合し、過去30日間のセッションコストの95パーセンタイル（p95）をベースラインとしてスコアリングします。そのベースラインの2倍を超えるセッションは異常としてフラグが立てられますが、アカウントレベルのp99上限も超えた場合に限り、少額の変動でアラートが発生しないようにしています。

このシステムは、一貫して500ドルを費やすヘビーユーザーと、通常は5ドルしかかからないが突然50ドルに跳ね上がるエージェントを区別するように設計されています。後者は10倍の変化であり、資格情報の侵害や不正なエージェントを示唆する可能性があります。User Insightsは何もブロックせず、意図を判断しません。単に、自身のパターンを破ったアカウントを表面化させ、管理者が調査できるようにします。

Cloudflareは、この機能がセットアップ不要で既存のトラフィックで動作し、追加費用なしですべてのAI Gateway顧客が利用できると述べています。

今後の展開

Cloudflareは、タスクベースのスマートルーティングに取り組んでおり、受信リクエストを分析して、品質要件を満たす最もコスト効率の高いモデルにルーティングします。また、プロンプト分類も構築しており、コーディングやライティングなどのタイプにトラフィックを分類し、組織がAIの利用量だけでなく、その用途を理解できるようにします。

同社はこれを、コスト管理からコスト最適化への移行、そして異常検知から利用パターンの背後にある「理由」の理解への移行と位置づけています。