フロンティア級オープンLLMの登場と、長期防衛計画

最強クラスのAIモデルは、長年見つからなかった脆弱性を数分で発見し、偵察から攻撃コードの組み立てまでを自動でこなす水準に近づいています。やがて同等の力を持つオープンウェイトモデル（誰でも入手できるLLM）が登場すれば、その能力は攻撃者の手にも渡り、高度なサイバー攻撃の「参入障壁」が一気に下がります。重要なのは「いつ出るか」を待つことではなく、「出たら何をするか」を先に設計しておくこと。単発の脆弱性診断や場当たりのパッチ対応ではなく、攻撃者と同じAIの視点で自社を継続的に点検するAIレッドチーミングと脅威インテリジェンスを運用に組み込み、発見→検証→優先順位付け→修正→監査を回す長期防衛計画へ移行することが、これからの標準になります。

• 脅威の継続的アップデートを前提とした運用設計
• 単一モデルへのロックイン回避・縮退運転計画
• 「脆弱性が大量に見つかる世界」を回せる運用パイプライン整備

AIエージェント型開発が主流になると、攻撃面が変わる

Claude Code に代表されるAIエージェント型の開発・運用が急速に主流化しています。AIが自律的にコードを書き、コマンドを実行し、外部と通信する――その便利さの裏で、人間が一行ずつ確認していた頃にはなかった新しい攻撃面が生まれます。エージェントに与えた権限が広すぎれば、たった一度の乗っ取りが致命傷になり、AIの出力をそのまま実行・反映すれば、思わぬ破壊や情報漏洩につながります。「何を・どこまでエージェントに任せるか」を設計しないまま導入すると、利便性がそのままリスクに変わります。だからこそ、開発のはじめから運用・監査までを貫いてセキュリティを組み込むセキュアな AI-SDLC の発想が欠かせません。

• 取り込んだコード・Web・Issue 経由の間接プロンプトインジェクション（エージェントの乗っ取り）
• エージェントの権限・実行範囲の設計（最小権限・人間の承認境界）
• AIが生成したコードと依存パッケージのサプライチェーンリスク
• エージェントの自己申告は証拠にならない（ログによる裏取り・監査）

自社でLLMを持つなら、守りも自社で設計する

ローカル／オープンLLMの性能向上で、機密を外に出さず自社内（オンプレ／プライベートクラウド）でLLMを立ち上げる企業が増えています。ただし「オンプレにしたから安全」は誤解です。守るべきはモデルの置き場所ではなくデータの流れ。自社でAIを「持つ」なら、ゼロトラストの原則（誰も信頼せず常に検証）をLLMアクセスに適用し、認証・認可、RAGの権限設計、ファインチューニング済みモデルの重みや推論GPU基盤の保護、学習・推論データへのモデルポイズニング対策、そして必要に応じた機密計算（Confidential Computing）まで――守りをAIガバナンスとして一貫設計する責任を、自社が負うことになります。