オリムス
日本語 English

GROUND IMMUNE Guard — Technical Preview

AIの判断と、
実行する権限を分ける。

AIエージェントが提案する操作について、認められた権限の範囲内か、実行に必要な条件や証拠がそろっているかを検証します。許可・拒否・保留を明確にし、AIの判断と実行の間に、検証可能な境界を設ける技術です。

なぜ必要か

AIに仕事を任せることと、AIに無制限の実行権限を渡すことは、同じではない。

IMMUNE Guard は、AIが提案した操作を、明示された権限と証拠に照らして判定します。

AIの誤った判断が、そのまま実行されてしまうことがあります。計画が間違っていても、プロンプトインジェクションでも、ただのバグでも、与えられた権限のまま動きます。

一般的なコンテンツガードレール

AIが何を入力・出力するかを検査します。危険な指示や応答の検出・制限などです。

IMMUNE Guardの焦点

AIが何を実行する権限を持つかを判定します。操作対象、許可範囲、必要な証拠、承認した操作と実行対象の一致などです。

優劣ではなく、扱う問題の層が違います。実行を制御する技術は、ほかにもあります。

操作をどう判定するか

IMMUNE Guardは、AIが提案した操作を評価し、次の3つの判定のいずれかを返します。

AIエージェント IMMUNE Guard ファイル / API /
リポジトリ
  1. ADMITTED許可範囲内・実行対象
  2. UNRESOLVED必要な証拠が不足・保留
  3. DENIED範囲外・拒否

図の説明。エージェントから出た操作は IMMUNE Guard で判定されます。ADMITTED(許可範囲内・実行対象)は Guard を通り、ファイルや API、リポジトリまで進みます。UNRESOLVED(必要な証拠が不足・保留)は Guard の地点で止まって点滅します。許可としては扱いません。DENIED(範囲外・拒否)は Guard の地点に達し、× が重なります。ほかの経路には回り込みません。実際に止めるのは LIMITED_BLOCKING のときです。既定の SHADOW では、判定を記録するだけです。

たとえば、docs/ の更新だけが許可されているAIが、範囲外の .env を作成しようとした場合、IMMUNE GuardはDENIEDを返します。実行側がこの判定に従うことで、許可されていない操作を防ぎます。

IMMUNE Guard preview.4 の実ターミナル。allowed は ADMITTED(終了コード 0)、denied は DENIED / OUT_OF_SCOPE(終了コード 3)、unresolved は UNRESOLVED(終了コード 4)。Broker は模擬です。 IMMUNE Guard preview.4 の実ターミナル(スマホ表示)。allowed は ADMITTED(終了コード 0)、denied は DENIED / OUT_OF_SCOPE(終了コード 3)、unresolved は UNRESOLVED(終了コード 4)。Broker は模擬です。
preview.4 の実際の出力です(LIMITED_BLOCKING)。接続先(Broker)は模擬です。

現在の実証範囲

GitHub 上で確認できる、いまの Technical Preview の範囲です。構想だけではありません。

  • 許可・拒否・保留の3つの判定と、CLI での実行例があります。
  • 承認のあとで操作が差し替えられた場合に、保留(UNRESOLVED)にして実行しない例があります。
  • Linux、Windows 11、macOS(Apple Silicon)で動作を確認しています。
  • 実行可能な配布物、公開コード、検証記録、制限事項を公開しています。

既定の SHADOW は観察するだけです。LIMITED_BLOCKING は、模擬の Broker を使った限定的な遮断です。本番環境の安全性を証明したものではありません。詳しくは LIMITATIONS と、v0.1.0-preview.4 の検証記録をご覧ください。

手元で試せます

アカウントも、認証情報もいりません。ダウンロードしたあとは、オフラインで試せます。Node.js 22 以降が必要です。Technical Preview です。手順は Quickstart にあります。