AI エンジニア向けセットアップ

適用面: SDK（Python / Node） 対応モード: Hosted Hybrid Local プラン: Free Solo Teams

対象読者

エージェントや AI 機能を構築する方が対象です。コードを管理し、モデルを呼び出し、アーキテクチャを大きく変えることなく、エージェントが実行できることにプログラムによるガードレールを設けたい方に向けています。

通常統制したい対象

• 英語の原文 -- 翻訳は技術レビュー待ちです

  Model allow-list. Only the models you have vetted and budgeted for can be called.

• ツールへのアクセス。 エージェントは検索と読み取りはできますが、指示しない限りコードの実行や削除はできません。

• データの境界。 承認済みのストアからは読み取れますが、社内コレクションへの書き込みはできません。

インストールする適用面

SDK です。各ツール呼び出しの前に guard() を1回呼び出します。独自のループでも、LangChain でも、どのフレームワークでも同じように動作します。

pip install controlzero

スターターポリシー

モデルの許可リストと、読み取り専用のツール方針です。トラフィックに合っていることを確認するまでは許可寄りの設定（default_action: allow）で始め、その後 deny に切り替えて適用します。これを controlzero.yaml に置いてください。

version: '1'
settings:
  # Start in observe; switch to "deny" once the audit log looks right.
  default_action: allow
  default_on_missing: deny
  default_on_tamper: warn
rules:
  - id: allow-vetted-models
    allow: 'llm:generate'
    reason: 'LLM generation is permitted (scope further with conditions per model).'
  - id: allow-tool-reads
    allow: 'data:read'
    reason: 'Agents may read from data sources.'
  - id: block-code-exec
    deny: 'tool:call'
    reason: 'No arbitrary code/tool execution from this agent.'

アーキテクチャを変えずに組み込めます。

from controlzero import Client

cz = Client(policy_file="./controlzero.yaml")

# Check before you call the model.
decision = cz.guard("llm", method="generate", context={"resource": "model/claude-sonnet-4-6"})
print(decision.decision)  # "allow"

# Check before a tool runs.
decision = cz.guard("data", method="read", context={"resource": "vectorstore/public-docs"})
print(decision.decision)  # "allow"

cz.close()

特定のモデルに限定するには、deny のキャッチオールを追加し、審査済みのものだけを許可します。詳しくは LLM モデルの許可リストを参照してください。

確認できる内容

• すべての guard() の判定（許可・拒否）が、監査ログ（Hosted）またはローカルの監査ファイル（Local モード）に、モデルまたはツール、判定、理由とともに記録されます。イベントごとのカバレッジにより、「実行されなかった」場合と「実行されて何も見つからなかった」場合が区別されます。
• 開発中は CZ_DEBUG=1 を設定すると、各ポリシー評価が stderr に出力されます。

次のステップ

• LLM モデルの許可リスト -- モデルを厳密に審査します。
• Python で AI アプリを統制する / Node.js -- SDK の完全なウォークスルーです。
• ポリシー -- ワイルドカード、条件、評価順序。
• 監視のみのセットアップ -- 適用する前に観測します。