Lewati ke konten utama
Halaman ini adalah terjemahan mesin dan belum sepenuhnya ditinjau. Teks asli berbahasa Inggris adalah acuan yang berlaku. Pernyataan tentang keamanan, privasi, penanganan data, kepatuhan, dan lisensi tetap dalam bahasa Inggris sampai peninjau teknis menyetujuinya. Baca teks asli berbahasa Inggris

Penyiapan untuk insinyur AI

Titik penerapan: SDK (Python / Node) Mode yang didukung: Hosted Hybrid Local Paket: Free Solo Teams

Untuk siapa ini​

Anda membangun agen dan fitur AI. Anda memiliki kodenya, Anda memanggil model, dan Anda menginginkan pagar pengaman terprogram atas apa yang dapat dilakukan agen Anda, tanpa membongkar arsitektur Anda.

Apa yang biasanya ingin Anda kendalikan​

Teks asli berbahasa Inggris -- terjemahan menunggu tinjauan teknis

  • Model allow-list. Only the models you have vetted and budgeted for can be called.
  • Akses alat. Agen dapat mencari dan membaca, tetapi tidak dapat mengeksekusi kode atau menghapus apa pun kecuali Anda mengizinkannya.
  • Batas data. Baca dari penyimpanan yang disetujui; tidak ada penulisan ke koleksi internal.

Titik penerapan mana yang dipasang​

SDK. Anda menambahkan satu pemanggilan guard() sebelum setiap pemanggilan alat. Cara kerjanya sama di loop kustom, LangChain, atau framework apa pun.

pip install controlzero

Kebijakan awal​

Daftar izin model ditambah sikap alat hanya-baca. Mulailah secara permisif (default_action: allow) sambil Anda memastikan kebijakan ini sesuai dengan lalu lintas Anda, lalu ubah ke deny untuk menerapkan. Letakkan ini di controlzero.yaml:

version: '1'
settings:
  # Start in observe; switch to "deny" once the audit log looks right.
  default_action: allow
  default_on_missing: deny
  default_on_tamper: warn
rules:
  - id: allow-vetted-models
    allow: 'llm:generate'
    reason: 'LLM generation is permitted (scope further with conditions per model).'
  - id: allow-tool-reads
    allow: 'data:read'
    reason: 'Agents may read from data sources.'
  - id: block-code-exec
    deny: 'tool:call'
    reason: 'No arbitrary code/tool execution from this agent.'

Hubungkan tanpa perubahan arsitektur:

from controlzero import Client

cz = Client(policy_file="./controlzero.yaml")

# Check before you call the model.
decision = cz.guard("llm", method="generate", context={"resource": "model/claude-sonnet-4-6"})
print(decision.decision)  # "allow"

# Check before a tool runs.
decision = cz.guard("data", method="read", context={"resource": "vectorstore/public-docs"})
print(decision.decision)  # "allow"

cz.close()

Untuk menyematkan model tertentu, tambahkan aturan tolak menyeluruh (catch-all) dan izinkan hanya yang Anda periksa -- lihat Daftar izin model LLM.

Apa yang akan Anda lihat​

  • Setiap keputusan guard() -- izinkan atau tolak -- di Audit Log (hosted) atau file audit lokal Anda (mode Local), beserta model atau alat, keputusan, dan alasannya. Cakupan per-event membedakan “tidak berjalan” dari “berjalan dan tidak menemukan apa pun.”
  • Setel CZ_DEBUG=1 untuk mencetak setiap evaluasi kebijakan ke stderr saat Anda mengembangkan.

Langkah berikutnya​