C³社会デザインセンター

サイト内を検索

ページ、Verify ID を検索...

EN
← 制御設計レビュー・ギャップチェック

FOR ENGINEERS / EVALUATORS

Before / Afterで見る、
AIの制御境界。

「止める条件がある」だけでは、実装で効くとは限りません。 同じ対象・同じ制御目的を保ち、制御に関係する条件だけを変えてReplayし、 観測結果と証拠を分けて残します。

CONTROL EXPERIMENT

01

Declared Control

↓

守りたい制御条件を固定する

02

Comparator

↓

何と一致・不一致を比べるか決める

03

Variant

↓

制御に関係する条件だけを変える

04

Replay

↓

同じ対象・制御目的で再実行する

05

Evidence

観測・指摘・未観測を証拠と結ぶ

BEFORE / CONTROL BOUNDARY / OBSERVATION

同じ3シナリオを、実装の見え方で比べる

以下のコードは説明用擬似コードです。実在製品の実装、C³ APIの正式仕様、脆弱性の実証を意味しません。

MAIL

顧客返信

承認後だけ、確定した宛先と本文を送信する

BEFORE

外部作用へ進む前に、承認・対象・状態などを照合する境界が見えない例。

draft = model.generate(request)
mail.send(to, draft)

WITH CONTROL BOUNDARY

Declared ControlとComparatorを実行直前に照合する説明用パターン。

assert approval.valid === true
assert to === approvedTarget
assert bodyHash === approvedBodyHash
mail.send(to, body)

VARIANTS

承認なし宛先変更本文変更承認期限切れ

EVIDENCE FIELDS

approvaltargetbody_hasheffect_result

API

API・設定変更

対象・権限・現在状態が一致するときだけ変更する

BEFORE

外部作用へ進む前に、承認・対象・状態などを照合する境界が見えない例。

tool.update(target, patch)
return result

WITH CONTROL BOUNDARY

Declared ControlとComparatorを実行直前に照合する説明用パターン。

assert target === declaredTarget
assert permission.includes(operation)
assert state === expectedState
tool.update(target, patch)

VARIANTS

対象ID変更権限不足状態変化操作種別変更

EVIDENCE FIELDS

targetpermissionbefore_stateafter_state

ORDER

発注・予約

承認済みの金額・数量・回数の範囲だけ外部作用を許可する

BEFORE

外部作用へ進む前に、承認・対象・状態などを照合する境界が見えない例。

for retry in retries:
  order.submit(payload)

WITH CONTROL BOUNDARY

Declared ControlとComparatorを実行直前に照合する説明用パターン。

assert amount <= approvedAmount
assert quantity <= approvedQuantity
assert retryCount <= approvedRetries
order.submit(idempotentPayload)

VARIANTS

金額超過数量超過再試行増加対象商品変更

EVIDENCE FIELDS

approval_scopeamountretry_counteffect_result

COMPARISON STRUCTURE

Candidateを、反証可能なControl実験へ変換する

01

Declared Control

守りたい制御条件を固定する

02

Comparator

何と一致・不一致を比べるか決める

03

Variant

制御に関係する条件だけを変える

04

Replay

同じ対象・制御目的で再実行する

05

Evidence

観測・指摘・未観測を証拠と結ぶ

通常レビューがcandidateやconcernを見つける工程を置き換えるのではなく、 candidateを比較可能な条件とReplayへ落とし込みます。単一Replayから境界全体を推論しません。

EVIDENCE SEPARATION

Source AnalysisとRuntime Evidenceを混ぜない

SOURCE ANALYSIS

静的なSource Analysis

コード・設定・仕様から、候補や契約不整合を確認します。実行されたことの証拠には数えません。

TEST EXECUTION

試験実行

固定した対象と条件でReplayし、一回ごとの観測を記録します。単一Replayだけで境界全体を確定しません。

CONTROLLED RUNTIME

制御された実行観測

実行経路で何が呼ばれ、どこまで作用したかを区別します。静的所見をruntime反例へ自動昇格しません。

EXTERNAL EFFECT

外部作用のWitness

外部受領や永続変更など、合意したEffect Boundaryの外側まで到達したかを必要な範囲で確認します。

NEXT ACTION

まず1本の制御条件から、確認範囲を決める。

まだ条件が固まっていなければ設計レビュー、実装済みなら小範囲または正式な制御条件ギャップチェックへ進めます。

C3-WEB-CONTROL-ASSURANCE-ENGINEERING-0.1 · v0.1.0 · active · last_updated: 2026-10-06

説明用擬似コードと公開例は、対象製品の安全性・脆弱性不存在・本番利用可を示すものではありません。