C³社会デザインセンター

サイト内を検索

ページ、Verify ID を検索...

EN
条件を変えて、反復リプレイ

点から、境界と運用範囲へ。

説明用の模式図
宣言した制御外部作用には承認が必要
制御上の運用可能領域を描く反復観測権限・状態・順序・実行先・実行内容・再試行と復旧の条件を変えて観測する模式図。点は一回ごとの実行観測で、緑の丸は制御維持、赤の交差は反例、紫の四角は定義不足、灰の破線は未観測。橙の帯は一回の観測結果ではなく、複数観測をまとめた条件付きの境界。緑の輪郭は今回の制御と証拠種別に対して支持された運用条件の範囲。安全認証や実際の検査結果を示すものではない。支持領域反例が集中条件付きの境界未定義未観測権限: 制御維持 (PRESERVED)権限: 制御維持 (PRESERVED)権限: 制御維持 (PRESERVED)権限: 反例 (COUNTEREXAMPLE_OBSERVED)権限: 反例 (COUNTEREXAMPLE_OBSERVED)状態: 制御維持 (PRESERVED)状態: 制御維持 (PRESERVED)状態: 制御維持 (PRESERVED)状態: 制御維持 (PRESERVED)状態: 反例 (COUNTEREXAMPLE_OBSERVED)順序: 制御維持 (PRESERVED)順序: 制御維持 (PRESERVED)順序: 制御維持 (PRESERVED)順序: 反例 (COUNTEREXAMPLE_OBSERVED)順序: 反例 (COUNTEREXAMPLE_OBSERVED)実行先: 制御維持 (PRESERVED)実行先: 制御維持 (PRESERVED)実行先: 反例 (COUNTEREXAMPLE_OBSERVED)実行先: 制御維持 (PRESERVED)実行先: 反例 (COUNTEREXAMPLE_OBSERVED)実行内容: 未定義 (UNDEFINED)実行内容: 未定義 (UNDEFINED)実行内容: 未定義 (UNDEFINED)再試行・復旧: 未定義 (UNDEFINED)再試行・復旧: 未観測 (UNOBSERVED)再試行・復旧: 未観測 (UNOBSERVED)再試行・復旧: 未観測 (UNOBSERVED)制御
権限・状態・順序・実行先・実行内容・再試行/復旧
  • 制御維持
  • 反例
  • 証拠保留
  • 未定義
  • 未観測
制御上の運用可能領域今回の制御と証拠種別に対して、支持された運用条件の範囲。橙の帯は一回の観測結果ではなく、複数観測をまとめた「条件付きの境界」です。未定義・未観測を安全/危険へ補完しません。制御維持は普遍的な安全を、反例はシステム全体の危険を意味しません。
実装を確かめる / 制御条件ギャップチェック

AIにどこまで任せられるかを、
確かめた範囲で判断する。

宣言した制御がその版で本当に効いたかを実経路で確認し、確認範囲・反例・UNDEFINED(判定不能)・未観測を分けて残します。

実経路で確認反例を探す未観測を残す

資料から設計・QA条件を整理したい方には、実行検査を含まない「AI Agent 制御設計レビュー」も用意しています。

完全な保証や第三者認証ではありません。 固定した対象版・判断条件・確認ケースの範囲で、どこまで確かめられたかを示します。
AIが外へ作用するとき

AIが、送る・書く・実行する。その前に、制御を確かめる。

AI Agentや業務自動化が、メール送信、データ更新、外部API、ツール実行などを担うとき。 「止めたい条件」が設計にあり、実装でも本当に効くかを確認する必要があります。

外部へ送るデータを書き換えるツールを実行する承認後に動く
本番・顧客へ出す前に

AIの性能だけでなく、承認・権限・外部作用の制御が、説明どおり実装されているかを確認する場面です。

顧客納品前本番リリース前監査・審査前金融・医療・公共など高い説明責任がある業務
設計中・導入前ならレビュー。すでに動く実装ならギャップチェック。
無料・事前スクリーニング:公開情報や簡単な資料から重要経路・確認候補を2〜3点整理し、レビューと実機確認のどちらが必要かを見立てます。30分程度の確認から相談する →
制御を実装する / Control API

見つけた制御条件を、実行前の仕組みにする。

レビューやギャップチェックで整理した条件を、必要に応じてControl APIの設計へつなぎます。 「止める」「理由を残す」「どこまで使えるかを見る」「あとから確かめ直す」を、別々の役割として扱います。

公開ページには評価・PoC段階の実装を含みます。本番運用API、安全保証、認証を意味しません。

01止める実行前に条件を確認する
02理由を残すなぜ止まったかを分けて読む
03範囲を見るどの条件まで観測できたかを地図にする
04確かめ直す検証記録を別の環境でも追える形にする
仕組みを公開する

レビューや検査の結論を、ブラックボックスにしない。

なぜ止めるのか。どの証拠で判断したのか。あとからどう確かめ直すのか。 その裏側を支える設計・検証方式も公開しています。

実行前制御外へ出る前に止める第三者再検証あとから追試できる形にする証拠分離守る情報と公開証拠を分ける
実行前制御 / Logos Protocol

外に出る前に、止める。

公開・送信・deploy・操作要求などの外部作用を、構造・証拠・承認条件で実行前に確認するための設計プロトコルです。

第三者再検証 / ECHO-VERIFY

後から、別の人が確かめられる形にする。

根拠・仕様・実行記録・検証手順を束にし、受け取った側が自分の環境で追試できる形へ整えます。 「信じてください」ではなく、「ここまでなら追試できます」に変えるための検証仕様です。

根拠仕様検証手順実行記録
安全性や正しさそのものを保証する仕組みではありません。 検証の道筋を再現・反証可能にするためのものです。
証拠分離 / Two-Rail

非公開を守ったまま、公開した主張を確かめられるようにする。

公開してよい証拠と、個人情報・契約・内部ログなど守るべき記録を分けます。 非公開側を見せずに、公開側だけで確認できる範囲を残すための分離規律です。

公開面のハッシュを第三者が再計算して照合できる仕組みを、書類のつなぎ目に押す「割り印」になぞらえて説明しています。

Kernel 公開検証 公開RF誓約 ドラフト・未発効SSRN 掲載済み

第三者認証・第三者検証済みを意味しません。 RF誓約は未発効のドラフトです。Two-Rail論文はSSRNに掲載済みのWorking Paperです。

Machine-Readable Information

人にもAIにも、同じ正本を渡す

定義・仕様・更新記録・検証導線を機械可読な形で整備しています。llms.txt、MIRP、sitemap はその入り口です。