問い

生成AIが相談先を勝手に案内していいのか

短い答え

相談先の案内は善意でも高リスクになり得ます。勝手な案内ではなく、条件付き・承認付き・記録付きで扱う設計が必要です。C³のSafe Referral Gate(構想・Draft段階)は、高リスク相談を検知したときに制度側の公式入口条件を参照するゲートを考えており、相談窓口そのものではなく、自動通報もしません。

善意の一律案内が起こす問題

生成AIが高リスク相談に対して一律に窓口を案内すると、過剰介入や窓口側の負荷集中を招き得ます。案内するかどうか、どこへ、どの条件でを設計の対象にする必要があります。

勝手案内ではなく条件付きで扱う

Safe Referral Gateは、判定状態を分け、相談者向けの表示メッセージを伴う形で整理する構想です。既存のガードレールや専用チャットボットを置き換えるものではなく、これまで埋まっていなかった層を補う位置づけです。

出力統治面として設計する

LLM SafeControl Profileは、生成AIの出力・外付け実行・公開前審査を扱う外付けの安全制御層の公開仕様です。基盤モデルそのものではなく、出力をどう統治するかを記述します。

C³での対応

このページで言わないこと

  • - 相談窓口そのものではない
  • - 自動通報はしない
  • - 現在運用中のサービスではない
  • - 医療・法的判断や安全性の保証

Metadata