原則が実際に何を必要とするか
原則は一つの中心的義務を確立します:重大な決定に対する権限はAIシステムに委任できません。ガバナンスは、重大な決定が効力を持つ前の瞬間であるコミット境界において、強制可能な制約のもとで正当な人間の権限によって解決されなければなりません。
これは文書化の要件ではありません。監査証跡、説明可能性ツール、または遡及的報告によって満たされません。原則が問う問いは運用上の、具体的なものです:この決定が効力を持った瞬間に、誰が権限を持っており、結果を変えることができましたか?
反演劇テスト — 一ページ
これらは、拒否できるガバナンスと説明しかできないガバナンスを区別します。デプロイメント前のゲート、監査レンズ、インシデントトリアージチェックリストとして使用してください。
- 1コミット時の管轄。コミットの瞬間に、どのマンデートバージョンのもとで、どの制約で、何時に「はい」を所有していたかについての意思決定グレードの証拠を提出できますか?
- 2時間インデックス付きマンデート妥当性。権限はその条件が保持される間のみ有効ですか?実行時に、システムは現在マンデートを保持しているのは誰か、マンデートがまだ存在するか、コンテキストがその制約を満たしているかを解決できますか?
- 3境界閉鎖。すべての結果として生じる実行経路が強制プレーンまたは宣言された例外を通過することを示せますか?境界をバイパスするいかなる経路も、定義上ガバナンスを不完全にします。
- 4曖昧さにおけるフェイルクローズド。権限、コンテキスト、または制約が不確定な場合、システムはデフォルトで拒否するかエスカレートしますか?それとも不確実性が実行できますか?
- 5上書きの説明責任。拒否またはエスカレーションが上書きされる場合、上書きは帰属可能で証拠に基づいていますか?その上書き自体が取り消される場合、誰によって、どのような権限のもとで行われたかを証明できますか?
- 6負荷下での保護された介入。ガバナンス上の懸念で介入する人物に何が起きますか?報復、キャリアコスト、または非公式な抑圧が続く場合、エスカレーションは演劇であり、ドリフトが安定した均衡になります。
原則がすること・しないこと
原則がすること
コミット境界において権限が存在することを要求します。誰が権限を持っているかを識別することを要求します。マンデートが有効であり続けることを要求します。介入が実際に保護されることを要求します。これらの条件が満たせない場合にフェイルクローズドすることを要求します。
原則がしないこと
AIシステムの使用を禁止しません。自動化を排除しません。特定の技術を指定しません。規制コンプライアンスを定義しません(適用される規制によってそれは異なります)。文書化または監査可能性を置き換えません — ただしそれらはそれ自体では十分ではありません。
原則にアクセスして引用する
核心的原則はSSRNで自由に利用できます。アカウントや支払いは必要ありません。公開テキストは自己完結した規範的文書です。ガバナンスの枠組み、ポリシー文書、および実装ガイダンスで引用できます。
さらに進みたい場合 — コンパニオンブック、実装ガイダンス、または著者との相談 — 以下のフォームからリクエストしてください。
