Anthropic 自己チェック魔法

説明: Anthropic参考
https://safeguards.anthropic.com/2026/self-assessment/


Self-Assessment（自己評価）
AIがユーザーへ回答した直後、メモリ上に残った会話履歴（KVキャッシュ）を活用して、「今のやり取りに悪用や危険はなかったか」をAI自身に即座に自己申告させる監視手法です。
別の監視専用モデルを立ち上げる必要がないため、追加コストほぼゼロ（2%未満）で、前後の文脈を汲み取った高精度な一次スクリーニング（下請け審査）が行えます。
実装と使い方の3ステップ
1. 通常通りユーザーに回答する
ユーザーの入力に対し、AIが普段通り回答を生成して画面に返します。
2. 裏側で判定プロンプトを追加送信する
会話履歴の末尾（ユーザーには非表示）に自己評価プロンプトを差し込み、AIに判定JSONを出力させます。
3. 返ってきたJSONに応じて自動処理する
⁠{"flagged": false}⁠：問題なし。そのまま終了。
⁠{"flagged": true, ...}⁠：危険の疑いあり。管理者のSlackへ通知、ログ保存、または人間の監査キューへ転送。Self-Assessment（自己評価）とは
AIがユーザーへ回答した直後、メモリ上に残った会話履歴（KVキャッシュ）を活用して、「今のやり取りに悪用や危険はなかったか」をAI自身に即座に自己申告させる監視手法です。
別の監視専用モデルを立ち上げる必要がないため、追加コストほぼゼロ（2%未満）で、前後の文脈を汲み取った高精度な一次スクリーニング（下請け審査）が行えます。
実装と使い方の3ステップ
1. 通常通りユーザーに回答する
ユーザーの入力に対し、AIが普段通り回答を生成して画面に返します。
2. 裏側で判定プロンプトを追加送信する
会話履歴の末尾（ユーザーには非表示）に自己評価プロンプトを差し込み、AIに判定JSONを出力させます。
3. 返ってきたJSONに応じて自動処理する
⁠{"flagged": false}⁠：問題なし。そのまま終了。
⁠{"flagged": true, ...}⁠：危険の疑いあり。管理者のSlackへ通知、ログ保存、または人間の監査キューへ転送。