FSBの金融AIガバナンス案——「人間による監視」は一つではない

「人間による監視」という言葉は、実務では複数の仕事を一つにまとめてしまいます。

AIを動かす前に境界を決めること。

個々の判断を人が承認すること。

通常は自律動作させ、異常時だけ介入すること。

AIを使って監視を補強すること。

緊急時に止めること。

判断後に異議申立てを受けること。

これらは、すべて「人間による監視」に含まれますが、介入する時点も目的も異なります。

金融安定理事会（FSB）が2026年6月10日に公表した協議報告書は、人間による監視を一つの承認工程としてではなく、複数の形態に分けて整理しています。

本稿では12の実務慣行案全体を網羅するのではなく、実務慣行案10に示された監視の分解に焦点を当てます。

何が公表されたのか——協議案の位置づけ

FSBの公表資料によれば、協議報告書「Sound Practices for Responsible Adoption of Artificial Intelligence (AI): Consultation report」は2026年6月10日に公表されました。

意見募集の回答期限は2026年7月22日とされ、最終報告書は同年10月に公表される予定です。

ここで押さえておくべきは、この文書自体の位置づけです。

FSBは報告書の中で、これらの実務慣行案について、国際基準を設定するものではなく、金融機関に画一的・規範的なアプローチを課すものでもなく、特定のAI技術を採用するかどうかの事業判断に影響を与えるものでもない、と明記しています。

さらに、本報告書の実務慣行を採用したからといって、金融機関が各国の法令・規制上の義務を免れるわけではないことも明示されています。

また、これらの実務慣行案は、近時顕在化しているフロンティアAIモデル固有のリスクを包括的に扱う目的で策定されたものではない、とも説明されています。

一部の実務慣行はそうしたリスクへの対応にも役立ちうる、という位置づけです。

12の実務慣行案は、組織全体のAIガバナンス、AIの開発・導入段階におけるリスク管理、サイバー・ICT・第三者リスク管理の3分野に分けられています。

本稿が扱う「人間による監視」は、開発・導入段階のリスク管理に含まれる実務慣行案10です。

FSBはここで、AIの重要性、リスク、自律性、複雑さ、説明可能性に応じて、適切かつ実効的な人間の監視を実装するよう求めています。

AIエージェントが人間監視を難しくする理由

報告書は、AIエージェント（自律的にタスクを遂行するAI）が人間の監視にとって特有の難しさをもたらす、と率直に指摘しています。

その利用が拡大するにつれ、エージェントの意思決定をリアルタイムで人間が逐一確認し続けることは非現実的になる、という説明です。

結果として、エージェントが組織の意図やリスク許容度から外れた目標や行動を取っていても、担当者が気づけない、あるいは間に合わないタイミングでしか介入できない、という事態が起こり得ます。

報告書は、監視が継続的である必要がある場面や、監視をAIが主に担う場面が出てくる可能性にも言及しています。

ただし、ここで明確な一線が引かれています。

能動的な監視が主に機械によって行われる場合であっても、金融機関および個人が最終的な責任（accountability）を保持し続ける、という点です。

監視の実行者がAIに移っても、責任の所在は移らない。

この切り分けが、報告書の人間監視に関する記述の芯にあります。

「人間による監視」は一つの工程ではない

報告書は、人間の監視のあり方を一律に定めていません。

代わりに、Human-in-the-loop、AI-in-the-loop、Human-on-the-loop、Human-in-command、Kill switch、Contestabilityという複数の形態を挙げ、状況に応じて使い分けるべきだとしています。

これらの用語は文献や制度によって使われ方が揺れるため、以下ではFSB協議報告書における定義に沿って扱います。

注意したいのは、この六つが「どれか一つを選ぶ」ための横並びの選択肢には見えない、という点です。

承認と緊急停止と異議申立ては、そもそも働くタイミングが違います。

同じ土俵の代替案として比較しても、実務の設計にはつながりません。

監視を「いつ働くか」で並べ直す

FSBが挙げる監視形態は、同じ階層に並ぶ六つの選択肢というより、AIの稼働前、稼働中、異常時、判断後という異なる時点に配置される機能として読むことができます。

稼働前に境界を決める——Human-in-command

Human-in-commandは、AIの個々の出力を見ることよりも、自律性の程度、許可する行為、ガードレール、影響の管理方法を人間があらかじめ決める考え方です。

報告書では、エージェント型AIのように高い自律性を持つAIを想定した形態とされています。

人間がすべての処理を監視できない場合でも、AIが動ける範囲そのものは人間が決めます。

判断のたびに承認する——Human-in-the-loop

Human-in-the-loopでは、AIが行うすべての決定を人間が承認します。

報告書は、速度より正確性が重要な場面に適する場合があるとし、健康保険金請求の承認を例に挙げています。

ただし、人間が工程に存在するだけで実効的な監視になるわけではありません。

承認者に判断材料、時間、能力、権限がなければ、承認は形式化します。

稼働中に例外へ介入する——Human-on-the-loop

Human-on-the-loopでは、通常時はAIを動かし、信頼度の低下や閾値超過、異常の検知など、定められた条件で人間が介入します。

報告書は、AIの出力の信頼度スコアが低い場合や、覆す必要がある場合を例として挙げています。

全件承認では処理できない量や速度を扱う場合、重要になるのは「人が見るか」ではなく、「何が起きたら人へ切り替えるか」です。

監視能力をAIで補う——AI-in-the-loop

AI-in-the-loopでは、人間がAIを直接見るだけでなく、AIを人間の監視の側に組み込んで性能モニタリングを補強します。

報告書は、人間が制御を保ったままAIを支援層として使う形と説明し、金融機関がAI活用のユースケース数を増やしていく過程で必要になる場合があるとしています。

ただし、監視をAIで補強しても、検知結果を誰が受け取り、誰が対応し、その対応を誰が検証するのかという責任分担は残ります。

異常時に止める——Kill switch

Kill switchは、問題が起きたときにAIの動作を停止または制約する手段です。

報告書の説明では、完全な停止だけでなく、自律運用から人間による運用へ移行する動的・段階的な縮退までを含みます。

判断後に再検討できるようにする——Contestability

Contestabilityは、AIの判断を最終確定されたものとして閉じず、影響を受けた人が異議を申し立て、人間による再検討や救済を求められるようにする仕組みです。

報告書は、AIによる融資否認について、不当なバイアスが疑われる場合に顧客が異議を申し立てられるようにする例を挙げています。

監視は判断が出るまでの工程だけでなく、判断後にも置かれます。

一つの業務に複数の監視を重ねる

仮に、AIを使って融資申請を審査する業務を考えます。

以下は制度上の正解を示すものではなく、複数の監視形態が同じ業務に併存しうることを示すための仮想例です。

稼働前には、人間が利用可能なデータ、禁止する判断要素、AIが自動処理できる範囲を定めます。

これはHuman-in-commandに当たります。

通常の申請はAIが処理し、信頼度が一定値を下回った場合や、例外条件に該当した場合だけ担当者へ送るのであれば、Human-on-the-loopです。

顧客への影響が特に大きい判断について、実行前に人間の承認を必須とする部分はHuman-in-the-loopになります。

稼働中の性能変化や、特定の申請者層に判断の偏りが生じていないかを別の監視システムが検知するなら、AI-in-the-loopとして人間の監視を補う形になります。

重大な性能低下や異常が見つかったときは、自動処理を停止し、人による処理へ切り替えます。

これがKill switchです。

そして、判断を受けた利用者が異議を申し立て、人間による再審査を求められる経路がContestabilityです。

このように、六つの形態は一つを選んで終わるものではありません。

同じ業務の異なる時点と目的に重ねて配置されます。

難しいのは、監視方式の名前ではなく切替条件である

六つの名称を並べるだけでは、監視は機能しません。

実務上の難所は、AIによる通常処理から人間の確認へ、どの条件で切り替えるのかを決めることです。

信頼度が下がったときか。

金額や影響が一定水準を超えたときか。

禁止された操作が試みられたときか。

監視用のAIが異常を検知したときか。

利用者から再検討の要請があったときか。

また、人間に通知が届くだけでは足りません。

その人が後続処理を止められるのか、判断を覆せるのか、必要なログや根拠を確認できるのかまで決まっている必要があります。

FSBが、人間による無修正の追認（ラバースタンプ）や、AIとの広範な不整合を示す覆し方を分析対象として挙げているのは、このためです。

監視者を置いたという事実ではなく、その監視が実際に働いているかを行動の記録から確かめる必要があります。

本稿がFSB案から読み取る中心的な示唆は、Human-in-the-loopを増やすことではありません。

監視を、境界設定、通常時の監視、例外介入、停止、事後救済という異なる機能に分け、それらの間を切り替える条件を明確にすることです。

まとめにかえて

FSB案の特徴は、「人間を関与させるべきだ」と述べたことだけではありません。

人間による監視を、すべての判断を承認する一つの工程として扱わず、稼働前の境界設定、稼働中の監視、例外時の介入、緊急停止、判断後の異議申立てまで含む複数の機能として示した点にあります。

AIエージェントの利用が拡大すれば、人間がすべての中間判断をリアルタイムで確認することは難しくなります。

監視の一部をAIで補う場面も増えるでしょう。

それでも、何を監視し、どの条件で人へ切り替え、誰が止め、誰が再検討するのかを決める責任は残ります。

「人が最後に見るか」だけではなく、「人はいつ、何のために関与するのか」。

FSB案が投げかけているのは、その問いです。

情報確認について

本記事は2026年7月時点で確認した、金融安定理事会（FSB）の協議報告書（2026年6月10日公表）を主要な参照元として作成しています。

同報告書は協議段階の提案であり、意見募集の回答期限は2026年7月22日とされていました。

最終報告書は2026年10月に公表される予定で、その内容は変更される可能性があります。

最新の内容は各主体の公式発表でご確認ください。

主要参照資料

• Financial Stability Board, Sound Practices for Responsible Adoption of Artificial Intelligence (AI): Consultation report, 10 June 2026.