本連載は、アジア最大級のAIカンファレンスSuperAI 2026の議論を、「AI活用の競争軸の変化」という切り口で6つのテーマを読み解いてきた。最終回となる第4回で取り上げる「⑤Industry Use Cases（各業界のユースケース）」と「⑥Governance & Security（ガバナンスとセキュリティ）」は、AIに何をどこまで「任せられるか」という問いに、最も明確な答えを迫る2つの領域だ。
規制が厳しく誤りの許されない金融のような業界では、AI活用は不可能だと見られがちだ。だが現地で示されたのは、規制を障壁とみなす段階を越えた実像だった。AIの知能と監査可能なコアインフラを組み合わせ、リスクに応じて人間が介在しながら、業務を着実に任せ始めているのである。そして、その鍵を握るのが、「使わせないための統制」から「任せるための設計」へと役割を変えつつあるガバナンスである。
Industry Use Cases（各業界のユースケース）
事前仮説
筆者が持っていた仮説は2つある。1つ目は「金融業界における厳格なセキュリティや規制要件はAI活用の絶対的な障壁であり、既存の枠組みの延長線上では実務適用は不可能である」という見立てである。顧客支援の現場で必ず直面するこの「セキュリティの壁」に対し、突破口が見出せないという懸念があった。2つ目は「規制へのアプローチやAI導入のスピードは、各国／企業の文化や制度に対するスタンスの違いによって大きく異なる」という見立てである。こうしたスタンスの差が導入スピードの差となって現れ、日本が出遅れるのではないかという懸念があった。今回は、これらの仮説を検証しつつ、厳しい規制下でAIを社会実装するための具体的な推進アプローチや先進的な考え方の獲得を目指した。
現地で示されたこと
ⅰ. セキュリティ、規制の壁を越える「15%の知能」と「85%のバックボーン」
金融の実務にAIエージェントを組み込む際、最大のボトルネックはモデルの賢さではなく、システムの「信頼性」である 。セッションでは、AIエージェントによる資産管理を成功させるための構造として、「15%のモデル（思考、解釈）」と「85%の周辺システム（制約、実行インフラ）」という重要なモデルが提示された。具体的には、大規模言語モデル（LLM）自身に不確実な数値計算やプラン策定をさせるのではなく、再現可能で監査可能な「決定論的モデル（Deterministic model）（＊1）」を融合させ、生成前にシステム側でデータや機能を制限する設計となっている。この「85%」の強固な検証可能エコシステムがあるからこそ、規制対応と透明性を担保できる。
（＊1）Deterministic model（決定論的モデル）：同じ入力に対して常に同じ出力を返すモデル。結果に確率的なばらつきがなく、動作が予測可能で再現性が高い点が特徴。生成AIのような確率的モデルと対比される
ⅱ. 完全自律化への過渡期における「リスクの階層化（Risk Tiering）」とHuman-in-the-loopの徹底
「AIにどこまで意思決定を委ねるべきか」という問いに対し、先進企業はリスクに応じた明確な境界線を引いている。基本的には、資金移動が絡む領域での完全自動化は現段階ではリスクが高すぎるため、「Human-in-the-loop（＊2）」を前提としたマルチエージェント型アシスタントを本番導入している。現地では自動運転車の歴史を例に、エラー時の致命度に応じた「リスクの階層化」の必要性が説かれた。具体的に、リサーチや要約などの低リスクなタスクには高い自律性を認め、高リスクなワークフローには必ず人間の承認を挟むというものである。
（＊2）Human-in-the-loop（ヒューマン・イン・ザ・ループ）：AIやシステムの処理過程に人間が関与し、判断、確認、修正を行う仕組み。重要な意思決定やAIの誤りの防止のため、自動化のなかに人のチェックを組み込む考え方
ⅲ. 「KYA（Know Your Agent）」の提唱とシンガポールの先進的なスタンス
国や企業のスタンス格差に関する仮説に対し、Web3（＊3）やフィンテックの最前線では、ステーブルコインやリアルワールドアセット（＊4）をまたぐ決済の「取引モニタリング（アンチマネーロンダリング／コンプライアンス）」すらAIエージェントで自動化し始めている現実が示された。これに伴い、ライセンスを持つ金融機関向けに「KYA（Know Your Agent）（＊5）」という新しいガバナンスフレームワークが提唱された。これは「エージェントを管理する人間の特定」「その人間のKYC（＊6）」「コントロール権限の継続的モニタリング」の3つを確立するものであり、AIエージェントが「誰の権限で動いているのか」「どの範囲の操作が許可されているのか」を認証／検証するものである。また、シンガポールのように、技術を禁止するのではなく、どうすれば安全に実装できるかを当局とエコシステムが前向きに議論し、その基準を明確にしていく先進的なスタンスも目立った。
（＊3）Web3：ブロックチェーンを基盤とし、特定の管理者に依存しない分散型のインターネットの概念。データや資産を利用者自身が保有、管理できる点を特徴とし、中央集権的なWeb2.0の次世代像として提唱されている
（＊4）リアルワールドアセット：Real World Asset（RWA）。不動産や債券、金といった現実世界に存在する資産を、ブロックチェーン上でトークン化したもの。現物資産のデジタル化により、取引や分割保有を容易にする
（＊5）KYA：Know Your Agent。AIエージェントの身元や権限、行動範囲を確認・管理する仕組み。人間の本人確認（KYC）にならい、自律的に動くAIエージェントを識別し信頼性を担保するための考え方
（＊6）KYC：Know Your Customer（本人確認）。金融機関などが取引開始時に顧客の本人性や属性を確認する手続き。不正利用やマネーロンダリングを防ぐために、法令に基づいて実施される
（参考セッション : Finance in the Age of Agents）
（参考セッション : The 85% Beyond the Model）
示唆
– 規制を理由にした「不可能」から、モデル（15％）とバックボーン（85%）の融合による実装へのシフト
企業が金融などの厳格な環境でAIの恩恵を受けるためには、AIの知能（15%）だけに頼るのではなく、監査可能な確定的モデルや強固な既存業務バックボーン（85%）と組み合わせる「業務再設計（リマッピング）」が不可欠である 。
– 「全自動化」か「不採用」かの二元論から脱却し、リスク階層型「Human-in-the-loop」を確立
すべての業務をAIに丸投げするのではなく、タスクの致命度に応じたリスク階層化（Risk Tiering）を行い、低リスク領域では自律性を高め、高リスク領域では人間が「共感、信頼、判断」の最終ストーリーを担うハイブリッドな意思決定構造への組織変革が必要である 。
– 技術を禁止する防衛策から、安全な社会実装を先導する「KYA」等の攻めのガバナンス基盤の構築
生成AIやエージェントの暴走を防ぐため、エージェントの責任主体を明確にする「KYA」のような新たなガバナンスやデータ基盤の高度化を最優先で進め、規制をリスクではなく「安全にスケールするための武器」として捉え直すスタンスが求められる 。
Governance & Security（ガバナンスとセキュリティ）
事前仮説
視察前、筆者はAIガバナンスを、生成AIの利用ルール、情報漏洩対策、個人情報保護、著作権、モデルリスク管理といった「守り」の論点として捉えていた。企業がAIを使う際に、入力してはいけない情報を定め、利用可能なツールを制限し、回答の正確性を確認する、といった統制が中心になると考えていた。
現地で示されたこと
現地で示されたガバナンスの議論は、事前仮説よりも広いものだった。AIガバナンスは、AI活用を止めるためのブレーキではなく、AIにより大きな業務を任せるための信頼基盤（アクセル）として語られていたのである。統制の論点が不要になるわけではないが、議論の重心は「使わせないための統制」から「任せるための設計」へと移っていた。現地で示された具体的な論点は、以下の通りである。
ⅰ. AIガバナンスは「守りの統制」から「任せるための設計」へ役割を変える
現地の議論が一貫して示したのは、AIガバナンスが今後「AIを使わせないための統制」から「AIに任せられる範囲を広げるための設計」へ変わるという点である。特にAIエージェントでは、ガバナンスの成熟度が、そのままAIに委ねられる業務範囲を決める。
これを象徴していたのが、米Sierraのセッションである。同セッションでは、AIエージェントの難しさは、LLMやチャットUI（ユーザーインターフェース）といった表面部分ではなく、その背後にある運用設計にあることが強調された。エージェントの本番導入では、本人確認、権限管理、外部システム連携、人間への引き継ぎ、失敗時の復旧、監査ログといった論点が避けられない。
ⅱ. Physical AI時代には、サイバーセキュリティとフィジカルセーフティの両立が重要
Physical AIの文脈では、ガバナンスはさらに物理的な意味を持つ。「Robotics and the Rise of Physical AI」のセッションでは、家庭や現場にロボットを導入する場合、「子どもや親を傷つけてはならない」という安全性の論点が示された。
これは、AIの失敗が画面上の誤回答にとどまらず、人身事故や設備損傷につながりうることを示している。Physical AI時代には、サイバーセキュリティに加えてフィジカルセーフティも確立する必要がある。
（参考セッション：The AI Agent Iceberg）
（参考セッション：The Real-Time Data Layer for AI Agents）
（参考セッション：Enterprise AI Runs on Trusted Data）
（参考セッション：Robotics and the Rise of Physical AI）
示唆
– AIエージェントの本番導入では、ガバナンスは後付けのルールではなく、前提条件と捉える
AIエージェントのガバナンスは、単なる利用規程やプロンプト入力ルールでは不十分である。AIが回答するだけでなく、外部システムを呼び出し、データを参照し、処理を実行するようになるほど、「どのデータにアクセスできるのか」「どの処理まで実行できるのか」「どの段階で人間に引き継ぐのか」をあらかじめ設計する必要がある。ガバナンスは、AIエージェントを安全に業務へ組み込むための前提条件になっている。
– AIエージェントの権限は、設計対象であると同時に攻撃対象にもなる
権限を与えられたAIエージェントは、それ自体が攻撃対象にもなる。外部ツールや社内システムに接続されるほど、プロンプトインジェクション（＊7）、権限昇格（＊8）、データ漏洩、不正なツール実行といったリスクが高まる。したがってAIエージェント時代のセキュリティは、モデルや入力内容だけでなく、AIが接続するデータ、ツール、API、実行権限まで含めて設計する必要がある。
– Physical AI時代には、サイバーセキュリティの枠を超えてフィジカルセーフティを設計しなければならない
AIが物理世界に接続される場合、ガバナンスは情報セキュリティ部門だけで完結するものではない。品質保証、法務、現場安全、設備管理、保険、規制対応と連携して設計しなければならない。
特に製造、物流、医療、公共インフラのように、AIの判断が人や設備に直接影響する領域では、AIガバナンス、サイバーセキュリティ、フィジカルセーフティを一体で扱う必要がある。これまで別々に管理されてきた情報システム、現場安全、品質保証、法務、リスク管理の境界を越えた設計が求められる。
（＊7）プロンプトインジェクション：AIへの入力（プロンプト）に不正な指示を紛れ込ませ、本来の命令や制約を無視させて意図しない動作を引き起こす攻撃手法。機密情報の窃取やルールの回避などを狙う
（*8）権限昇格：本来与えられている権限を超えて、より高い操作権限を不正に取得すること。一般利用者が管理者権限を奪うなどして、システムの制御や機密データへのアクセスを狙う攻撃を指す
おわりに
「Industry Use Cases」と「Governance & Security」が示したのは、AIに業務を任せられる範囲を決めるのは、モデルの賢さではなくガバナンスの成熟度だという事実だった。金融のような厳格な領域でも、AIの知能と監査可能なコアインフラを組み合わせ、リスクに応じて人間の介在を設計し、エージェントの責任主体を明確にすることで、AIは実際の業務プロセスを担い始めている。ガバナンスはもはやAI活用を止めるブレーキではなく、任せられる範囲を広げるための信頼基盤（アクセル）へと役割を変えていた。
4回に分けて連載したSuperAI 2026の6テーマ全体を貫いていたのは、競争の主戦場が「どのモデルやツールを作れるか」から「業務にどう組み込み、安全に任せられるか」へ移ったという変化である。AIをどこまで信頼し、何を任せるのか。その問いに対して答えを設計できる企業こそが、これからのAI活用をリードしていく。
