AIエージェントが広がるなか、企業はどう統制を確立すべきか

生成AIやAIエージェントが日常業務に浸透するなか、企業内ではAIの利用状況を把握しきれず、リスク管理やコンプライアンス対応が後回しになるケースも散見されます。AIの活用は企業成長を大きく押し上げる一方で、適切なガバナンスという制御機能がなければ、思わぬ事故を招きかねません。

AI活用が個人のツール利用の枠を超え、業務プロセスへ本格的に組み込まれる時代へとシフトする今、リスク管理の仕組みをどう構築していくべきなのか。ServiceNowが提供するAIガバナンスソリューション「AI Control Tower」による技術的アプローチと、KPMGが蓄積してきた組織・制度設計の知見を基に、現実的に運用できるAIガバナンスのあり方について、ServiceNow Japan 専務執行役員 COO 原智宏氏、KPMGコンサルティング 執行役員 パートナー 熊谷堅に話を聞きました。

ServiceNow Japan合同会社
専務執行役員　COO（チーフオペレーティングオフィサー）　原 智宏 氏

KPMGコンサルティング
執行役員　パートナー　熊谷 堅

――まず、日本企業におけるAI利活用の現状について、どのように捉えていらっしゃいますか。

熊谷：
日本企業のAI利活用は着実に進んでいます。各社が自社の製品やサービスにAIやエージェント機能を積極的に組み込んで提供するなど、力強い動きが見られます。

私たちが専門とするAIガバナンスの観点からみると、これまではさほどリスクの高いユースケースは多くありませんでした。しかし、今後、使い方のパターンが多様化し、より高度な活用が進み、AIエージェントのような自律型の仕組みが爆発的に増えていくと、企業として起きてはいけないことが実際に起こり得るフェーズに入っていくと考えています。

原氏：
2022年末に生成AIが広く使われ始めて以降、日本企業は過去のほかのテクノロジーに比べても、非常に積極的なスピードでAIを採用している印象を受けます。一方で、その活用はまだ議事録の作成や長文の要約といった、個人の労働集約的なタスクを代替し、生産性を引き上げるためのツールとしての利用が中心です。

今後は、人が業務全体を俯瞰・統制し、AIが自律的に業務を実行する時代へとシフトしていきます。現在は人とAIとが協働し業務を実行していく世界の入り口に立っているといえます。ServiceNowでも現在、AIを活用してあらゆるシステムへの入り口を1つにする「EmployeeWorks」や、“AI社員”を実現する「Autonomous Workforce」といったソリューションの展開に注力しています。

個々のタスクから数珠つなぎになったプロセスそのものへ、AIに任せる領域の“粒度”が大きくなってきているのが現在のフェーズといえるでしょう。

――AIが自律的に業務を行うようになると、当然リスクも変化してくるかと思います。企業はどのような課題に直面しているのでしょうか。

熊谷：
これまでのチャットボットのような使い方であれば、影響範囲は個人の作業に限定されていました。AIが間違った回答を出しても、人間が気づいて修正できたわけです。

しかし、AIエージェントの登場で状況は一変します。エージェントは自律的に他のシステムにアクセスし、システムを更新したり、データを削除したりする権限を持ちます。そのため、AIがハルシネーションを起こした場合、間違った判断がそのまま自社の基幹システムに反映されてしまうおそれがあるのです。

原氏：
スピードを優先して各部門が個別最適でAI導入を進めてきた結果、IT部門が関知しないところで業務にAIが組み込まれる「シャドーAI」の問題も深刻化しています。

私は、AIの管理は今後、人のライフサイクル管理と同様になっていくと考えています。人が入社して役割を与えられ、必要な権限を受け取って実務を行い、評価されて異動・退職していくのと同じように、AIに対しても「どの業務シーンで、何の権限や認可を与えるのか」を厳密に管理しなければなりません。これをAI導入のスピードや広がりを阻害することなくどのように進めていくかが重要になっています。

熊谷：
一方で、AI利活用が進んでいる先進的な企業であっても、AIエージェントに対する認証・認可、すなわちシステムに対するIDの付与やアクセス権限の設計をどう統制していくかという仕組みが固まっていないのが現状です。自律的にシステムを書き換える力を持ったAIエージェントが、ルールなきまま野放しにされている。これこそが、現在のシャドーAIの脅威なのです。

――そうした課題に対し、KPMGはコンサルティングの立場でどのようにAIガバナンス構築を支援しているのでしょうか。

熊谷：
まず大前提として、企業内にAIガバナンスを推進・統制する体制を整備することが重要です。「AIのリスク管理は、IT部門がやるのか、法務なのか、それとも経営企画なのか」――多くの企業がここでつまずきます。私たちは、この役割とミッションを明確にする組織設計から伴走します。

そのうえで、私たちが中核に据えているのが、AIの企画・開発・運用の各フェーズにおける「ライフサイクル管理」です。

――具体的にはどのような評価や管理を行うのですか。

熊谷：
たとえば企画段階では、「このユースケースにAIを使って本当によいのか」を評価します。金融機関が個人の与信判断をAIに完全に任せてよいのか、あるいは医療診断や司法の量刑判断にAIをどう関与させるのかといった倫理的・法的な評価です。

そして開発・運用段階では、AIが不適切な判断を下さないようにガードレールをどう設定するか、AIの判断を最終的に人間が確認する「ヒューマンインザループ」の仕組みをどの業務に組み込むかといった基準を作り、現場に提示します。

KPMGでは、これらを包括する「Trusted AI」というグローバル共通のフレームワークを提唱しています。公平性・透明性・安全性・セキュリティなど10項目を基準とし、各国の法規制も踏まえながら、企業ごとに最適なガバナンスモデルを設計します。

――しかし、いくら立派なルールや基準を作っても、現場に浸透させ、適切に運用していくのはハードルが高いのではないでしょうか。

熊谷：
だからこそ、ルールを実効性のあるシステムとして落とし込む必要があります。そこで私たちが有力なソリューションとして位置付けているのが、ServiceNowの「AI Control Tower（AICT）」です。

原氏：
AICTは、全社規模でAIの利用状況を統制し、価値とリスクを可視化するためのプラットフォームです。どの部門で、どのAIが、どのような目的で使われているのかを可視化し、統制の効いた運用を実現します。

特筆すべきは「AIディスカバリー機能」です。これは、IT部門への申請を通さずに現場で独自に使われているAIツールを、通信の状況などから自動的に検知し、インベントリ化する仕組みです。これにより、性善説や自己申告に頼らない実効的なガバナンスが可能になります。

――ServiceNowのプラットフォームならではの強みはどこにあるのでしょうか。

原氏：
最大の強みは、AIに対して業務の文脈（コンテキスト）を渡せる点にあります。

AIにデータを読み込ませるだけでは、AIは正しい意思決定ができません。たとえば「購買申請の承認」という業務をAIに任せる場合、過去の担当者は、どういう基準で承認・否認を判断していたのかという業務上の文脈が必要です。

ServiceNowはこれまで、デジタルワークフローを通じて数多くの企業の業務プロセスを管理してきました。つまり、人がどう判断してきたかという過去の蓄積やノウハウを最も深く把握しているのです。この文脈を「コンテキストエンジン」とよばれる機能を通してAIに渡すことで、人が行っていたのと同じ品質・精度でAIに業務を実行させることが可能になります。

――KPMGとServiceNowが協業することで、企業にはどのようなメリットがもたらされるのでしょうか。

熊谷：
KPMGから見た両社協業の最大のコアバリューは、制度設計からシステム実装までのシームレスな連携です。KPMGには、私のようにAIガバナンスの高度な制度設計や組織論を専門とするコンサルタントがいる一方で、ServiceNowのプラットフォームを深く理解し、業務目線からシステム実装を担う専門部隊も存在しています。

コンサルタントが描いた理想論だけで終わらせず、ServiceNowのプラットフォームの専門部隊がお客さまの業務フローを紐解き、ServiceNowの優れたUI上に使いやすい形で実装する。この両輪が社内で分断されることなく、ワンストップでお客さまを支援できる体制が整っていることこそが、私たちが提供できる最大の強みです。

原氏：
AIガバナンスにおいて重要なのは、単なるITリスクとして矮小化せず、全社的なビジネスリスク管理のなかに組み込んでいくことです。ただ、システムを提供するベンダーだけでは、全社的なリスク管理の枠組みを作ることはできません。だからこそ、KPMGのような業務とシステムの知見を併せ持つスペシャリスト集団の力が必要不可欠なのです。

実際、KPMGはServiceNowグローバルの2026年度パートナーアワードにおいて「Worldwide Core Business Partner of the Year」を受賞されています。10年以上にわたる協業のなかで培われた実績と知見、専門性が評価されたものであり、我々としても最も信頼できるパートナーです。

熊谷：
AIガバナンス領域においても、すでに日本の大手企業がServiceNow のソリューションを導入し、KPMGが並行してガバナンスの制度設計を支援するケースが生まれています。現在、この両輪を1つの統合プロジェクトとして提供していく体制を整えているところです。

加えて、現状は日本よりも北米の企業のほうがAIガバナンスに対して先行した取組みを進めています。KPMGとServiceNowはグローバルで緊密に連携しているため、北米などで培われた先行事例や最新の知見を、日本企業にいち早く還元できるのも我々の強みです。

そのような背景もあり、現在KPMGとServiceNowはグローバルの協業をかなり強めています。クライアントのAI導入を全社的なワークフロー変革につなげていくために、導入サービスや市場展開、テクノロジー活用に共同で投資する、複数年・4,000万ドル規模の取組みを2026年5月に打ち出しています。

さらに言えば、ServiceNowはIT部門と強固な関係を築いているだけでなく、管理部門・業務部門向けのソリューションも幅広く展開しています。ITと業務の両方に接点を持つプラットフォームだからこそ、全社的なガバナンス体制をスムーズに実装できると確信しています。

――これからAIガバナンスの構築に着手する企業へ、今後の展望を含めてアドバイスをお願いします。

熊谷：
まずは、すべてのAIに同じような厳格な統制をかけるのではなく、リスクの高いものと低いものを見極め、メリハリをつける「リスクベースアプローチ」を効果的に取り入れてください。

また、今後はAIエージェントの普及に伴い、エージェント自身がアタックサーフェスとなるリスクが高まります。さらに、自社データをAIに参照させるRAG（検索拡張生成）技術においても、データへのアクセス権限や情報の鮮度といったデータセキュリティの観点がきわめて重要になります。ライフサイクル管理とセキュリティ対策をセットで検討していただきたいです。

原氏：
「ガバナンス」という言葉は、しばしばビジネスのスピードを落とすものとネガティブに捉えられがちです。しかし、リスクが定量的に可視化され、適切に管理されているという安心感があってこそ、企業は歩みを止めることなくAIの業務適用を推進できます。

近い将来、AIの活躍の場はオフィスワークにとどまらず、工場の生産ラインや小売店舗などのフィジカルな領域（OT：オペレーショナルテクノロジー）へと広がっていくでしょう。今のうちにオフィス領域で確固たる統制モデルを作っておくことが、将来ITとOTの境界がなくなった際、より広範なAI利活用へと踏み出すための強力な布石となります。

熊谷：
我々は両社の強みを掛け合わせ、日本企業がAIという強大なアクセルを、安全かつ最大限のスピードで踏み込めるよう支援してまいります。

※本文中に記載されている会社名・製品名は登録商標または商標です。
※本稿は、2026年6月10日に『マイナビニュースTECH+』に掲載された記事を転載したものです。転載にあたり、許可を得て一部を編集しています。
※本稿に記載されている執筆者の所属・職位等は、公開時点の情報に基づいています。

• ServiceNow Japanの詳細はこちら

原 智宏 氏
ServiceNow Japan合同会社
専務執行役員　COO（チーフオペレーティングオフィサー）
ServiceNow Japanにおいて、日本法人の事業戦略立案から組織運営全般を牽引。また、グローバルの製品開発部門のカウンターパートとして、日本市場におけるテクノロジー展開の最高責任者を務める。企業のデジタルワークフロー変革を支援するとともに、近年はAIを自律的な“AI社員”として業務に組み込む次世代プラットフォームの推進に注力している。

熊谷 堅
KPMGコンサルティング
執行役員　パートナー
システム設計・開発に従事した後、外資系コンサルティングファームを経て、2002年にKPMGビジネスアシュアランス（現KPMGコンサルティング）に入社。デジタル化やデータにかかわるガバナンス、サイバーセキュリティ、IT統制関連のコンサルティングを数多く手掛ける。現在はKPMGのグローバルネットワークと緊密に連携し、日本における「Trusted AI」サービスをリード。国内外の法規制動向を見据えたAIガバナンス構築プロジェクトを牽引している。

KPMGとServiceNowは、グローバルにおけるアライアンスを強化し、戦略的パートナーシップを通じてDX推進や業務変革を支援しています。
その具体的な取組みを紹介します。