2024年1月公開の「AI活用の業務改善を成功に導く、『AIマネジメント人材』と求められる要素とは」では、AIによる業務改善が、従来のITシステム開発とは異なる特徴を持つことを解説した。
具体的には、ITシステムを使って業務を行うユーザー（以降、業務ユーザー）、ITシステムを開発するシステムエンジニア、そしてAIの専門家であるデータサイエンティストという、役割や目線の異なる三者が関与し、相反する要望や要件の調整が求められるため、三者を橋渡しする”AIマネジメント人材“が重要になるということである。
しかし、AIマネジメント人材が中心となってAI導入を推進しても、業務ユーザーから反発を受けてしまうことがある。本稿では、業務改善を目的としたAI導入時に生じやすい業務ユーザーからの反発事例と、反発を乗り越えるために有効な策について解説する。ここでは小売業向けに需要予測AIを導入し在庫を最適化することで、店舗欠品や過剰在庫の削減を目指すケースを想定して述べる。
※本記事は、ZDNET「AI活用の業務改善を成功に導く、「AI導入に立ちはだかる“現場の壁”--業務ユーザーからの反発と乗り越えるための方法」（2025年11月30日）の内容を転載しています。
反発1：一部商品の需要予測精度が悪く、このままでは業務導入できない！
AI開発後の精度検証において、多くの商品で精度が良好である一方、一部の商品で精度が悪い場合がある。一般的には、AIは売り上げの大きい商品の予測誤差を小さくすることや過去傾向の再現に比重を置くため、売り上げの小さい商品や売り上げの傾向が変わりやすい商品では精度が十分に向上しないことがある（図1参照）。
業務ユーザーはAIに過度な期待を抱きやすく、一部でも精度の悪い商品が存在すると、「この商品は精度が悪い！このままでは業務導入できない！もっと精度を上げてからリリースにしてくれ！」という反発につながってしまうことがある。一部商品で精度が悪くなっている原因はさまざまだが、ほとんどの企業は限られたスケジュール・リソースの中でAI開発を進めていることから、リリースまでに十分に検証できないケースも多い。
このような場合には、精度の良い・悪い商品の傾向を分析し、業務ユーザーと精度基準を議論・合意した上で、基準を満たす商品やカテゴリーに限定してリリースすることが有効である。精度が良いことが分かっている商品やカテゴリーのリリースであれば、業務ユーザーからの合意が得やすい。確実に業務効果を示すこともでき、業務ユーザーからの期待増につながる。また、問題発生時のリカバリー範囲も限定され、業務負担を低減できる。
逆に完璧を目指してリリースを遅らせると、「リリースに間に合わないほどの改善をしないといけないのか。何か大きな問題があるのではないか？」と思われてしまい、かえって不安感が増してしまう。業務ユーザーによる精度やデータの確認が今まで以上に細かくなり、精度への要求がさらに厳しくなり、追加で精度の悪い商品が見つかってしまうこともあるだろう。さらには業務ユーザーから「追加の要求や課題への対処もしないとリリースは認められない」と言われて、悪循環に陥る恐れもある。そのため、AI導入は最初から完璧を目指さず、スモールスタートで徐々に目標に近づけていく方が良い。
傾向分析や精度基準の合意には時間を要する場合が多い。中間報告など早期段階で業務ユーザーを交えた精度検証を行い、精度指標や基準を議論しておく必要がある。特にリリース直前になって突如として反発が起きないよう気を付けたい。売り上げの小さい商品や売り上げの傾向が変わりやすい商品については、どうしても精度が悪くなってしまう場合があること、全体でみると精度が良い商品が多く享受できるメリットの方が多いことなどを伝えて、業務ユーザーの期待値をコントロールしておくことも重要である。
反発2：異常な値・挙動を一切許容できない！
精度が良いAIであっても、突発的に異常な値や挙動を示すことがある。例えば、コートなど冬の時期に売り上げが大きい商品に対して、売り上げが非常に小さくなる夏の時期の時期1週間だけ、実売り上げと比較して数倍の予測値が出てしまうことがある（図2参照）。
異常値が在庫管理業務に悪影響をおよぼす恐れがあり、「少しでも業務に影響が出てしまうようであれば、異常な値・挙動を一切許容できない！」と業務ユーザーから反発を受けてしまう。突発的な異常値や挙動は、何か傾向があるのではなく、精度が良い商品に対しても予期できず突然起きてしまうことがあるため、反発1のように精度基準を満たす商品のみリリースしても避けられない事象である。
この場合には、AIの予測値をそのまま利用せず、異常値を抑制する後処理を施してから後続システムに連携することが有効である。移動平均による平滑化（スムージング）などが考えられるが、事業や業務特性に応じて妥当な後処理方法を検討する必要がある。
また、システム側でセーフティーネットを設けることも有効である。異常とみなす条件を事前に分析・定義し、該当時には、AIの予測値の代わりにあらかじめ定めたロジックやルールに基づいた値を用いる、あるいはAIを使用せず、販売計画値など人手を介した値に切り替える仕組みなどが考えられる。
ただし、どのような対策を行っても全ての異常に完全に対処することは難しい。異常な値・挙動を即座に検知・対処できる運用を設計し、運用体制を整え、業務影響を最小限に抑えることが重要である。後処理やセーフティーネットの検討・実装には時間がかかることも多く、異常が起きる頻度が低いことが分かっていれば、この運用の導入のみで業務ユーザーとリリースの合意ができる可能性がある。
反発3：AIを入れるなんて聞いていない！信頼できない！
AIを利用する業務ユーザーが多い場合、全ての業務ユーザーに直接、AI導入を説明するのが難しく、各責任者を通じて説明する場合が多い。実際に業務を担当するユーザーまでAI導入に関する情報が十分に伝わっていないと、「AIを導入するという話は聞いていない！本当に精度が良いのか？信頼できない！」といった反発がプロジェクトの途中やリリースの直前に起きてしまうことがある。
この場合は、「何の業務を改善するためのAIか」「その精度はどの程度か」「業務にどんな効果があるのか」といった点を、丁寧に説明していくしかない。業務ユーザーは、「AI導入によって業務の流れが変わってしまうのではないか」「異常発生時のリカバリーで大きな負担を強いられるのではないか」などの懸念を抱いていることが多い。業務ユーザーの視点に立ち、「業務にどのような影響があるのか」「異常が起きないようにどんな対策をしているのか」「万が一異常が起きた場合にはどう対応するのか」といった点を、隠すことなく透明性をもって説明しないといけない。
無事にAI導入を納得してもらい、リリースに成功してからも、業務ユーザーとは定期的にコミュニケーションを取ると良い。例えば、業務ユーザーからフィードバックを得られる仕組みを作る、業務ユーザーと現状や今後を討議する定例会議を設けるなどが考えられる。精度など現状の共有はもちろんであるが、業務でAIを使っている際の気づきや課題をフィードバックしてもらうことで、AIやシステムのさらなる改善につなげることができる。どのように業務に定着させていくかについては、次回で詳細を紹介する。
おわりに
AIの導入は、業務改善や変革に大きな可能性を秘めており、そのためには業務ユーザーの理解や協力が欠かせない。業務ユーザーから反発があったとしても、AIマネジメント人材が中心となって、最善の対応策を検討・調整して乗り越えていかないといけない。本稿で解説した内容が、その一助となれば幸甚である。
ただし、AIのリリースを実現して終わりというわけではない。AIの価値を最大限に引き出すには、AIを真に業務に定着させる必要があり、それにはさらなる対応が必要となる。そこで次回は、AIリリース後の業務定着化について解説する。
