Human in the Loop（HITL）とは？生産性・安全性を両立するAIアーキテクチャの構築方法

「生成AIツールを導入したのに、結局すべて人間がチェックしているから業務量が減っていない」

そんな声が、現場から上がっていないでしょうか。

一方で、生成AIの活用が進むほど、経営層やセキュリティ担当からは「AIに任せきりにして誤操作や情報漏洩が起きたらどうするのか」という指摘も強まります。

AIをどこまで自動化し、どこから人間が担うべきか。その設計を誤ると、現場の負担も組織のガバナンスも、両方が崩れてしまいます。

この課題を解く鍵になるのが「Human in the Loop（ヒューマン・イン・ザ・ループ／HITL）」という考え方です。本記事では、AIの完全自動化がなぜ危険なのか、HITLがなぜ推奨されるアーキテクチャなのか、そして組織でHITLを機能させる仕組みまでを解説します。

AIの「完全自動化」が招く3つのリスク

AIにすべての判断を委ねる完全自動化は、一見効率的に見えますが、実際には見過ごせないリスクを抱えています。

ハルシネーション ―― もっともらしい誤答に気づけない

生成AIは、事実と異なる内容を、あたかも正しいかのように出力することがあります。いわゆる「ハルシネーション」です。

人間の確認が入らない完全自動化のフローでは、この誤りがそのまま業務に反映されてしまう恐れがあります。

コンプライアンス違反 ―― 誤操作・情報漏洩という重大リスク

AIエージェントがデータへのアクセスや取引の実行を、人間の確認なしに直接行う場合、誤操作や意図しない情報の外部送信といった重大なインシデントに直結します。AIの意思決定プロセスに対する人間の監督を求める規制も、国内外で強まりつつあります。

責任の所在の曖昧化 ―― 誤りが起きた時、誰が止めるのか

完全自動化されたプロセスでは、「誰が承認したか」「なぜその判断をしたか」という説明責任の記録が残りません。重大なミスが発生した際、原因の特定も再発防止も難しくなり、組織のガバナンスそのものが揺らぎます。

こうしたリスクを踏まえると、AIに「すべて」を任せるのではなく、要所に人間の判断を組み込む設計が不可欠だとわかります。

生産性と安全性を両立する「Human in the Loop（HITL）」とは？

AIによる完全自動化のリスクについては理解したものの、「では、AIを組み込んだ業務プロセスをどう設計すればいいのか」と感じている方もいらっしゃるのではないでしょうか。

そこで必要になるのが、「Human in the Loop（HITL）」の考え方です。

HITLの定義：AIが1次処理を担い、人が例外対応・最終判断を担う設計

Human in the Loop（HITL）とは、AIによる自動化プロセスに、人間の判断・評価・修正を意図的に組み込む設計思想・運用アプローチを指します。

AIが情報収集やたたき台の作成、スクリーニングといった1次処理を担い、例外対応・最終判断・承認という要所を人間が担う、役割分担型の業務設計です。

なぜ「悪」ではないのか ―― 生産性と安全性を両立する設計思想

「人間のチェックを挟む」というと、AI活用が中途半端になっているようにも聞こえます。しかし、これは妥協ではありません。

AIの設計には人間の選択的な関与を前提とすべきだという提言もあり、完全自動化ではなく人とAIが対話的に協働する構造こそが、実用フェーズにおける現実的な設計だとされています。

AIに作業を任せ、人間が責任と承認を担う。この役割分担こそが、生産性と安全性のバランスがもっとも取れた状態なのです。

完全自動化（Human out of the Loop）との違い

HITLの対極にあるのが、人間の介在なしにAIが判断・実行までを完結させる「Human out of the Loop」です。

たしかに処理速度は向上しますが、その分ハルシネーションや誤操作のリスクをコントロールすることが困難です。HITLは、この速度とリスクのトレードオフに、人間の判断という安全弁を組み込む考え方だといえます。

HITL実装を阻む「組織的な壁」

Human in the Loopの必要性については先述の通りですが、実際の導入現場では、その運用が個人の努力に依存してしまうケースが少なくありません。

チャット承認・目視チェックだけでは拡張できない

SlackやTeamsにAIの処理結果を通知し、承認者が「承認」「差し戻し」のボタンを押す。あるいはAIが作成したメールを自動送信せず、下書きフォルダに保存する。

こうした運用は手軽に始められる一方、案件数が増えるほど承認者の負荷が急激に膨らみます。

形式的なレビューは「実質的な監督」にならない

「誰かが確認する」という体制を整えても、その人が何を承認すべきか、どこでエスカレーションすべきかを理解していなければ、実質的な監督とはいえません。

浅く速いだけの形式的なレビューでは、求められる人間の監督責任を満たすことが困難です。

部門・承認者が増えるほど、責任の所在がまた曖昧になる

1人の承認者で回っていたHITLも、対象部門や承認者が増えると、途端に「誰が最終承認したか」「差し戻しの理由は何か」が追いにくくなります。個々のチャットやメールの中に記録が分散し、監査の際に一元的に説明できなくなるのです。

これは、HITLという「思想」自体の問題ではありません。それを支える「仕組み」が、組織の規模に耐えられていないことが原因です。

理想的なHITLを実現するワークフローシステム

Human in the Loopを個人の努力や場当たり的な運用で終わらせず、組織の仕組みとして機能させるために有効なのが、「ワークフローシステム」です。

ワークフローシステムとは、社内で行われる各種申請や稟議、報告といった手続きをシステム上で処理する仕組みのこと。

／
サクッと学ぼう！
『1分でわかるワークフローシステム』
無料ダウンロードはこちら
＼

では、業務プロセスへのHITL実装にワークフローシステムが有効な理由について見ていきましょう。

AIが例外・高リスクと判断した案件だけを自動で起票する

ワークフローシステムを活用することで、AIが処理内容を評価し、リスクが低い案件は自動で完了させ、例外や高リスクと判断した案件のみを自動で起票する、という仕組みをシステム上で再現することができます。

これにより人間が確認すべき対象を絞り込み、「結局すべてチェックする」という現場の負担を実質的に減らすことが可能です。

承認ルート・エスカレーションを部門横断で設計できる

ワークフローシステムは、申請内容や金額、リスクレベルに応じて承認ルートを分岐させたり、一定時間内に判断されない場合に上位者へエスカレーションしたりする仕組みを、部門をまたいで設計できます。

これにより、関与する部署部門や承認者が増えても、誰が・いつ・何を承認すべきかが明確に保たれます。

承認ログ・監査証跡が自動的に残る

誰が、いつ、どの案件を承認・差し戻ししたかという記録は、ワークフローシステム上に自動で蓄積されます。この監査証跡が、規制対応や社内説明において「実質的な監督を行っていた」ことを裏付ける根拠になります。

AIを「作業者」、人間を「承認者」とする役割分担を、属人的な運用ではなく組織の仕組みとして実現できる。これが、ワークフローシステムをHITLの基盤に据える最大の意義です。

人による判断・処理を仕組み化した事例

先述のように、ワークフローシステムはHuman in the Loopの実装に有効なアプローチであり、人間が担うべき判断・評価・修正を仕組み化することが可能です。

次は、実際にワークフローシステムを活用して人による判断・処理を仕組化した事例をご紹介します。

申請承認の仕組化で非効率・ガバナンス不安を解消（イオンペット）

イオンペット株式会社は、「X-point Cloud」を導入して申請承認業務の非効率とガバナンス上の懸念を解消しました。

同社では従来、全社的な承認決裁用のBPMツールと、部署からの申請用システムという2つのワークフローが並走していました。設計思想が不明でトラブル時の改修可否も判断できないうえ、現場では不備申請の手戻りが常態化。加えて、権限を超えた承認や申請者本人による自己承認が可能な状態にあり、ガバナンスにも影響を及ぼしていました。

そうしたなか、利用中だった1製品のサービス終了をきっかけに基盤の全面刷新を決断し、「X-point Cloud」の導入を決定。法務部門とも連携して職務権限規定に基づく正しい承認ルートを再構築しました。

導入後は、必須項目の色分けやエラー制御によって、形式不備による差し戻しがほぼ解消。差し戻しも「申請者に直接戻す」仕組みに変わり、決裁スピードも大幅に短縮されています。

必須項目がピンク色で色分けされ、入力漏れを防止

たとえば経理部門では、固定資産の除却・移動決裁などの抽出作業を「クエリ機能」で代替。手作業で行っていた検索・集計が圧倒的に早くなり、月あたり3時間の作業時間削減を実現しています。また、担当バイヤーの選定なども手入力からマスタ一覧での選択に変わり、現場の細かな負担軽減にもつながっています。

人の目や手作業に頼っていた判断・転記プロセスを仕組み化（株式会社石垣）

株式会社石垣は、「X-point Cloud」を導入し、紙の稟議書を完全に電子化するとともに、4つの手段に分散していたワークフローの集約を実現しました。

同社では従来、紙の帳票・e-mail・SharePoint・Notesという4つの手段に申請業務が分散しており、従業員はどの申請書をどの手段で起票すべきか判断できない状況でした。とくにSharePointとNotesは区分が曖昧で、担当者の裁量に委ねられた結果、内容が重複する申請書も少なくない状態に。こうした属人的な運用は、コロナ禍で決裁権者の出社が減少したことで、組織運営そのものが停滞する事態を招きました。

そこで同社は紙の稟議書の電子化とワークフロー基盤の刷新を決断し、「X-point Cloud」の導入を決めました。実際の職位と対応していなかった決裁権限を社内規定ごと見直し、担当者の裁量に頼らない承認ルートとして再定義したうえで全社展開。

導入後、決裁期間が大幅に短縮され、担当者判断による差し戻しや郵送に費やしていた時間も不要に。

たとえば品目採番依頼表では、以前は人手でコピー&ペーストして作成していましたが、マスタ連携により品目が自動入力される仕組みに刷新。また、製造現場の塗装膜厚検査票では、膜厚測定機の専用アプリとX-point Cloudの連携によって測定結果が自動反映される仕組みへと変えました。

測定結果をX-point Cloudの「塗装膜厚検査票」のフォームに自動連携

人の目や手作業に頼っていた判断・転記プロセスを仕組み化したことで、ミスの発生余地をなくしつつ、約800万円／年相当の業務時間削減を実現しています。

まとめ

AIの完全自動化（Human out of the Loop）は、ハルシネーション・コンプライアンス違反・責任所在の曖昧化という3つのリスクを抱えています。Human in the Loop（HITL）は、これらのリスクを避けつつ生産性を高めるための、妥協ではなく推奨されるアーキテクチャです。

ただし、HITLをチャット承認や目視チェックといった場当たり的な運用に頼ると、組織が拡大するほど機能しなくなります。AIが例外案件だけを自動で起票し、部門横断の承認ルートと監査ログを備えたワークフローシステムこそが、HITLを組織全体で機能させる基盤になります。

株式会社エイトレッドでは、シリーズ累計5,000社以上の導入実績を持つワークフローシステム「AgileWorks」「X-point Cloud」を提供しています。

Human in the Loopを実装する業務基盤構築を検討している方は、ぜひお気軽にお問い合わせください。