提案→承認→実行のヒューマンインザループ設計

はじめに

AIエージェントに調査と提案を任せる——ここまでは前向きに進められます。ですが「その提案をAIが自動で実行していいか」となると、話は別です。AIが勝手にサイトや設定を書き換え始めたら、怖くて夜も眠れません。

そこで採用したのがヒューマンインザループ、つまり「人が輪の中に入る」設計です。AIの提案は、人がレビューして承認して初めて実行される。この記事では、その承認フローと、Slackを使った質問応答の仕組みを解説します。

なぜ人のレビューが必須なのか

AIに実行まで任せない理由

AIの提案は便利ですが、完璧ではありません。データの読み違い、文脈の欠落、季節要因の見落とし——人間なら「それは違う」と分かることを、堂々と提案してくることがあります。

AIの実行力は魅力的ですが、業務では「速さ」より「間違えないこと」が優先されます。人のレビューを挟むわずかな手間は、安心して自動化を続けるための必要経費なんです。

「提案」と「実行」を分ける設計

このシステムでは、エージェントの権限を提案の登録までに限定しています。サイトの変更や設定の書き換えといった実行系の操作は、エージェントには一切許可していません。

提案と実行を仕組みとして分離しておけば、たとえエージェントが暴走しても、影響は「変な提案が登録される」ところで止まります。

却下も立派な意思決定

承認フローというと承認ばかりに目が行きますが、却下も同じくらい重要です。

却下された提案は、理由とともに記録します。「これは季節要因なので対応不要」「すでに別施策で対応済み」といった却下理由は、エージェントの精度を見直す貴重な材料になります。人間の判断を蓄積していくことで、どんな提案が刺さり、どんな提案が外れるのかが見えてくるんです。

承認フローの実際

提案のライフサイクル

登録された提案は、いくつかの状態を移り変わりながら処理されます。

各提案がいまどの状態にあるかを管理画面で一覧できるので、「見落とし」や「二重対応」が起きにくくなっています。

管理画面での判断材料

管理者が承認・却下を判断するには、判断材料が揃っている必要があります。

とくに根拠データが効きます。数値の裏付けがあるからこそ、「たしかにこれは対応すべきだ」と自信を持って承認できるわけです。

Slackを使った非同期の対話

通知から承認への動線

管理画面を毎日開くのは、正直なところ長続きしません。そこで、Slackを起点にした動線を用意しました。

新着提案はSlackに通知され、担当者は朝のSlackチェックのついでに気づけます。通知には提案の要点が含まれ、詳しく見たいときだけ管理画面へ飛べばいい。「わざわざ見に行く」を「流れてくる」に変えるだけで、レビューの定着率が大きく変わりました。

エージェントからの質問応答フロー

このシステムで気に入っているのが、エージェントが人間に質問できる仕組みです。

人間にしか分からない背景（社内の事情、直近のキャンペーン、店舗の状況など）をエージェントが補えるようになり、提案の的中率が上がります。しかも非同期なので、人間は自分のペースで答えればいい。この気軽さが継続のコツです。

通知疲れを防ぐ設計

便利な通知も、多すぎれば無視されます。いわゆる「狼少年」状態です。

通知の設計は技術というより運用の知恵ですが、ヒューマンインザループを回し続けるうえで、承認フローそのものと同じくらい大切な要素だと感じています。

まとめ

提案→承認→実行のヒューマンインザループ設計を解説しました。

1. 提案と実行の分離：AIに実行権限を渡さず、人の承認を必須にする
2. 判断材料の提示：根拠データを添え、承認も却下も記録する
3. Slackでの非同期対話：通知と質問応答で、無理なくレビューを回す

このフローに乗せる提案がどう作られるかは「複数データソースを横断する調査プロンプト設計」で、エージェント全体の仕組みは「毎朝自動で動くAI調査エージェント」のハブ記事で解説しています。