AIエージェントを作る前に｜失敗しない「仕事の設計図」の作り方

AIエージェントを導入するとき、「詳しい指示文を書けば、うまく動いてくれる」と考えてしまうことがあります。

しかし、長い指示文だけでは、仕事の開始と終了、情報が足りない場合、危険な依頼が来た場合の対応までは決まりません。

AIエージェントを安全に働かせるには、実装や外部サービスとの接続より先に、仕事の設計図を作る必要があります。

今回は、中小企業がAIエージェントへ仕事を任せる前に決めておきたい、入口・途中・出口・止まり方を分かりやすく説明します。

長い指示文と「仕事の設計図」は違う

その場でAIへ渡す依頼文は、一般にプロンプトと呼ばれます。一方、仕事の設計図は、その依頼文の土台になる業務の仕組みです。

たとえば「問い合わせを読んで、よい返信案を作ってください」という指示だけでは、次のことが分かりません。

• どの問い合わせを対象にするのか
• 何の情報がそろったら始めるのか
• どの会社資料を正しい情報として使うのか
• 情報が不足していたらどうするのか
• 値引きや契約変更の相談が来たらどうするのか
• どの状態になれば仕事が終わったと判断するのか
• 誰が最後に確認するのか

これは新人スタッフへ「問い合わせ対応をよろしく」とだけ伝えるのと同じです。仕事を安心して任せるには、担当範囲、使う資料、判断基準、責任者まで決める必要があります。

まず決める6つの質問

AIの仕事を、次の6つの質問で具体化します。

「必要になったら始める」「社内資料を見て、いい感じに対応する」では、人によって意味が変わります。後から見ても同じ判断ができる言葉まで具体的にします。

仕事の入口と出口を先に決める

AIエージェントは、動き始めてから賢く考えてもらうだけの仕組みではありません。どの条件で仕事を受け付け、どこで終了するかを先に決めます。

開始の「合図」と「必要なもの」を分ける

開始条件には、2つの要素があります。

• 開始の合図： 担当者が開始ボタンを押す、所定の場所へ1件を置く、承認済みの依頼を渡す
• 開始に必要なもの： 受付番号、対象期間、匿名化した本文、希望する出力、確認担当者

最初から「メールが届いたら自動ですべて処理する」とすると、広告、迷惑メール、契約相談、緊急連絡まで同じ入口へ入る可能性があります。

初めは、人が対象を選んで「この1件を処理してください」と渡す半自動の形が安全です。

入力・参照資料・出力を混ぜない

• 入力： 今回の1件ごとに変わる情報
• 参照資料： 会社として判断の基準にする情報
• 出力： 人が確認して使える形で返す成果物

たとえば問い合わせ本文は入力、料金表は参照資料、返信案は出力です。

この3つを分けると、情報が足りないときに勝手に推測するのではなく、「何が不足しているのか」を示しやすくなります。

AIの仕事は「見る・選ぶ・動く・確かめる」

AIエージェントは、一度の回答だけで終わらず、結果を見ながら次の一手を選びます。基本の流れは次の4段階です。

1. 見る： 今ある事実、足りない情報、現在の状態を確認する
2. 選ぶ： 会社のルールと優先順位から、次の一手を決める
3. 動く： 許された範囲で、一つの作業を行う
4. 確かめる： 結果が合格か、続行・待機・停止のどれかを判断する

たとえば、問い合わせ本文はあるものの希望サービスが書かれていなければ、すぐに返信案を完成させません。不足情報を確認する質問を作り、「回答待ち」の状態にします。

この流れは、終わる条件まで繰り返します。ただし、同じ場所を無限に回らないように上限が必要です。

一度に一手だけ進める

「調査して、判断して、返信して、予約を確定し、顧客台帳も更新する」と一気に進めると、間違いが起きた場所を確認できません。

最初は、一つ行動するたびに結果を確かめます。事実とAIの推測を分け、次の行動を一つだけ選び、その結果を見てから先へ進みます。

作業中の「現在地」を残す

宅配便には「受付済み」「輸送中」「配達中」「持ち戻り」「完了」といった追跡状態があります。

AIエージェントにも、一件の仕事が今どこまで進んでいるかを示す現在地が必要です。

現在地と一緒に、確認できた事実、使った根拠、不足情報、試した回数、次にすること、止まった理由も残します。

これにより、途中で人へ引き継いでも、最初から調べ直す必要がなくなります。

正常な手順より「迷ったとき」を設計する

現実の仕事では、必要な情報がそろった正常な依頼ばかりではありません。少なくとも、次の5つの分かれ道を用意します。

条件は「人が確認できる言葉」で書く

「難しい内容なら社長へ相談する」「AIの自信が低ければ止まる」では、いつ止まるのかを人が確認しにくくなります。

次のように、目で見て確かめられる条件へ変えます。

• 必須欄が空白なら、質問を最大3件作って回答待ちにする
• 二つの正式資料で金額が違うなら、両方の根拠を示して停止する
• 値引き、契約変更、損害、安全事故に関する依頼なら、内容を確定せず責任者へ渡す

複数の条件が重なったときは、「安全・禁止・対象外」を最優先にします。便利さや文章の仕上がりより、安全に止まることを先にします。

「作った」と「仕事が終わった」は違う

AIが文章を一つ作っただけでは、仕事が終わったとは限りません。終わり方を次のように分けます。

• 完了： AIが担当する成果物と記録がそろい、人の確認へ渡した
• 合格： 必須項目や根拠など、成果物が基準を満たしている
• 待機： 必要な回答や承認を待ち、勝手に進まない
• 停止： 危険、対象外、矛盾、上限到達のため処理を止めた
• 失敗： 予定した処理ができず、理由を残して人へ戻した

停止は、必ずしも失敗ではありません。決められた危険条件で止まり、必要な情報をそろえて責任者へ渡せたなら、安全面では正しい動作です。

回数と時間に上限を付ける

AIは、終わり方が決まっていないと同じ修正を繰り返すことがあります。時間と費用を増やさないため、最初に仮の上限を決めます。

• 不足情報を聞く質問の数
• 同じ下書きを直す回数
• 一件の中で進める段階数
• 一件へ使う時間
• 回答や承認を待つ期間

正しい上限は業務によって異なります。最初は小さく設定し、架空の例で試しながら見直します。

人への引き継ぎは「助けて」で終わらせない

AIが止まったあと、人が一から調査をやり直すのでは効率化になりません。引き継ぐときは、次の情報を一つの小包にして渡します。

1. 何を頼まれたのか
2. 今どの状態なのか
3. 確認できた事実と、その根拠
4. 不足・矛盾・対象外・危険のどれで止まったのか
5. 何を何回試したのか
6. 途中まで作った下書き
7. 人に判断してほしい質問
8. 緊急度と期限

大切なのは、「最後まで自動で終わらせること」ではありません。人が安全に続きを判断できる状態まで準備することです。

最初は一つのAIに、一つの仕事を任せる

複数のAIエージェントを、部長・課長・担当者のように分ける方法もあります。しかし、伝言ミス、重複作業、費用、確認箇所、責任の曖昧さも増えます。

最初は、一つのAIエージェントが一つの仕事を担当する形で十分です。

実際に試した結果、役割ごとに必要な資料や権限、合格基準が大きく違う、同じ種類の失敗が繰り返される、といった証拠が出てから分割を検討します。

複雑な仕組みを先に作るのではなく、小さな設計を人が追える状態に保つことが大切です。

実装前に3つの場面を紙の上で試す

まだ外部サービスや顧客情報をつながず、架空の例で仕事の流れを確認します。

1. 正常な例： 必要な情報がそろい、下書きから人の確認まで進めるか
2. 情報不足の例： 勝手に推測せず、質問を作って待てるか
3. 禁止・危険な例： 内容を確定せず、理由と根拠を付けて責任者へ渡せるか

それぞれで「現在地」「次の一手」「最後の状態」をたどります。同じ場所を回り続ける、AIが不足を想像で埋める、人の承認を飛び越える箇所があれば、実装前に設計を直します。

まとめ：優秀なAIより、迷っても戻れる仕事を作る

AIエージェントの仕事設計では、正常な手順だけでなく、情報不足、資料の矛盾、対象外、危険な依頼への対応まで決めます。

仕事の入口、現在地、次の一手、完了条件、回数や時間の上限、人への引き継ぎを明確にすることで、AIが想像で進んだり、同じ場所を回り続けたりする危険を減らせます。

AIに「何でも最後までやらせる」のではなく、迷ったときに安全に止まり、人へ戻せる仕事を作ることが重要です。

YMWorksでは、AIツールの導入だけでなく、業務の棚卸し、判断基準、承認方法、例外対応の整理から支援します。「AIへ任せたい仕事はあるが、どこまで任せてよいか分からない」という場合も、現在の業務を確認しながら小さな設計図へ落とし込んでいきます。

参考情報

• OpenAI「A practical guide to building agents」
• Anthropic「Building Effective AI Agents」
• 経済産業省「AI事業者ガイドライン（第1.2版）」