AIエージェントのマネジメントは、人への委任と同じ ── 任せる範囲・承認を残す場所・最終責任
ツバイソの印具です。
AIエージェント（以下、AI）に仕事を任せ始めると、AIの作業をどこまで人が確認するかで迷います。すべてを確認していては任せても作業の時間が減らず、確認しなければ間違いを含む文書がそのまま社内外へ送られます。
私は、AIの作業をどこまで確認するかという問いを、部下に仕事を任せるときと同じ問いだと考えています。最終責任は任せた側が負う。だから、任せる範囲は任せる側が決める。間違いは起きる前提で、影響の大きい判断に当たったら作業を止めさせ、その判断だけを任せる側が下す。信頼できると分かったら、確認を軽くして任せる範囲を広げる。当社では、自社製品の設計書の作成や、社内のチャット・課題管理ツールへの書き込みなどをAIに任せています。この記事では、その任せ方をこの原則に沿ってどう決めてきたかを紹介します。AIの導入とガバナンスを検討する際の参考になれば幸いです。
任せた結果の責任は、任せた側に残る
部下に任せる仕事の中には、自分で行ったほうが正確なものもあります。それでも、自分でなければできない仕事に時間を充てるために任せます。任せた相手が間違えることは、任せる時点で織り込んでいます。
AIに任せる場合も同じです。ただし、AIは自らの間違いの結果に責任を負えません。AIが社内のチャットに投稿した文面は私の指示による文面として読まれ、社外へ送られれば会社の名義の文書として扱われます。責任は、任せた私に残ります。そのため、何を任せ、どの時点で確認するかは、任せる側が決める必要があります。
慎重さだけで決めると、承認の決まりが増え続ける
確認する時点を慎重さだけで決めると、承認の決まりは増え続けます。当社がそうでした。AIに任せる作業を増やすたびに、「この作業の前には私の承認を得る」という決まりを、AIへの指示書に書き足しました。指示書は作業の種類ごとに分かれているため、同じ決まりを指示書ごとに記載することになりました。社内のチャットなどへ書き込む前に承認を得るという決まりだけで29か所あり、全体では約70か所になっていました。
AIの作業は、承認が必要な手順に達するたびに中断し、私の承認を待つようになりました。細かな承認を重ねなければ、作業が先に進まない状態でした。
承認は、着手前と最終確認の2回にする
そこで、1件の作業あたりの承認を、原則として2回に絞りました。
1回目は着手前です。AIがまとめた目的・成果物・範囲・書き込む先・完了の条件（以下、要件）を、私が確定します。2回目は最終確認です。成果物と、AIの作業環境の外へ書き込む文面（社内のチャットや課題管理ツールを含みます。以下、外部への書き込み）の全文をAIに示させて、私が承認します。書き込む前の承認は最終確認に、作業の計画の承認は着手前に、それぞれまとめました。着手前の承認から最終確認までの間は、要件の範囲に収まる限り、AIは承認を待たずに作業を進めます。
社内で手順が定められている書き込みは、私の承認の対象外とします。たとえば、開発エンジニアのレビューで指摘を受けた軽微な修正は、AIが私の承認を待たずに行い、後で私に報告します。一方、新しく作成した設計書は、私が承認してから、AIが開発エンジニアにレビューを依頼します。
作業の途中でAIが私に判断を求めるのは、次の4つの場合に限っています。
| 判断を求める場合 | 例 |
|---|---|
| 要件を変える、または範囲を超える | 範囲・成果物・書き込む先が、着手前に確定した要件と変わる |
| 推奨案を1つに絞れない、または私が決めるべき論点 | 選択肢が拮抗している、根拠とする文書の記載が食い違う |
| 取り消せない操作、費用や権限に関わる操作 | データや設定の変更・削除、権限の付与、費用の発生 |
| 承認や安全確保の手順を省く変更 | AIへの指示書のうち、承認の決まりを省く改訂 |
いずれも、AIの判断が間違った場合の影響が大きいか、AIだけでは決められない判断です。OpenAIのAIエージェントの構築の手引きも、機微な操作、取り消せない操作、影響の大きい操作について、"should trigger human oversight until confidence in the agent's reliability grows"（エージェントの信頼性への確信が高まるまで、人の監督の下に置くべきである）と述べています。この一節の「確信が高まるまで」という条件は、人の監督の範囲が信頼に応じて変わることも示しています。当社ではAIが指示書の改訂も担います。そこで4つ目の場合を設け、AIが自らの判断で承認の決まりを指示書から外せないようにしています。
確認の深さは、作業に応じて変える
承認の前にどこまで確認するかは、作業によって変えています。基準は、判断の難しさ、AIの出力のこれまでの実績、間違いを後の確認で拾えるかの3つです。現在は、おおむね次の3段階です。
| 作業 | 承認の手順 |
|---|---|
| 判断の難しい作業 | AIが作成した設計書を、私がすべて読んで承認する。承認後、設計書は開発エンジニアのレビューに回り、課題管理ツールで社員に作業が指示される |
| 進め方が決まっている作業 | 要件をAIとの対話で確定させてから、設計書の作成をAIに任せる。AIは全文を示すが、私は全文を精読せずに承認する場合がある |
| レビューで指摘を受けた軽微な修正 | 2回の承認の例外とする。修正箇所がレビューの指摘で特定されているため、私は確認と承認をせず、AIが自動で修正する |
進め方が決まっている作業では、要件を対話で繰り返し確認して確定させます。そのため、AIが作成する設計書に間違いが含まれる可能性は低く、これまでの実績でも正しく作成されています。それでも承認そのものは残しており、私の承認なしにAIが課題管理ツールで社員に作業を指示することはありません。
レビューで指摘を受けた軽微な修正で私の承認を省いている理由は、修正箇所がレビューの指摘で特定されていることと、修正後の変更を開発エンジニアが再度レビューすることです。
任せ方は、会社としてそろえる
作業を担ってきた社員は、これからはAIに作業を任せ、AIをマネジメントする側に回ると私は考えています。社員には、何を任せるかを見極め、承認を残す作業を選び、AIの成果物を評価して、その結果に責任を負うことが求められます。いずれも、人に仕事を任せるときに求められてきた能力です。
社員一人ひとりが任せる側になると、任せ方は社員によって異なりえます。一方で、社員がAIに任せた結果の責任も、最終的には会社が負います。そのため、任せ方の基準は会社がそろえる必要があります。会社が把握・管理していないところで社員が個別にAIを使う状態（シャドーAI）では、任せる範囲も承認を求める時点も社員ごとに異なり、会社として統制できません。
AIへの任せ方には、人に仕事を任せるときの原則をそのまま当てはめられます。当社では、社員ごとの任せ方をそろえるため、この記事で紹介した2回の承認と、途中で判断を求める4つの場合を、AIエージェントの基本設定をまとめたスキル（AIに読み込ませる指示書の一式）に組み込んでいます（提供の準備中です）。
出典
- OpenAI・A practical guide to building agents・2025年・https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf
ツバイソ株式会社
代表取締役 CEO 印具 毅雄(イング タケオ)
公認会計士、税理士
広島生まれ、福岡育ち。中学生の頃からパソコン、プログラミングが好きで、N88-BASICやマシン語に親しむ。大学、大学院では、AI関連技術のニューラルネットワーク、ファジィシステムとともに遺伝的アルゴリズムの改善研究をC言語で行う。
1999年、修士（芸術工学）。日本知能情報ファジィ学会論文賞受賞「単峰性関数当てはめによるGA（遺伝的アルゴリズム）収束高速化」
インターネットベンチャーを立ち上げるべく、経営の勉強のために公認会計士を取得（公認会計士二次試験2000年合格、登録番号19193）。監査法人トーマツ（Deloitte）を経て、2006年にブルドッグウォータ株式会社の創業、事業開始。
2015年、同社よりRobotERPツバイソ事業を会社分割し、ツバイソ株式会社を設立。
