AIエージェントのマネジメントは、人への委任と同じ ── 任せる範囲・承認を残す場所・最終責任
ツバイソの印具です。
当社では、社内のさまざまな作業をAIエージェント（以下、AI）に任せています。任せ方を決めるとき、私は部下に仕事を任せるときと同じ考え方をとっています。
見直しの前は、作業を止めて私の承認を求める規定が約70か所ありました。これを原則として着手前と最終確認の2回の承認に絞り、作業の途中で判断を求める場合を4つに限りました。この記事では、どこに承認を残し、どこから承認を省いていったのかを紹介します。AIエージェントの導入とガバナンスを検討する際の参考になれば幸いです。
間違いが起きることを前提に任せる
部下に任せる仕事の中には、自分で行ったほうが正確なものもあります。自分でなければできない仕事に自分の時間を充てるため、それでも任せます。任せた相手が間違えることは、任せる時点で織り込んでいます。
AIも間違えます。私が経験した間違いは、指示の読み違いでした。以前、残りの作業について私が「全て行ってください」と包括的に指示したとき、AIはこの指示を、送信や登録の承認まで含む指示と読み違えました。そして、文面を私に見せて承認を得る手順を省き、社内のチャットへのメッセージの送信や、課題管理ツールへの課題の登録とコメントの書き込みなど、10件の操作を私の承認を得ないまま実行しました。私は作業を進めるよう頼んだだけで、文面の確認は省くつもりがありませんでした。
この後も私はAIに任せ続け、どの時点で承認を求めるかを見直しました。AIが作業する環境の外への書き込み（社内のチャットや課題管理ツールを含みます。以下、外部への書き込み）は、全文を示して承認を得てから実行する。包括的な指示は承認とみなさない。この2つの規定は、承認の回数を減らした後も変えていません。
AIは、間違えた結果の責任を負えません。AIが書き込んだ文書や文面は、社内向けであっても私の指示によるものとして読まれます。社外へ送信・公開されれば、会社の名義で出たものとして扱われます。いずれの場合も、責任は任せた私に残ります。任せる範囲は任せる側が決め、最終責任も任せる側が負う。これがAIへの委任の前提です。
承認は「大きな事」だけに残す
任せた作業をすべて承認していては、任せた効果が得られません。約70か所の規定があった頃は、AIの作業が規定に該当するたびに、私の承認を待って止まりました。
旧約聖書『出エジプト記』18章では、民の訴えを一人で裁いていたモーセに、しゅうとのエテロが、人を選んで任せるよう助言します。エテロが示した分担は、"every great matter they shall bring unto thee, but every small matter they shall judge"（大きな事はあなたのもとに持ち込み、小さな事は彼らが裁く）です。何を持ち込ませるかは、任せる側が決めます。私はこの一節を、承認を残す場所の決め方として読んでいます。
私が承認する時点は、原則として2つです。1つ目の承認は着手前に行います。AIがまとめた目的・成果物・範囲・書き込む先と種類・完了の条件を、私が確定します。2つ目の承認は最終確認で、成果物と外部への書き込みの全文を私が確認します。その間は、着手前に確定した範囲に収まる限り、AIは承認を待たずに作業を進めます。例外は、外部への書き込みのうち社内で決まった手順の操作で、AIが私の確認を待たずに実行し、実行後に私へ報告します。対象は、開発エンジニアのレビューで承認されてから正式に取り込まれる変更の提出と、そのレビューの依頼などです。
作業の途中でAIが私に判断を求めるのは、次の4つの場合に限っています。
| 判断を求める場合 | 例 |
|---|---|
| 要件を変える、または範囲を超える | 範囲・成果物・書き込む先が、着手前に確定した内容と変わる |
| 推奨案を1つに絞れない | 選択肢が拮抗している、根拠の文書どうしが食い違う、私が決めるべき論点である |
| 取り消せない操作、費用や権限に関わる操作 | データや設定の変更・削除、権限の付与、費用の発生 |
| 承認や安全のための仕組みを緩める変更 | AIへの指示書のうち、承認の規定を緩める改訂 |
この4つと外部への書き込みが、私にとっての「大きな事」です。それ以外は、確定した範囲の中でAIに任せます。
承認の手順を、作業に応じて減らす
承認の手順は、作業の難しさ、AIの出力をどこまで信頼できるか、修正する範囲がどこまで決まっているかに応じて変えています。いまは、おおむね次の3段階です。
| 作業 | 承認の手順 |
|---|---|
| 判断の難しい作業 | AIが書いた設計書を、私がすべて読んで承認する。そのうえで設計書を開発エンジニアのレビューに回し、課題管理ツールで社員に作業を指示する |
| 進め方が決まっている作業 | 要件をAIとの対話で確定させてから、設計書の作成をAIに任せる。AIは全文を示すが、私は一文ずつまでは読まずに承認することがある |
| レビューで指摘を受けた修正 | 修正する箇所が指摘で決まっているため、私は確認と承認をせず、AIが自動で修正する |
2段目で一文ずつまで読まないのは、要件を何度も確認して確定させれば、そこからAIが書いた設計書が正しい見込みが高くなるためです。経験上も、正しく書かれてきました。それでも、承認そのものは省いていません。私の承認を得ずに、AIが社員へ配ることはありません。
3段目で修正するのは、レビューで指摘された箇所だけです。この修正の提出は、先に書いた社内で決まった手順の操作にあたり、私の承認を待たずにAIが行います。修正した結果は、開発エンジニアがもう一度レビューします。
OpenAIのAIエージェントの構築の手引きは、機微な操作、取り消せない操作、影響の大きい操作について、"should trigger human oversight until confidence in the agent's reliability grows"（エージェントの信頼性への確信が高まるまで、人の監督の下に置くべきである）と述べています。「確信が高まるまで」という条件は、AIに任せる範囲が信頼に応じて変わることを示しています。当社でも、取り消しにくく影響の大きい判断を含む作業と、外部への書き込みには承認を残しています。出力が信頼できると分かった作業や、修正する範囲が決まっている作業では、承認の手順を減らしています。
作業を担う人が、AIをマネジメントする立場に移る
私自身も、AIの作業を一つずつ承認する立場から、任せる範囲を決めて出力を評価する立場に移りました。これまで自ら作業を担ってきた社員も、これからAIに作業を任せ、マネジメントする立場に移ると私は考えています。求められるのは、何を任せるかを見極め、承認を残す場所を選び、出力を評価して、その結果に責任を負うことです。いずれも、人に仕事を任せるときに求められてきた能力です。
そのためには、会社がAIの利用を把握している必要があります。会社が把握・管理していないまま、社員が個別にAIを使う状態（シャドーAI）では、会社として任せる範囲を決めることも、承認を求める時点と条件を統一することもできません。
当社では、AIエージェントの基本設定をまとめたスキルを用意しています（提供の準備中です）。このスキルには、着手前の要件の確定と最終確認の2回の承認を組み込んでいます。スキルは、AIに読み込ませる指示書の一式です。
出典
- BibleGateway・『出エジプト記』18章13〜26節（King James Version）・https://www.biblegateway.com/passage/?search=Exodus%2018%3A13-26&version=KJV
- OpenAI・A practical guide to building agents・2025年・https://cdn.openai.com/business-guides-and-resources/a-practical-guide-to-building-agents.pdf
ツバイソ株式会社
代表取締役 CEO 印具 毅雄(イング タケオ)
公認会計士、税理士
広島生まれ、福岡育ち。中学生の頃からパソコン、プログラミングが好きで、N88-BASICやマシン語に親しむ。大学、大学院では、AI関連技術のニューラルネットワーク、ファジィシステムとともに遺伝的アルゴリズムの改善研究をC言語で行う。
1999年、修士（芸術工学）。日本知能情報ファジィ学会論文賞受賞「単峰性関数当てはめによるGA（遺伝的アルゴリズム）収束高速化」
インターネットベンチャーを立ち上げるべく、経営の勉強のために公認会計士を取得（公認会計士二次試験2000年合格、登録番号19193）。監査法人トーマツ（Deloitte）を経て、2006年にブルドッグウォータ株式会社の創業、事業開始。
2015年、同社よりRobotERPツバイソ事業を会社分割し、ツバイソ株式会社を設立。
