- 任せたい仕事を「読む・作る・変更する・外へ送る」に分ける方法
- 導入時に許可する操作と、人が確認する操作の決め方
- 指示ではなく接続先の権限で止める理由と、止める方法の準備
結論
AIにメールの文章を作ってもらうことと、そのメールを実際に送ってもらうことでは、確認したい内容が変わります。
文章の提案なら、使う前に人が直せます。一方、送信や削除が実行されれば、相手に情報が届いたり、データが失われたりします。
AIエージェントを導入するときは、「何ができるか」と一緒に、「どこまで実行させるか」を決めましょう。
AIエージェントは何をするもの？
この記事では、AIが外部の機能を呼び出し、情報の取得や操作を進める仕組みを「AIエージェント」と呼びます。仕組みの全体は「AIエージェントとは何か」で説明しています。
例えば、予定の候補を探す、文書を更新する、問い合わせの下書きを作る、といった使い方です。実行できる範囲は、接続先と与えた権限によって変わります。
OWASP（ソフトウェアの安全性に取り組む国際的なコミュニティ）は、LLMを使うアプリケーションの主なリスクをまとめた2025年版の一覧で、必要以上の機能、権限、自律性を与えるリスクを「Excessive Agency（過剰な権限・自律性）」として整理しています。
任せたい仕事を、操作に分ける
例えば「問い合わせ対応を任せたい」という依頼には、複数の操作が含まれます。
- 問い合わせを読む。
- 社内資料を探す。
- 回答の下書きを作る。
- 顧客へ送信する。
- 対応履歴を更新する。
この五つを、一度にすべて許可する必要はありません。最初は読む・探す・下書きする範囲で試し、送信や更新は人が確認する形から始められます。
任せたい仕事を操作に分け、許可の段階を決める（一つの運用例）
- 資料を読む（対象を限定）
- 資料を探す
- 回答の下書きを作る
- 顧客へ送信する
- 原本を上書きする
- 対応履歴を更新する
- ファイルを削除する
- 購入・支払いを行う
導入時の設定例
次の表は、一つの運用例です。
| 操作 | 初期設定の例 |
|---|---|
| 指定フォルダの資料を読む | 対象を限定して許可 |
| 回答の下書きを作る | 許可 |
| 顧客へ送信する | 宛先・本文・添付を人が確認 |
| 原本を上書きする | 変更内容を確認してから実行 |
| ファイルを削除する | 初期段階では許可しない |
| 購入・支払いを行う | 初期段階では許可しない |
「削除しないで」と書くだけで十分？
AIへの指示も必要ですが、削除させないなら、接続先でも削除権限を与えないことが重要です。
例えば、資料を読むためだけの連携に、全社の文書を変更できる管理者権限を使う必要はありません。OWASPも、連携に与える権限を必要最小限にすることと、影響の大きい操作は実行前に人が承認することを勧めています。人の権限の分け方は「全員が管理者、をやめる」でも扱っています。
確認画面には「実行してよいですか」だけでなく、対象、送信先、変更内容が表示されると判断しやすくなります。
止める方法まで用意する
運用前には、操作記録と停止方法も確認します。
- 誰の依頼で、いつ、何を読んで、どこへ送ったかを追えるか。
- 連携を停止する担当者は誰か。
- 誤操作を戻せるか。戻せない操作は何か。
便利さを評価するときには、正しく動いた場合だけでなく、間違えた場合の対応も含めます。
確認リスト
- 任せたい仕事を、読む・作る・変更する・外へ送るの操作に分けたか
- 最初に許可する操作を、読む・探す・下書きに絞ったか
- 送信・上書きの前に、人が対象と内容を確認できるか
- 削除や支払いを、指示ではなく接続先の権限で止めているか
- 操作記録を追えて、連携を止める担当者が決まっているか
これらは設定を決めるための確認です。そろえたからといって、誤操作や悪用が起きないと保証されるわけではありません。
今日、まず確認すること
任せたい仕事を「読む・作る・変更する・外へ送る」に分けて書き出す。