- 人が確かめるべき5つの種類と、その理由
- 「見て通すだけ」にならない確かめ方
- 誰が・何を・何と照らして確かめるかを決める方法
結論
生成AIの答えを仕事に使うとき、すべてを同じ重さで確かめる必要はありません。人が確かめるのは、間違えると取り返しにくいもの、つまり事実と数字、外へ出すもの、お金・契約・人事の判断、個人情報、取り消せない操作の5つです。そして「誰かが見るだろう」ではなく、誰が、何を、何と照らして確かめるかを先に決めておきます。
AIの答えはもっともらしく見えても、誤りが混ざることがあります。誰が・何を・何と照らすかを決めておきます。
人が確かめる5つの仕事
AIは、もっともらしいけれど事実と違う内容を書くことがあります。これを「ハルシネーション」と呼びます。IPA（情報処理推進機構）も、AIに関わる課題として偽情報・誤情報や、個人情報・営業秘密の漏洩を挙げています。次の5つは、人の確認を外さないようにします。
| 種類 | 例 | 人が確かめる理由 |
|---|---|---|
| 事実・数字・日付 | 金額、期限、法令名、固有名詞 | 誤りが混ざっても文章からは気づきにくい |
| 外へ出すもの | 取引先へのメール、公開する文章 | 出した後は取り消せない |
| お金・契約・人事の判断 | 支払い、契約の条件、評価 | 人や会社への影響が大きい |
| 個人情報 | 名簿、住所、健康のこと | 入力や出力の扱いを誤ると漏洩になる |
| 取り消せない操作 | 削除、送信、上書き | 元に戻せないことがある |
例えば、取引先へのお詫びのメールをAIに下書きさせたとします。文面が丁寧でも、納期の日付や宛先が違えば、メール誤送信と同じように相手に迷惑をかけます。
「見て通すだけ」にしない
確かめる人がいても、AIの答えをそのまま信じて通してしまうことがあります。総務省・経済産業省の「AI事業者ガイドライン」は、自動化されたシステムへの過度の信頼や依存を「自動化バイアス」と呼び、注意を促しています。対策の例として、AIの判断を人が承認するときは、承認する理由や根拠を自分で考えてから承認することが挙げられています。
実務では、次のように確かめ方を具体的にします。
- 数字と日付は、元の資料を開いて1つずつ照らし合わせる
- 「AIがそう書いたから」ではなく、根拠になる資料を自分で示せるかを見る
- 迷ったら、使わずに担当者へ戻す
確かめる役割の決め方
確かめる役割は、作業ごとに4つの項目で決めます。下の枠は、そのまま写して使える形です。
作業：
誰が確かめるか：
何を確かめるか：
何と照らすか：
確かめた記録を残す場所：架空の例として、社内向けの月次報告をAIで下書きする場合を考えます。「作業：月次報告の下書き」「誰が：経理の担当者」「何を：売上の数字と比較の向き」「何と照らすか：会計ソフトの集計」「記録：報告のファイルに確認者と日付」と決めます。
役割を決めたら、会社のAIの利用ルールに書き加えておくと、担当が替わっても続けられます。
まとめ
確認リスト
- AIの答えのうち、5つの種類に当たる部分を見分けたか
- 数字・日付・固有名詞を元の資料と照らし合わせたか
- 外へ出す前と、取り消せない操作の前に人が確かめているか
- 承認するとき、根拠を自分で示せるか確かめたか
- 誰が・何を・何と照らして確かめるかを決めたか
今日、まず確認すること
AIの答えを使っている作業を1つ選び、使う前に誰が・何を確かめるかを1つ決めてください。