AIを実務に使い始めると、「危なかった」という場面に必ず出会います。大事故になる前の“ヒヤリ・ハット”です。これは失敗ではなく、同じ型を知っておけば9割は先回りで防げるものです。
この記事は、AI実務で起きがちなヒヤリハットを類型化し、原因と防ぎ方、そして万一のときの初動をまとめたチェックポイント集です。検証の全体像は「AI出力を検証する方法」を、あわせてご覧ください。
この記事の結論
– AI実務の事故は型が決まっている：桁・単位・古い制度・偽出典・取りこぼし・上書き・守秘のうっかり。
– 型ごとに“関所”を1つ置くだけで、大半は入り口で止まる。
– 影響が重い作業ほど、バックアップと別ルート検算を先に用意しておく。
– 事故ったら「①止める→②影響範囲→③元に戻す→④手順に反映」の順で動く。
| # | 何が起きる | 主な原因 | 防ぎ方（関所） |
|---|---|---|---|
| 1 | 桁が1つずれる | AIの計算は途中式が正しそうでも答えがずれる | 桁のサニティチェック＋別ルート検算 |
| 2 | 単位の取り違え | 円/千円・税込/税抜・月/年の混同 | 単位を明示して指示、合計と内訳の一致確認 |
| 3 | 古い制度で計算 | 改正前の税率・控除・特例を使う | 制度は一次情報（タックスアンサー等）で裏取り |
| 4 | 存在しない出典・条文 | それっぽい根拠を作ってしまう | 出典は必ず自分で開いて実在と内容を確認 |
| 5 | データの取りこぼし・重複 | 抽出条件の解釈違い、範囲の誤り | サンプル手検算＋件数・合計の突き合わせ |
| 6 | 名寄せ・取り違え | 似た名前・似た項目の混同 | 一意のIDで扱う、対応表で最後に照合 |
| 7 | ファイルの上書き事故 | 意図せず元ファイルを書き換える | 作業用コピーで実施、元データはバックアップ |
| 8 | 守秘のうっかり流出 | 本物データ・実名を渡してしまう | 送信前チェックリスト、ダミー化を徹底 |
| 9 | 前提の思い込み | AIが誤った前提のまま突き進む | 最初に前提を言語化・確認してから作業 |
| 10 | 全自動への過信 | 承認を飛ばして任せきる | 影響のある操作は必ず人が承認 |
このうち1・2・3・4は検証の問題（→検算・裏取り）、8はダミー化の問題（→個人情報を渡さない手順）、5・6・7は作業設計の問題です。型が分かれば、打ち手も自動的に決まります。
最も起きやすく、最も影響が大きいのが桁ミスです。数万円のはずが数十万円・数百万円ずれる。「まず桁を見る」を口ぐせにし、税額など重い数字は必ず別ルートで検算します。AIの計算は“下書き”、確定は自分の検算後、と決めておきましょう。
AIはファイルを書き換えられるため、元データを直接いじらせると取り返しがつきません。鉄則は「元データには触らせない」。作業用のコピーを渡し、元ファイルは別の場所にバックアップしておきます。これだけで、やり直しがいつでも効く状態になります。
急いでいるときほど、本物の名前や金額をそのまま貼り付けてしまいます。送信前チェックリストを関所にして、貼り付ける前に必ず一拍おく。ファイル名・シート名・欄外メモに実名が残っていないかも確認します（→ダミー化の手順）。
予防しても、事故は起こり得ます。大事なのは、起きたあとの動き方です。
事故を「個人の不注意」で終わらせず、手順の穴として塞ぐのが、実務家の事故対応です。
作業を始める前に、これだけ整えておくと安全性が段違いになります。
Q. バックアップはどこまで取ればいい？
A. 少なくとも「作業前の状態にいつでも戻せる」ことが条件です。重要データは、作業のたびにコピーを取る習慣を。
Q. AIが勝手にファイルを消したりしない？
A. 影響のある操作は承認を挟む設計です（2026年時点）。ただし承認を反射的に押していると意味がありません。内容を見て承認する運用にしてください。
Q. ヒヤリハットが起きたら、AI活用はやめるべき？
A. いいえ。ヒヤリハットは“手順を鍛える材料”です。原因を関所に足していけば、使うほど事故は減っていきます。
Q. どの型から対策すればいい？
A. まず桁ミス（#1）・上書き事故（#7）・守秘のうっかり（#8）の3つ。影響が重く、対策も明快です。
AI実務の事故は、才能や不注意の問題ではなく型の問題です。桁・単位・制度・出典・取りこぼし・上書き・守秘——型ごとに関所を1つ置き、バックアップと別ルート検算を用意しておく。そして起きたら「止める→範囲特定→戻す→手順に反映」。この構えができれば、AIを安心して実務投入できます。
👉 AI出力を検証する方法：士業が使うクロスチェックの手順
👉 個人情報を渡さずにAIで業務を作る：ダミーデータ生成の手順とチェックリスト
👉 AIに渡せる業務・渡せない業務の分け方：士業のための仕分けリファレンス
AI活用や経理・税務のご相談は、公式LINEからどうぞ 👉 https://lin.ee/WAIywXB