AI実務のヒヤリハット集｜桁ミス・取り違え・思い込みを防ぐチェックポイント

ヒヤリハット10類型（原因と防ぎ方）
特に事故が重くなる3つ
事故が起きたときの初動4ステップ
事故を減らす「事前設定」チェックリスト
よくある質問
まとめ

AIを実務に使い始めると、「危なかった」という場面に必ず出会います。大事故になる前の「ヒヤリ・ハット」です。これは失敗ではなく、同じ型を知っておけば9割は先回りで防げます。

この記事は、AI実務で起きがちなヒヤリハットを類型化し、原因と防ぎ方、そして万一のときの初動をまとめたチェックポイント集です。検証の全体像は「AI出力を検証する方法」を、あわせてご覧ください。

この記事の結論
– AI実務の事故は型が決まっている：桁・単位・古い制度・偽出典・取りこぼし・上書き・守秘のうっかり。
– 型ごとに「関所」を1つ置くだけで、大半は入り口で止まる。
– 影響が重い作業ほど、バックアップと別ルート検算を先に用意しておく。
– 事故ったら「①止める→②影響範囲→③元に戻す→④手順に反映」の順で動く。

予防しても、確定は人が
ヒヤリハット対策はミスを減らす手順であり、確認責任を肩代わりするものではありません。税額・申告にかかわる部分は、必ず人（税理士）が最終確認・確定してください（2026年時点の情報です）。

ヒヤリハット10類型（原因と防ぎ方）

#	何が起きる	主な原因	防ぎ方（関所）
1	桁が1つずれる	AIの計算は途中式が正しそうでも答えがずれる	桁のサニティチェック＋別ルート検算
2	単位の取り違え	円/千円・税込/税抜・月/年の混同	単位を明示して指示、合計と内訳の一致確認
3	古い制度で計算	改正前の税率・控除・特例を使う	制度は一次情報（タックスアンサー等）で裏取り
4	存在しない出典・条文	それっぽい根拠を作ってしまう	出典は必ず自分で開いて実在と内容を確認
5	データの取りこぼし・重複	抽出条件の解釈違い、範囲の誤り	サンプル手検算＋件数・合計の突き合わせ
6	名寄せ・取り違え	似た名前・似た項目の混同	一意のIDで扱う、対応表で最後に照合
7	ファイルの上書き事故	意図せず元ファイルを書き換える	作業用コピーで実施、元データはバックアップ
8	守秘のうっかり流出	本物データ・実名を渡してしまう	送信前チェックリスト、ダミー化を徹底
9	前提の思い込み	AIが誤った前提のまま突き進む	最初に前提を言語化・確認してから作業
10	全自動への過信	承認を飛ばして任せきる	影響のある操作は必ず人が承認

このうち1・2・3・4は検証の問題（→検算・裏取り）、8はダミー化の問題（→個人情報を渡さない手順）、5・6・7は作業設計の問題です。型が分かれば、打ち手も自動的に決まります。

特に事故が重くなる3つ

桁ミス（#1）

桁ミスは、最も起きやすく、最も影響が大きいミスです。数万円のはずが数十万円・数百万円ずれます。「まず桁を見る」を口ぐせにし、税額など重い数字は必ず別ルートで検算します。AIの計算は「下書き」、確定は自分の検算後、と決めておきましょう。

上書き事故（#7）

AIはファイルを書き換えられるため、元データを直接いじらせると取り返しがつきません。鉄則は「元データには触らせない」。作業用のコピーを渡し、元ファイルは別の場所にバックアップしておきます。これだけで、やり直しがいつでも効く状態になります。

守秘のうっかり（#8）

急いでいるときほど、本物の名前や金額をそのまま貼り付けてしまいます。送信前チェックリストを関所にして、貼り付ける前に必ず一拍おきます。ファイル名・シート名・欄外メモに実名が残っていないかも確認します（→ダミー化の手順）。

事故が起きたときの初動4ステップ

予防しても、事故は起こり得ます。起きたあとの動き方が大事です。

止める — まず作業を止めます。慌てて追加の指示を出しません（傷を広げない）。
影響範囲を特定する — どのファイル・どの数字・誰の情報が影響を受けたかを洗い出します。
元に戻す — バックアップ・作業用コピーから復元します。だから普段のバックアップが効きます。
手順に反映する — 同じ事故が二度と起きないよう、原因を関所（チェック項目）に足します。

実務家は、事故を「個人の不注意」で終わらせず、手順の穴として塞ぎます。

事故を減らす「事前設定」チェックリスト

作業を始める前に、これだけ整えておくと安全性が段違いになります。

[ ] 元データはバックアップ済みか（作業は必ずコピーで）
[ ] AIに触らせるフォルダを限定したか
[ ] 影響のある操作は「人が承認」する運用になっているか
[ ] 守秘情報はダミー化してあるか
[ ] 数値・制度の検証手順（別ルート検算・一次情報）を用意したか
[ ] 前提条件をAIと最初にすり合わせたか

よくある質問

Q. バックアップはどこまで取ればいい？
A. 少なくとも「作業前の状態にいつでも戻せる」ことが条件です。重要データは、作業のたびにコピーを取る習慣をつけましょう。

Q. AIが勝手にファイルを消したりしない？
A. 影響のある操作は承認を挟む設計です（2026年時点）。ただし承認を反射的に押していると意味がありません。内容を見て承認する運用にしてください。

Q. ヒヤリハットが起きたら、AI活用はやめるべき？
A. いいえ。ヒヤリハットは「手順を鍛える材料」です。原因を関所に足していけば、使うほど事故は減っていきます。

Q. どの型から対策すればいい？
A. まず桁ミス（#1）・上書き事故（#7）・守秘のうっかり（#8）の3つ。影響が重く、対策も明快です。

まとめ

AI実務の事故は、才能や不注意の問題ではなく型の問題です。桁・単位・制度・出典・取りこぼし・上書き・守秘は、型ごとに関所を1つ置き、バックアップと別ルート検算を用意しておきます。そして起きたら「止める→範囲特定→戻す→手順に反映」。この構えができれば、AIを安心して実務投入できます。

この記事の主な根拠（出典）
・ヒヤリハット類型・初動手順・事前設定は、士業の確認責任にもとづく筆者の実務運用です
・「影響のある操作は人が承認する」仕組みはClaude Code等の公式ドキュメント（Anthropic・2026年時点）にもとづきます
・制度の裏取りは国税庁タックスアンサー等の一次情報を正とする原則にもとづきます（2026年時点の情報です）。
※出典の各ページは2026年8月7日に確認しました。