はじめに
「AIの回答に、実在しない条文が混ざっていた」
生成AIを触ったことのある士業の先生なら、似た経験が一度はあるのではないでしょうか。この現象には名前があります。ハルシネーション（AIが事実と異なる内容を、自信を持ってもっともらしく出力してしまう現象）です。
「だからAIは使えない」と結論づけるのは早計です。ハルシネーションは仕組み上ゼロにはできませんが、なぜ起きるかを知り、検証を型にすれば、実務事故は防げます。本記事では、ハルシネーションが起きる理由の平易な説明、士業業務で事故につながる場面、当社が実務で使っている検証の型4点、そして検証以前に誤りを混入させない仕組みづくりをご説明します。
第1章: ハルシネーションはなぜ起きるのか
AIは「調べて答える」のではなく「次の言葉を予測する」
生成AIの基本の仕組みは、大量の文章を学習し、「この文脈なら次に来る確率が高い言葉」を予測して文章を組み立てることです。つまりAIは、データベースを検索して事実を照合しているのではなく、もっともらしい続きを作文しているのです。
だからこそ、学習した知識が薄い領域や、細かい数値・固有名詞が問われる場面では、「それらしいが実在しない答え」が生成されることがあります。嘘をつく意図があるわけではなく、作文の仕組みの副産物なのです。
流暢さと正しさは別物
厄介なのは、誤りを含む出力ほど堂々として見えることです。文章の流暢さと内容の正確さに相関はありません。「自信ありげだから正しいだろう」という人間相手の感覚は、AIには通用しないと覚えておく必要があります。
第2章: 士業業務で事故になる場面
士業の成果物は、依頼者や裁判所・行政に対する専門家の責任を伴います。ハルシネーションが事故に化けやすいのは、たとえば次のような場面です。
- 法令・判例の引用: 実在しない条文番号、存在しない判例が紛れ込む
- 数値の転記・計算: 元資料にない数字を「補完」してしまう
- 固有名詞: 地名・機関名・制度名の取り違え
- もっともらしい論理: 前提と結論がすり替わった説明
共通するのは、一見それらしいため、読み流すと素通りしてしまうことです。チャット型AIの利用場面での具体的な注意点はChatGPTを鑑定業務で使う際の注意点でも整理しています。
第3章: 検証の型4点
当社では、AIの出力を成果物に反映する前に、次の4点を必ず確認する型にしています。
1. 数値: 元資料と突き合わせる
金額・面積・日付・利回りなどの数値は、必ず元資料の該当箇所と突合します。「計算が合っているか」ではなく「その数字はどこから来たか」を問うのがコツです。
2. 出典: 原典に当たる
法令・基準・統計への言及は、条文番号や資料名を原典で確認します。出典が示せない記述は、成果物には使わないのが原則です。
3. 固有名詞: 一つずつ実在確認
地名・機関名・制度名は、表記ゆれも含めて一つずつ確認します。件数が多いときは、固有名詞だけを一覧で抜き出させると確認が速くなります。
4. 論理: 前提から結論までを追う
「AだからB」という説明の、Aは本当に成り立つか、AからBは本当に導けるかを追います。専門判断に関わる論理は、資格者自身が組み立て直すのが最終防衛線です。
第4章: 検証の前に「仕組みで防ぐ」
検証は最後の砦ですが、そもそも誤りが混入しにくい設計にする方が効率的です。当社の設計原則は**「AIの記憶で書かせず、元資料から転記させる」**ことです。
具体的には、手元の資料ファイルを読み込ませたうえで「この資料に書いてある内容だけを使う。書いていない項目は空欄にして要確認と報告する」という指示を型にしています。AIの一般知識で穴埋めさせない設計にするだけで、確認作業の負担は大きく下がります。当社で評価書の納品前チェックが目視1〜2時間から15分程度の「指摘の採否判断」に変わったのも、この設計と検証の型の組み合わせによるものです。
なお、鑑定評価は不動産鑑定士の独占業務であり、検証を尽くしたとしても、評価の判断そのものをAIに委ねることはできません。この線引きは今後も変わらないと当社は考えています。業界の動きはAI鑑定の動向で解説しています。
まとめ
- ハルシネーションは「次の言葉を予測する」仕組みの副産物で、ゼロにはできないが対策はできる
- 検証の型は「数値・出典・固有名詞・論理」の4点。流暢さに騙されず、元資料と原典に当たる
- 最善の対策は設計段階にあり、「記憶で書かせず元資料から転記させる」だけで誤り混入は大きく減る
自分の事務所に合った検証の型づくりを相談したい方は、無料相談をご利用ください。検証の考え方も収録した無料資料「鑑定士のためのAI活用入門」はこちらからダウンロードいただけます。
