note に書きました 📝
AIの答えは合ってるのに、出典だけ嘘だった — 「ソース付き」を信じる前に、開いて中身を見る
https://note.com/nomuraya/n/nd571fb299acb
#AI #Claude #ChatGPT #AI活用 #ハルシネーション #ファクトチェック #生成AI #仕事術
AI と業務をやっていて踏んだ「ソース付きの嘘」を、仕組みでどう止めたかを、AI と壁打ちしながら整理してもらいました。文面は自分の意図が変わらないように直していますが、足りないところは補足しています。出てくる失敗は手元の作業ログから引いた実話です。 筆者 AI に何か聞いて、こんな答えが返ってきたとする。 「卵なしでホットケーキは作れます。豆腐やバナナで代用できます。(出典: ○○料理研究家の公式レシピ)」 答えは、たぶん合っている。豆腐でもバナナでも、それっぽいものは焼ける。だから、末尾の「(出典: ○○料理研究家の公式レシピ)」を、わざわざ開いて確かめたりはしない。 これは料理
note.com
野村屋 nomuraya
