出版社の校閲担当者が“AIによるファクトチェック”を完璧と思えない3つの理由…「人間が抱く違和感」を反映できない、そして
ハルシネーションとは
突然ですが、「ハルシネーション」という言葉をご存じでしょうか。これは、AIが偽情報の混在した不確かな情報を「まるで正しい情報であるかのように」、もっともらしく雄弁に語る性質のことを指します。
最近、ネット検索をすると検索結果の最初に「AIによる要約」が出てくることがありますよね。それを信用したら実は間違っていた、つまり「AIに嘘をつかれた」という経験をお持ちの方も多いと思います。この連載でも「大阪府吹田市の令和7年3月末時点の人口」をAIに訊いた際、AIが意味不明な推定をさも事実であるかのように出力する現象を確認しました。
ともあれ、校閲業に携わる校閲者自身がもっと、生成AIを色々と使ってみて、その長所・短所について、詳しくならなければ……と自戒を込めて、痛感するところです。
そして、校閲のスキルを各人がもっともっと、磨いていかなければなりません。今は「生成AIなんか大したことない」と高をくくることができていても、そのうち「生成AIに見てもらったほうがよかった」と言われるようになってしまっては、校閲は存在価値を失いますから……。常にストイックに取り組まねば、と、これも自戒を込めて。
