ニューヨーク・タイムズに出ていた、笑い話のようで笑えない話。その記事を要約すると...
AIが真実に与える影響を扱ったノンフィクション本『真実の未来（The Future of Truth）』の著者スティーブン・ローゼンバウム氏は、本書にAIが捏造した偽の引用文や誤った引用が複数含まれていることを認め、謝罪した。ニューヨーク・タイムズ紙の指摘を受けて発覚したもので、ITジャーナリストのカラ・スウィッシャー氏などの架空のコメントが含まれていた。
ローゼンバウム氏は声明で「本書の謝辞で明らかにしたように、調査、執筆、編集の過程でAIツールであるChatGPTとClaudeを使用しました」と述べた。「しかし、だからといってこれらの誤りが許されるわけではありません。私は全責任を負います。現在、編集者と協力して該当箇所を徹底的に見直し、速やかに修正しています。今後の版では修正済みとなります。」
書籍の出版にあたり、AIを利用して調査・執筆・編集することは増えているだろう。AIが事実とは異なる情報や架空の出来事を、もっともらしく出力する現象、ハルシネーションがあることも知られている。AIが真実に与える影響を書く人ならば、そのこともよく知っていたはずだ。それでも、AIの捏造を防ぎきれなかったというのは、ちょっと怖い話。出版業界の人には、かなり怖い話か。
AIの原稿を別のAIに校正させたりしていたんだろうか。それとも、ファクト・チェックを人力でやっていたのだろうか。どのようにチェックしたかも改訂版には書いて欲しいところ。
記事の最後で、著者のこんな発言が紹介されている。
ローゼンバウム氏は声明の中で、今回の出来事が「AIを活用した研究や検証のリスクに対する警告となるのであれば、まさにそれが私がこの本を書いた理由だ」と述べた。
確かにリスクを身を持って教えた形。
AI時代の真実に関する書籍には、AIが作成した引用文が含まれている（New York Times）
