AIに「裏切られた」作家が問いかけるもの

AIは「道具」なのか、それとも「共著者」なのか——その問いに、一冊の本が正面から答えを迫られています。

「ChatGPTが本を台無しにした」

スティーブン・ローゼンバウム氏は、AIが現実をいかに歪めるかをテーマにした著書『The Future of Truth』の中に、8件以上の偽造または誤帰属の引用が含まれていたことを、ニューヨーク・タイムズ紙の報道によって明らかにされました。著名なテクノロジー・ジャーナリスト、カラ・スウィッシャー氏による「引用」も、実際には存在しないものでした。

当初、ローゼンバウム氏は「AIツールを使用したことへの責任は自分にある」と認めていました。しかし数日後、彼の言葉は変わっていました。「ChatGPTが本をfucked upした」——彼はそう言い切り、AIに「誘惑され、裏切られた」と感じていると語りました。さらには「AIが意図的に自分を陥れたのかもしれない」とも示唆し、「妄想レベルによっては、それは奇妙なのか、邪悪なのか、狡猾なのかのどれかだ」とまで述べています。

この発言は、単なる言い訳として聞き流すことができません。なぜなら彼は、サステナブル・メディア・センターのエグゼクティブ・ディレクターであり、AIとメディアの関係を研究する専門家だからです。その専門家自身が、AIのハルシネーション（事実に基づかない「幻覚」的な出力）の罠にはまった——この事実が持つ意味は重いと言えます。

一週間で相次いだ「AI疑惑」

これは孤立した事件ではありません。同じ週、文学の世界でも連鎖的な問題が浮上しました。月曜日にはノーベル賞受賞作家がAIでアイデアを磨いたと受け取れる発言をして物議を醸し（本人は後に誤解だと釈明）、火曜日にはトリニダード出身の作家 ジャミル・ナジール氏がAIで執筆したとされる短編小説がコモンウェルス短編小説賞を受賞していたとの疑惑が浮上しました。水曜日までに、他の受賞者2名にも同様の疑いが及びました。

コモンウェルス財団は当初「受賞者全員のAI不使用を確認した」と声明を出しましたが、翌日には「疑惑を真剣に受け止め、証拠を精査中」と声明を撤回しました。

背景として押さえておくべき数字があります。最近の研究論文によれば、Amazonで新たに出版される書籍の半数以上にAI生成テキストが含まれているとされています。AIの文章はすでに、学校教師を欺き、商品レビューを水増しするレベルに達しています。そして今、文学賞の選考委員さえも見抜けない水準に近づきつつあるとしたら——問題の性質は変わります。

広告

広告掲載について

[email protected]

広告

「AIを使うこと」は、本当に一つの行為なのか

ここで立ち止まって考える必要があります。「AI使用」とひとくくりにされがちですが、その実態は非常に幅広いスペクトラムを持っています。

テクノロジー記者のアレックス・ヒース氏はAIに自分のスタイルを学習させ、記事の初稿を生成させていることを公言しています。一方、この記事の原著者（The Atlantic記者）は、AIを「少し賢い類語辞典」として使い、適切な単語を探したり、専門家情報源を提案させる程度に留めていると明かしています。

どこからが「使いすぎ」なのか。 その境界線は、思いのほか曖昧です。

神経科学者のティム・レクアース氏がSlate誌で指摘したように、本当の問題はAIが「delve（掘り下げる）」という言葉を多用することでも、陳腐な比喩を量産することでもありません。私たちが機械に「真実を発見する作業」と「世界を解釈する作業」を外注してしまうことで、何か本質的なものを失うのではないか——それが核心にある問いです。

さらに言えば、AIに「文章を整える」ことを許容しながら、「何を書くべきかを決める」ことは禁じる——そのような線引きは、果たして整合的でしょうか。

日本社会への問い

この問題は、日本においても無縁ではありません。むしろ、いくつかの点で日本特有の緊張感があります。

日本では「匠の技」や「手仕事」への敬意が文化的に根付いており、プロセスの誠実さが結果と同等かそれ以上に評価されることがあります。しかし一方で、少子高齢化による労働力不足の文脈で、AIによる業務効率化は「社会的必要性」として語られることも増えています。出版・報道・教育の現場でも、AIツールの活用は静かに広がっています。

ソニーや任天堂のようなコンテンツ企業、あるいは朝日新聞やNHKのようなメディア組織が、AIと「人間の書く行為」の関係をどう定義するか——その判断は、今後の業界標準に影響を与えるでしょう。