AI洪水が既存システムを襲う：制度疲労か進化の機会か | Culture

生成AIが文学誌から法廷まで既存制度を圧倒する中、日本社会はこの技術革命にどう向き合うべきか。制度の変革と詐欺防止のバランスを探る。

2023年、SF文学雑誌「クラークスワールド」が新規投稿受付を停止した理由は、AIが生成した作品の大量投稿だった。編集者によると、多くの投稿者が雑誌のガイドラインをそのままAIに入力し、その結果を送りつけてきたという。

これは氷山の一角に過ぎない。新聞社にはAI生成の読者投稿が殺到し、学術誌には偽論文が、議会にはAI作成の意見書が、世界各地の裁判所には自動生成された訴状が押し寄せている。音楽、教育、採用活動まで、あらゆる分野で同じ現象が起きている。

「認知の壁」が崩壊した世界

従来のシステムは、文章作成や思考の困難さが自然な「量的制限」として機能していた。しかし生成AIがその壁を取り払った結果、受け取る側の人間が処理しきれない状況が生まれている。

対応策として、一部の機関は投稿受付を停止した。しかし多くは「AIでAIと戦う」道を選んでいる。学術査読者はAI論文をAIで評価し、SNSプラットフォームはAIモデレーターを導入し、裁判所はAIで訴訟を振り分けている。

これらは典型的な「軍拡競争」だ。同じ技術を対立する目的で使い、急速に発展させる競争である。

しかし、この競争には意外な副産物がある。科学分野では、研究者がAIを文献レビューやデータ分析、論文執筆支援に活用することで、研究の質が向上する可能性がある。特に英語が母語でない研究者にとって、これまで高額だった執筆支援が誰でも利用できるようになった。

就職活動でも同様だ。履歴書の推敲やカバーレター作成にAIを使うことは、富裕層が長年享受してきた人的支援を一般化するものだ。問題は経歴詐称や面接での不正使用など、詐欺行為に使われる場合である。

民主主義においても、市民が代表者に意見を伝える際のAI支援は、説得力のある文章作成能力を民主化する。ただし、企業ロビイストが偽の世論を大量生成する「アストロターフィング」は別問題だ。

日本では、終身雇用制度や稟議システムなど、慎重な意思決定プロセスが根付いている。AIの大量投稿攻勢は、これらの制度にとって特に深刻な挑戦となる可能性がある。

一方で、高齢化社会と労働力不足に直面する日本にとって、AIによる業務効率化は必要不可欠だ。トヨタやソニーなどの日本企業は既にAI活用を進めているが、制度面での対応はこれからが本番となる。

重要なのは、技術の力学ではなく権力の力学だ。同じ技術が、市民の声を増幅する民主化ツールにもなれば、既得権益による情報操作の武器にもなる。

高性能AIは既に広く利用可能で、ノートパソコンでも動作する。この技術を「止める」ことは不可能だ。倫理ガイドラインや職業規範は善意の人々には有効だが、悪意ある利用を完全に防ぐことはできない。

クラークスワールドは最終的に投稿受付を再開し、人間とAIの作品を区別する方法を見つけたと主張している。しかし、それがいつまで、どの程度有効かは誰にも分からない。