大規模言語モデルは小説に幻想を見る AIで小説を校正する手順（第2版）
大規模言語モデルAIを小説の担当作家にする 、という趣旨の記事を以前書きました。 GeminiやChatGPTなどの対話型AIが、その大規模言語モデルというやつです。 2週間経過して「大規模言語モデルに小説を読ませるのは向いてないな」と、感触が大きく変化しました。 というのも、もっとも大きいのは大規模言語モデル特有の「 ハルシネーション 」という現象です。 例えばGeminiには「Gemini は AI であり、間違えることがあります。」という注意が常に表示されていますし、ChatGPTならば「ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。」と表示されています。 ハルシネーションとは「間違える事があります」とか「正しいとは限りません」なんてレベルではなく、AIが妄言としかいえないデタラメを吐く現象です。 大規模言語モデルは、利用規約を要約したり注意点を抽出する、といった作業はとても得意です。 普遍的で一貫性のある文章の読解力が高い わけです。テンプレや王道パターンを大量に学習しているのが、大規模言語モデルなので、そうなるわけです。 逆に言えば「 既定のパターンに嵌らず、独創的な文章は苦手 」って事です。 そう、つまり。 大規模言語モデルは「小説を読むのが苦手」 なんですよ。 分かり易いのが、なぞなぞ。 「まっすぐ進んでいたはずなのに元の場所に戻って来ちゃった。なんでだ？」 なんて聞いてみると、すっとぼけた事しか返して来ません。 「まっすぐ進むと戻るが矛盾しています。まっすぐの定義がおかしいです」とか言い出します。 「答えは、山手線です」って言うと納得はするんですが、ぶつくさと文句を言ったりもします。 こんなのに私の書いている小説を読ませるとどうなるのか？ って話ですよ。 理解出来るわけなかった んです。 私の小説は「ファンタジー要素をハードSF設定でコーティングしてコメディとして盛り上げ文学的にしめる」という属性不明、カテゴライズ不可な構造になっています。 こういうものを読ませると「光速で移動しているから携帯が圏外になったんだよ。でもエーテル通信だから、GPSの位置情報共有は可能だった」とか、物理法則も何もかも放棄した事を平然と言い出します。 コメディ的展開や、...
