大規模言語モデルは小説に幻想を見る AIで小説を校正する手順（第2版）

 

　大規模言語モデルAIを小説の担当作家にする、という趣旨の記事を以前書きました。
　GeminiやChatGPTなどの対話型AIが、その大規模言語モデルというやつです。

　2週間経過して「大規模言語モデルに小説を読ませるのは向いてないな」と、感触が大きく変化しました。
　というのも、もっとも大きいのは大規模言語モデル特有の「ハルシネーション」という現象です。

　例えばGeminiには「Gemini は AI であり、間違えることがあります。」という注意が常に表示されていますし、ChatGPTならば「ChatGPT の回答は必ずしも正しいとは限りません。重要な情報は確認するようにしてください。」と表示されています。

　ハルシネーションとは「間違える事があります」とか「正しいとは限りません」なんてレベルではなく、AIが妄言としかいえないデタラメを吐く現象です。

　大規模言語モデルは、利用規約を要約したり注意点を抽出する、といった作業はとても得意です。普遍的で一貫性のある文章の読解力が高いわけです。テンプレや王道パターンを大量に学習しているのが、大規模言語モデルなので、そうなるわけです。

　逆に言えば「既定のパターンに嵌らず、独創的な文章は苦手」って事です。

　そう、つまり。

　大規模言語モデルは「小説を読むのが苦手」なんですよ。

　分かり易いのが、なぞなぞ。

「まっすぐ進んでいたはずなのに元の場所に戻って来ちゃった。なんでだ？」

　なんて聞いてみると、すっとぼけた事しか返して来ません。

「まっすぐ進むと戻るが矛盾しています。まっすぐの定義がおかしいです」とか言い出します。

「答えは、山手線です」って言うと納得はするんですが、ぶつくさと文句を言ったりもします。

　

　こんなのに私の書いている小説を読ませるとどうなるのか？

　って話ですよ。

　理解出来るわけなかったんです。

　私の小説は「ファンタジー要素をハードSF設定でコーティングしてコメディとして盛り上げ文学的にしめる」という属性不明、カテゴライズ不可な構造になっています。

　こういうものを読ませると「光速で移動しているから携帯が圏外になったんだよ。でもエーテル通信だから、GPSの位置情報共有は可能だった」とか、物理法則も何もかも放棄した事を平然と言い出します。

　コメディ的展開や、ボケを理解出来ないから、勝手に脳内設定で補完するんです。

「分かりません」

　と答える事が無いんですよ。

　無理やり何かを言おうとして幻想を事実と誤認するんです。

　それがハルシネーションという病です。

　ダジャレにまで深淵な意味を見出そうとする始末。

「間違える事があります」なんてレベルじゃないんですよ。

　居もしないキャラを勝手に増やすし、ありもしない設定を作って、特殊相対性理論も、金融も法令もぶっちぎって来ます。

　私の小説は「一見荒唐無稽に見えて、すべては現実の法則や法令に縛られている」という構造のコメディなので、それじゃあ話にならんわけですよ。「携帯が圏外ならGPSの位置情報共有も出来ないね」で止まってくれないとダメなんです。「光速で移動してるから」とか「時空を超えているから」とか、そういうなろう系ファンタジーに持って行こうとする意見は役に立たないどころか害悪なんです。

　読者ならそういう読み方をする人も居るかも知れませんが、特定の読者モデル向けに説明的な記述を追加するワケにも行きません。校正者としては論外だし、担当編集者としても失格。

　つまり、役に立たん、というワケ。

　王道展開の小説であれば、きっと理解して役に立つとは思うんですけどね？

　私の小説では、異世界でゲットした大量の金塊を日本に持ち帰っても簡単に数億の日本円には換金出来ません。それが現実だからです。

「異世界から100キロの金塊持って来たんだけど、これ換金できるの？」

　を聞けば、大規模言語モデルは、ちゃんと答えてくれます。

「財務省が密輸の容疑を、国税局は脱税の容疑を、警察は反社会的活動の容疑をかけてきます。拾得物として届け出て、半年経過すれば換金出来るけど、半分は税金で～」

　なんて事を調べてくれるのは得意。

　こういう司書的な作業は得意なんですよ。

　大規模言語モデルに小説を手伝ってもらうなら、この辺が限界です。

　あくまでも「今は」ね。