Scribble at 2026-07-07 09:51:21 Last modified: 2026-07-07 09:57:16

それにしても、いまだに生成 AI で一つのテーマを決めて壁打ちすると、一つの議論の根拠として色々な論文を紹介するのだけれど、全て存在しないということがある。ジャーナルのタイトルと、著者名（場合によっては姓と名とがバラバラに扱われて同姓の別人の情報が混在することもある）と、論文のタイトルと、公開年、掲載ページといった、典拠（reference）という一式の情報を構成する要素が、恐らくは拡散モデルの内部ではバラバラに（あるいは、せいぜい意味論的に距離が最も近いというていどに結びついて）配置されているのであろう。

よって、何らかの特別な次元でもっと強い結びつきのある要素があると、それぞれが引き離されてしまい、他の要素と結びついてしまう。簡単な説明になるが、これがハルシネーションの原因であり、どういう条件でもともとの意味論的な結びつきをリセットしてしまうほど強い要素が現れるのかは、前もって予測するのが難しい。高度なモデルとなって次元の数が増えると、その難しさはさらに高まる。したがって、攪乱要因からの悪影響を抑制するようなガードを敷くことが難しく、寧ろスケーリング則にしたがって高次元のテンソルへと拡張されていく状況では、自分たちで更に難しくしているようなものなので、ハルシネーションのリスクを低減させることは難しいのであろう。

それにしても、Gemini のレスポンスを観察している限り、典拠としては使えない出鱈目な論文を示して議論するという品質の低いパフォーマンスは、一向に改善される気配がない。よって、僕は生成 AI と壁打ちするときは、典拠を参考にしなくてもいい単純なディスカッションとして使うだけにしている。場合によっては、ソースを明示的に指定する NotebookLM ですら、ソースの扱い方を間違う可能性があるわけで、僕は生成 AI のレスポンスは「～という情報なり典拠によると云々」という具体的な根拠や情報源があるという脈絡での応答ではなく、「私の考えでは～」という意見として受け止めるようにしている。あるいは、根拠があまりにも機械的で明白な場合にだけ利用するといった範囲にとどめている人も多いと思う。つまり、Excel シートの数値を合計させるだけなら、足し算の計算を得るのに根拠となる学術論文など不要だからだ（もちろん、代数系や集合論の研究者にとっては必要かもしれないが）。