Scribble at 2023-07-31 09:01:26 Last modified: 2023-07-31 09:04:01

確かに検索サイトの大半が（一部の学術用のものは別として。僕は現在も Google Scholar は便利に使っている）使い物にならない現状だと、ウェブ・ページのスクレイピングを元にリリースされている LLMs を利用した方がいいという話にもなろう。そして、それをローカルで動かせたら API の料金なんて払わなくてもいいし、タイムアウトに悩まされることもない。僕も、オンラインの ChatGPT に Google アカウントでログインして使っていた頃もあったが、すぐにタイムアウトが頻発するようになって、gpt4all に切り替えた。

ただし、やはりローカル版の最大の問題は処理のパフォーマンスだ。あまりにも回答を出力する処理が遅すぎる。

回答の品質は API を使う方がいいのかもしれないが、どのみち大規模言語モデルのデータなんて、そう頻繁にアップデートするわけでもないだろう。データがあまりにも古くてロシアの侵略戦争すら知らないようでは困るが、逆に古典的な素養とか基本知識のような情報を知りたいなら即時性なんて必要ない。僕が思うに、本当のところ僕も含めた大半の凡人というのは、古典な素養と基礎知識が欠落していることに問題があるのだ。ウクライナの戦争について細々とした情報を調べる暇があるなら、それこそロシア史を学んだ方がいい。日本の初等・中等教育では、ほぼ全く教えていないはずである。