Scribble at 2023-05-23 13:09:37 Last modified: 2023-05-23 14:33:00

添付画像

gpt4all をインストールして使っている。もちろん OpenAI のリモート環境でも使っているのだが、ひとまずローカルで動かしてみて実用に耐えるなら、そちらの方が好きにデータを入れて使えるという事情もある。ただ、GPT に会社の情報とか取引先の情報や案件それから僕自身のプライベートな事実を入力するという、必要性そのものがないのだから、大切な情報を誤って入力してしまうという不安への対策としてローカルにインストールしたわけではない。理由は、ローカルで動かすことが本来の目的だと思うからだ。必要に応じて GPT がウェブから情報を集めるのは、人が何かを調べるのと同じことなのだから構わないと思うが、それ以外の「自分」が持っている知識をもとにした考察とか議論とか会話は、ネットなんてなくても十分に対応できてほしい。そうでないと、ネットで調べなくてもいいようなことでも、「すんまへん。ちょっと調べてきまっさ」とか言って席を外す大阪のオヤジみたいなものになってしまう。その場で言えることを言え、という気がするのだ。

ということで、"gpt4all-l13b-snoozy" という約8GBの言語モデルを追加して、ローカルで動かしてみている。いまの時点で内容だけを見れば、オンラインで使っているのと大差ない会話ができる。ただし、プログラムの起動は酷く遅いし、文章の出力も片言英語で喋っているような印象だ。あと一歩といったところか。でも、じっくり使う時間があれば実用に使える。

  1. もっと新しいノート <<
  2. >> もっと古いノート

冒頭に戻る


※ 以下の SNS 共有ボタンは JavaScript を使っておらず、ボタンを押すまでは SNS サイトと全く通信しません。

Twitter Facebook