Scribble at 2024-08-28 13:23:45 Last modified: unmodified

会社のマシン（Ryzen 7 2700 + 16 GB RAM + NVIDIA GeForce GTX 1060 6GB + 238GB SSD）に、LM Studio 0.3.1 を入れてみた。モデルが選べるので、まずは Meta の Llama 3.1 8B を入れてみたのだが、実際に使おうとロードしてみるとエラーになる。たぶん、このマシンでは VRAM なりのスペックが不足しているのだろう。そこで、かなり容量が小さい（1.71 GB）Google の Gemma 2 2B を入れると、幸運なことにロードされた。実際に使ってみたのが上のスクリーンショットだ。日本語もちゃんと使えるが、日本語で受け答えしているというよりも翻訳を表示しているので、たとえば VAE について質問すると "latent space" を「ラテン空間」（笑）などと書いてくる。