Scribble at 2025-03-14 09:40:43 Last modified: unmodified
Gemma 3 がリリースされたということで、いち早く LM Studio でもコミュニティ版が登場していた。試しに 7B のモデルを入れてみたのだが、Llama 3.1 と大してモデルの容量が変わらないにもかかわらず、レスポンスが非常に遅くてまいった。「おはよう。」という一言への返事すら5分以上も返答できずにフレーズしてしまったほどだ。これでは実用性がない。
それに比べて Llama 3.1-8B はレスポンスが軽快で、上のようにインチキ大阪弁も話す。