Scribble at 2025-08-30 11:43:07 Last modified: unmodified

このほど、LM Studio は 0.3.24 にアップデートしたのだが、かなりパフォーマンスが悪くなっていて困っている。レスポンスが著しく遅いからだ。しかし、どういうわけか「使ってると、だんだんレスポンスが速くなってくる」という妙な現象もあるので、ロール・バックするほどの必要は感じていない。

かようにして、LLM のモデルだけでなくフロント・エンドの特性や限界なども考慮していかないといけないのが、ローカルで運用している場合の注意点なのだろう。そこは、少なくとも常用している LM Studio や Stable Diffusion Web UI などについては、もっと丁寧に調べておかなくてはいけない。