Scribble at 2025-12-17 09:52:02 Last modified: unmodified

LM Studio で読み込んで利用できる範囲で、色々なモデルを使ってみたいとは思うのだけど、８ビットに量子化してすら 40 GB を超えるようなモデルだと、これは GeForce RTX 5090 ですらメモリ上に展開しきれないわけで、ほぼ研究用か業務用に組んであるマシンでなければ動かない。

同じく、画像生成 AI も色々と新しいモデルが出ていて、さきほども ChatGPT Image の最新版の記事を見ていたのだが、標準的な家庭で使うパソコン（ゲーマーでもなければ生成 AI のために買ったわけでもないスペックのマシンということで、具体的には Core i5 + 16 GB RAM + GeForce 3050 8 GB というから14万円ていど）で動くモデルが基準になるだろう。しょせん API やブラウザで使うだけのものだと用途は限られているし、コストとしても気軽にいくらでも使うわけにはいかないからだ。