RTX 5070 TiのVRAM 16GBで，Gemma 3 4B，Qwen 3 8B，Gemma 3 12Bを動かせました．Q4_K_M，コンテキスト4,096，1件ずつの生成では，3つとも全層をGPUへ載せられています．一方，同じPCで大きなMoEモデルをStrataから動かすと，メインメモリ32GBはほぼ使い切りました．
VRAMの容量だけでなく，RAMとSSDの使われ方もモデルによって違いました．これまでの記事の測定値から，GPU，メインメモリ，SSDの容量を決める際に確認する条件をまとめました．別のGPUやメモリ容量で比較し直した結果ではありません．
VRAM 16GBで確認できた範囲
Ollamaの4B・8B・12B比較では，次の使用量でした．Windows 11＋WSL 2，Ollama 0.32.15，Q4_K_M，コンテキスト4,096で測っています．
| モデル | モデルファイル | GPU使用量のピーク |
|---|---|---|
| Gemma 3 4B | 3.1GiB | 4.8GiB |
| Qwen 3 8B | 4.9GiB | 6.4GiB |
| Gemma 3 12B | 7.6GiB | 9.7GiB |
GPU使用量はnvidia-smiで見たGPU全体の値です．デスクトップなどの使用分も含むため，そのモデルの必要最低容量を示す値ではありません．モデルファイルが7.6GiBだからVRAM 8GBで足りる，とは判断できません．
この3つのモデルを上の条件で使うなら，16GBは実際に動作を確認できた容量です．12BのQ8，長い入力，複数人からの同時利用まで含めた保証ではありません．また，8BだけQwen 3なので，モデルの規模だけを変えた比較でもありません．
買う前にモデル，量子化，入力の長さを決める
同じ4Bでも，量子化形式を変えると必要量が変わります．別に行ったGemma 3 4BのQ4_K_MとQ8_0の比較では，GPU使用量のピークが4,806MiB（約4.7GiB）から6,372MiB（約6.2GiB）へ増えました．生成速度は180.6から135.1tokens/sです．Q8の方が大きいだけでなく，この環境では遅くなりました．
入力の長さも別に効きます．Gemma 3 4B Q4_K_Mのコンテキスト比較では，4Kから16Kへ変えるとGPU使用量が406MiB増えました．これはこのモデルと実装での結果です．12Bや別のモデルへ同じ増加量を足して見積もることはできません．
使いたいモデルの名前と量子化形式を決め，普段入れる文章の長さ，同時に処理する件数も揃えて確認します．短い質問を1件ずつ使う条件と，長い資料を複数人で読む条件では，必要な容量が違います．
メインメモリ32GBとSSDはStrataで余裕がなくなった
Strata 0.2.10でQwen3.8-Flash-Next Q2_0を動かした記録では，VRAMに置けない重みをCPUとSSDも使って処理しました．Windows 11上で直接実行し，コンテキスト8,192，並列1，画像入力なしの条件です．
- 測定中のRAM使用量は最大31.7GiB．OSから見える総容量は31.8GiBでした．
- モデル関連のダウンロードは約67.6GB．準備中に約34.0GBの
experts.binも作られ，それを含むモデル関連フォルダーは約102.8GBになりました．experts.binは，RAMに載せ切れないエキスパートをファイルから読むために使われます．
RAM使用量はモデル単体ではなく，OSやほかのアプリ，ファイルキャッシュを含むPC全体の値です．32GBでも回答は返りましたが，ほかの作業を同時に進める余裕がある構成とは言いにくい状態でした．64GBへ増設した比較はしていないため，増設でどれだけ速くなるかは分かりません．
SSDも，ダウンロード量だけで選ぶと準備後の追加ファイルを見落とします．この例では約102.8GBとは別に，実行環境，OS，ほかに保存するモデル，展開中の空きも必要です．複数モデルを残すなら，取得するファイルと準備後の両方を確認します．
画像生成と学習は，それぞれの条件で見る
SD-Turboの画像生成は，512×512，バッチ1，FP16で，PyTorchが記録した割り当てメモリのピークが3,120.5MiBでした．先の表にあるGPU全体の使用量とは測る範囲が違います．この値から別の画像モデルや高解像度の必要容量までは決められません．
学習では，モデル以外に勾配や中間結果も保持します．batch sizeとVRAM，CUDA OOMを調べた記事では，バッチを変えて限界まで確認しています．ローカルLLMの推論が載ることと，同じ規模のモデルを学習できることは別です．
すでにPCがあるなら，まずモデルと条件を固定します．GPU使用量はnvidia-smi，RAM使用量はタスクマネージャー，SSDの空き容量はモデルの保存先ドライブで確認します．GPUを認識しない場合は，WSL 2からCUDAを確認する手順でドライバーと実行環境を切り分けます．
