RTX 5060 Ti 16GBでローカルLLMはどこまで動く？ Ollamaで4モデルを実測

結論

• 16GBのVRAMに収まる8B〜14Bクラスのモデルは、すべてGPUだけで動き、1秒あたり40〜75トークンの速さで文章を生成できました。 読む速さより速く文章が出てくるので、チャット用途では待たされる感覚はほぼありません。
• VRAMに収まらない30Bクラスのモデル（18GB）も動きました。 ただし約25%がメインメモリ側に回り、読み込みに約2分かかりました。
• 同じ17GB前後でも、モデルによってはこの環境で読み込みエラーになりました。 「16GBあれば何でも動く」わけではありません。

以下、計測の条件と数値を示します。

計測した環境

項目	内容
GPU	NVIDIA GeForce RTX 5060 Ti（VRAM 16GB）
CPU	8コア16スレッド
メモリ	32GB
OS	Windows 11 Pro
ソフト	Ollama 0.40.4
計測日	2026年10月15日

計測前の時点で、画面表示などにVRAMを約2GB使っていました。モデルに使えるのは実質14GB前後です。

計測の方法

• 日本語の短い質問（約50トークン）と、長い文章の要約（約3,000トークン）の2種類を、それぞれ3回ずつ実行して平均しました。
• 出力は最大400トークン、ランダム性なし（temperature 0）に固定しています。
• 速度はOllamaが返す処理時間から計算しています。手作業の計測ではありません。
• 計測に使ったスクリプトと生データは、記事末尾の「計測データの根拠」に記載した記録として保存しています。

結果

モデル	サイズ	GPUで動いた割合	生成速度（短い質問）	生成速度（長文要約）	長文を読み終えるまで
qwen3:8b	5.9GB	100%	75.2 トークン/秒	69.9 トークン/秒	1.0秒
gemma4:12b	7.8GB	100%	48.4 トークン/秒	45.7 トークン/秒	1.5秒
qwen3:14b	9.8GB	100%	42.9 トークン/秒	40.7 トークン/秒	1.8秒
qwen3-coder:30b	18.3GB	75%	61.5 トークン/秒	57.9 トークン/秒	2.3秒
gemma4:26b	17GB	—	読み込みエラー	—	—

「トークン」はAIが文章を扱う単位です。日本語ではおおむね1〜2文字前後にあたりますが、モデルや文章によって変わります。

数字の読み方

8B〜14Bは「快適」です。 40トークン/秒でも、人が文章を読む速さよりずっと速く表示されます。3,000トークンほどの長い文章も、2秒以内に読み込んで回答を始めました。

モデルが大きくなるほど遅くなります。 8B→14Bで生成速度は約6割になりました。モデルが大きいほど、1トークンを作るたびに読み出すデータ量が増えるためです。

30B（qwen3-coder）は例外的に速く動きました。 このモデルはMoE（Mixture of Experts）という方式で、処理のたびにモデル全体ではなく一部だけを使います。そのため、VRAMに収まりきらずメインメモリに一部が回っても、14Bより速く生成できました。代わりに、最初の読み込みには約2分かかりました。

gemma4:26bは動きませんでした。 Ollama 0.40.4では、読み込みの途中でGPUの処理（CUDA）がエラーになって終了しました。Ollamaの設定を変えると動く可能性はありますが、今回は標準の設定のまま計測しています。

16GBで何ができるか

今回の結果から、RTX 5060 Ti 16GBクラスのGPUについて言えることをまとめます。

• 14Bクラスまでのモデルを、GPUだけで快適に動かせます。 日本語のチャット、文章の要約、コードの補助といった用途なら十分な速さです。
• 20B〜30BクラスはMoEモデルなら実用的に動きます。 ただし読み込みは遅く、メインメモリも消費します。メインメモリは32GB以上あると安心です。
• 新しいモデルは、ソフトの対応状況によって動かないことがあります。 動作報告を確認してから試すのが確実です。

これからPCを選ぶなら

ローカルLLMを目的にPCを選ぶ場合、いちばん大事なのはGPUのVRAM容量です。同じ「RTX 5060 Ti」にも8GB版と16GB版があり、今回のような14Bクラスを快適に動かすには16GB版が必要です。購入時は、商品ページで「16GB」と明記されているかを必ず確認してください。

BTOパソコンのOZ GAMINGでは、RTX 5060 Ti搭載モデルをまとめたカテゴリがあります。VRAM容量の記載がないモデルもあるので、構成表で容量を確認してから選んでください。

• OZ GAMINGのRTX 5060 Ti搭載モデル一覧を見る

ミニPCでローカルLLMを動かす場合の目安は、別の記事で今回の数値と比較してまとめる予定です。

まとめ

知りたいこと	答え（今回の実測）
16GBで快適に動くサイズ	14Bクラスまで（40〜75トークン/秒）
16GBを超えるモデルは？	MoEモデルなら動く場合あり（30Bで約58〜62トークン/秒、読み込み約2分）
注意点	8GB版との取り違え、ソフトの対応状況