ローカルLLM四天王をRTX 4070 Tiで比較｜Qwen3・Gemma 4・Llama 4・GPT-OSS

ローカルAIを使いたいと思っても、Qwen、Gemma、Llama、GPT-OSSと名前が並ぶと、どれを選べばよいか迷います。そこで今回は、RTX 4070 Ti・VRAM 12GBの同じPCで、4つの系統・5モデルを同じ課題にかけました。

比べたのは、返事の速さ、使うメモリ、そして日本語の仕事で答えがそのまま使えるかです。数字だけでなく、メール、要約、表の読み取り、画像の説明という実務に近い課題で確認しました。

今回比べたのは4系統・5モデル

『四天王なのに5モデル』なのは、Gemma 4だけ軽いE4Bと大きい12Bの2種類を測ったためです。モデル名の後ろにあるQ4やIQ2は、元のモデルをPCで動かしやすく小さくした方式を表します。

ルミィ

今回はブランドの人気投票ではなく、この1台で仕事に使いやすいかを見るテストだよ。

測定条件｜RTX 4070 Ti 12GBで統一

課題は、①取引先へのお詫びメール、②長い社内報告の要約、③月間コスト表の読み取り、④画像の特徴説明の4つです。全員に同じ文章を渡し、画像は対応できるモデルだけで確認しました。

実測結果｜速さとVRAMを一覧で比較

※Llama 4 ScoutのVRAMが7.8GBと小さく見えるのは、軽いからではありません。37.3GBのファイルがGPUに収まらず、多くをCPUとRAMで処理したためです。その結果、300字程度のメールに81秒かかりました。

1位：Gemma 4 E4B｜軽くて速く、文章も安定

Gemma 4 E4Bは約107 tokens/s、VRAM 6.2GBで、測った5モデルの中では最も速く、使用VRAMも最小でした。お詫びメールは自然で、要約は要点を外さず、表の読み取りでは正解に加えて補足も出せました。

大きなモデルが常に便利とは限りません。12GBという上限があるPCでは、モデルの賢さだけでなく、GPUに無理なく収まり、待たずに使えることが大切です。今回の環境では、そのバランスが最も良いモデルでした。

Googleの現行資料では、Gemma 4 E4BはノートPCやモバイルを含む小型環境向けで、画像・音声にも対応するモデルとして案内されています。詳しい現行仕様は Gemma 4公式ドキュメント で確認できます。

画像ならQwen3-VL｜色や細部まで拾いやすい

Qwen3-VL-8Bは約77 tokens/sで、文章課題も十分に速く処理しました。特に差が出たのが画像です。テスト画像のキャラクター名、配色、星のモチーフ、表情差分まで細かく読み取りました。

画像を見せて説明させる、スクリーンショットから情報を拾う、資料の図を読むといった用途なら、今回の5モデルでは最有力です。ただし、長めに説明しやすく、絵文字や丁寧な言い回しが増える傾向はありました。

今回使った8B Instructの公開元とライセンスは Qwen公式モデルカード で確認できます。

Gemma 4 12B｜文章品質を優先したいとき

Gemma 4 12Bは約52 tokens/s、VRAM 9.8GBでした。メールでは会社名や日付を差し替えられる形に整え、要約と表の読み取りも短く正確でした。速さを少し譲っても、文章の手堅さを優先したい場面に向きます。

画像テストは、今回使ったPortableLLM内の画像接続ファイルをランタイムが読めず計測できませんでした。これは『Gemma 4 12Bが画像を扱えない』という意味ではなく、今回の実行環境側の制限です。

GPT-OSS-20B｜詳しく考えるが、12GBでは余裕が少ない

GPT-OSS-20BはVRAM 11.8GBで、12GBのほぼ上限まで使いました。要約では予備費や顧客承認まで拾い、表の読み取りでは改善案も出すなど、答えは詳しく手堅い印象です。

一方、回答の前に英語の推論を長く生成するため、画面に最終回答が出るまで待ち時間が増えました。普段の短いメールより、多少待っても条件を丁寧に整理してほしい作業向きです。

OpenAIはgpt-oss-20bをローカルや専用用途向けのオープンウェイトモデルとして公開しています。公式の想定やApache 2.0ライセンスは OpenAIのgpt-oss紹介 を確認してください。

Llama 4 Scout｜賢いが、12GBのGPUには大きすぎた

Llama 4 Scoutは、要約では情報の抜けが少なく、表の読み取りでは前月値を逆算するなど、答えの内容は優秀でした。それでも約3 tokens/s、メール1通に81秒では、日常の事務作業で気軽に使える速さとは言えません。

原因は109B規模のMoEモデルを37.3GBへ圧縮しても、12GBのGPUに収まらないことです。GPUに入らない部分をCPUとRAMで処理するため、モデルの能力を十分な速度で引き出せませんでした。より大きなVRAMを持つ環境なら、結果は変わります。

Metaの公式発表でも、Llama 4 Scoutは17Bの有効パラメータと16の専門部分を持つ109Bモデルで、Int4時に単体のH100へ収まる規模として説明されています。モデルの現行仕様は Meta公式のLlama 4紹介 で確認できます。

用途別の選び方

1つですべてを済ませる必要はありません。普段はGemma 4 E4B、画像が必要なときだけQwen3-VLへ切り替える二枚看板なら、どちらも12GBに余裕を持って収まり、文章と画像を分担できます。

この比較を読むときの注意点

• 速度はモデル単体の順位ではなく、RTX 4070 Tiと今回の量子化・設定を組み合わせた結果
• 回答評価は各課題1回のため、同じモデルでも再実行すれば文章は変わる
• Llama 4 ScoutだけUD-IQ2_Mで、他はQ4_K_M。完全に同じ圧縮条件ではない
• 画像対応不可には、モデルの仕様だけでなくランタイムや接続ファイルの対応状況も影響する
• 仕事で使う場合は、モデルごとの最新ライセンスと社内のデータ管理ルールを確認する

そのため、この記事の結論は『世界で一番強いモデル』ではなく、この12GB環境で、今回の仕事を待たずにこなせたモデルです。自分のPCで選ぶときも、評判だけでなく、VRAMに収まるか、よく使う課題で答えが使えるかを確認してください。

2026年7月13日時点の補足

動画公開後も各モデルや実行ソフトは更新されています。Gemma 4には公式の量子化モデルや複数サイズが案内され、Qwen3-VLにも複数の規模があります。つまり、今回使った1ファイルだけで各ブランド全体を判断することはできません。

これから試す場合は、まず自分のVRAMに収まる4bit版を選び、同じ2〜4個の自分用テストを繰り返すのがおすすめです。モデル名より、自分のデータ・自分のPC・自分の待てる時間の3点で選ぶほうが失敗しません。

まとめ

• RTX 4070 Ti 12GBではGemma 4 E4Bが約107 tokens/sで最も軽快だった
• 画像の読み取りはQwen3-VL-8Bが最も細かかった
• Gemma 4 12Bは文章品質、GPT-OSS-20Bは丁寧な推論に向く
• Llama 4 Scoutは内容が良くても37.3GBが12GB環境に重すぎた
• 普段はGemma 4 E4B、画像はQwen3-VLという使い分けが現実的

ローカルLLMは『一番大きいものを入れる』より、『自分のPCで無理なく動き、毎日の作業に合うものを選ぶ』ほうが快適です。まず小さめのモデルで、自分が実際に使うメール・要約・表を試してみてください。

よくある質問

RTX 4070 Ti 12GBならどのモデルがおすすめですか？

A. 今回の条件では、文章作業はGemma 4 E4B、画像も扱うならQwen3-VL-8Bが使いやすい結果でした。ただし、用途と量子化方式で変わるため、自分の課題でも確認してください。

Llama 4 Scoutは性能が低いのですか？

A. いいえ。回答内容は優秀でした。今回遅かったのは、37.3GBの量子化モデルが12GBのGPUに収まらず、CPUとRAMで処理する部分が増えたためです。

tokens/sとは何ですか？

A. AIが1秒に作る言葉のかけらの数です。一般に数字が大きいほど返事が速く表示されますが、同じ設定・同じ実行環境で比べる必要があります。

ローカルLLMなら会社の資料を入れても安全ですか？

A. 外部サービスへ送らず処理できる利点はありますが、私物PCへの保存可否や端末管理は別問題です。必ず会社の情報管理ルールを確認してください。

公式情報・あわせて読みたい

• Qwen3-VL-8B-Instruct 公式モデルカード
• Google：Gemma 4 model overview
• Meta：The Llama 4 herd
• OpenAI：Introducing gpt-oss
• 完全オフラインのローカルLLM環境を作って分かった現実
• Gemma 4をOllama・LM Studioで動かす方法
• YouTube：生成AIの違いと使い方 再生リスト

※実測日は2026年6月、公式情報の確認日は2026年7月13日です。モデル、ランタイム、ライセンス、対応機能は更新される場合があります。利用前に配布元の最新情報をご確認ください。