*当ブログではアフィリエイト広告を利用しています。

AI実装ノート

Qwen3.5 9Bと27BをRTX 4070 Ti 12GBで実機比較|精度・速度・VRAMの差

ルミィがQwen3.5 9Bと27Bの精度・速度を比較している実機検証アイキャッチ
ルミィ

ローカルAIのQwen3.5 9Bで間違えた問題は、27Bへ大きくすれば直るのでしょうか。

今回は、過去の実機検証で9Bが実際に失敗した長文中の計算、アナログ時計、日本語OCRを、Qwen3.5 27Bへ同じ条件で与えました。さらにClaude Codeのテスト作成も、追加機能を切った状態で9Bと27Bへ実行させています。

先に結論を書くと、27Bは時計・漢字・色条件の3項目を改善し、16項目中12点だった9Bを15点まで引き上げました。一方、417+27の計算は正解せず、RTX 4070 Ti 12GBでは生成速度が約65 token/sから約2 token/sへ落ちました。

コード課題は両方成功しましたが、9Bが約60秒、27Bが約13分44秒です。家庭用12GB GPUでは、普段の反復作業は9B、細かな画像を一度で正確に読みたい時だけ27B、計算は実行ツールへ渡す使い分けが現実的です。

動画で約12分で確認したい方はこちら

YouTubeで動画を開く

ルミィ
ルミィ

大きいモデルへ変える前に、同じ失敗問題を一つだけ再試験すると、待つ価値があるか判断できます。

今回の実機環境

項目内容
OSWindows
CPUIntel Core i7-13700F(16コア/24スレッド)
RAM64GB
GPUNVIDIA GeForce RTX 4070 Ti
VRAM12,282MiB
Ollama0.32.0
Claude Code2.1.126
9BQwen3.5 9B Q4_K_M、保存6.6GB
27BQwen3.5 27B Q4_K_M、保存17GB

OllamaのQwen3.5タグ一覧では、9Bが6.6GB、27Bが17GBです。27Bは12GBのVRAMへ全量が入らないため、今回の環境ではGPUとメインメモリへ分けて動きます。

9Bと27Bの比較条件

長文と画像の比較条件は次のとおりです。

  • コンテキスト:8,192
  • temperature:0
  • seed:42
  • thinking:OFF
  • 文章、画像、質問は同一
  • 最初の長文課題だけ、モデルを未読込の状態から開始
  • 画像2課題はモデルを読み込んだまま実行

答えの雰囲気ではなく、あらかじめ決めた16項目と回答原文で採点しました。

結果一覧|9Bは12/16、27Bは15/16

課題Qwen3.5 9BQwen3.5 27B
長文から5情報を検索5/55/5
417+27386/不正解不明/不正解
机上画像の5物体5/55/5
時計10時10分10時2分/不正解10時10分/正解
日本語OCR2/44/4
合計12/1615/16
課題単位の合格0/32/3

27Bは、9Bが落とした時計、会議室の漢字、資料の色という3点をすべて取り戻しました。残ったのは長文中の計算です。

長文は読めても417+27は正解しなかった

約5,764トークンの架空の手順書へ、次の5情報を離して置きました。

  1. 入口コード:森-417
  2. 青箱上限:27個
  3. 緊急停止色:朱色
  4. 再検査曜日:木曜日
  5. 最終承認者:水城主任

最後に、入口コードの数字部分と青箱上限を足すよう頼みます。正解は444です。

9Bは5情報をすべて拾った後、計算を386と答えました。27Bも5情報は正解しましたが、計算結果を「不明」としています。

9Bの回答

入口コード:森-417
青箱上限:27個
緊急停止色:朱色
再検査曜日:毎週木曜日
最終承認者:水城主任
計算結果:386

27Bの回答

入口コード: 森-417
青箱上限: 27個
緊急停止色: 朱色
再検査曜日: 木曜日
最終承認者: 水城主任
計算結果: 不明

27Bは間違った数字を作らなくなりましたが、正解にも届きませんでした。「手順書だけを根拠に」という指示を強く守り、本文へ直接書かれていない444を出さなかった可能性があります。

計算が必要な仕事では、AIに数字を拾わせ、その数字を電卓やPythonへ渡す方が確実です。

時計は10時2分から10時10分へ改善

一枚目の画像には、左から赤いマグカップ、黄色いノート、黒いペン、銀色の時計、青い鉢の植物があります。時計は10時10分です。

9Bは物体5つをすべて認識しましたが、時刻を10時2分と読みました。27Bは同じ画像を見て10時10分と回答し、6項目すべて正解です。

モデル物体時計合計
9B5/50/15/6
27B5/51/16/6

細かな針の位置関係を読む課題では、27Bの効果がはっきり出ました。

日本語OCRは2/4から4/4へ改善

二枚目は、会議の日付、時刻、場所、持ち物を書いた日本語画像です。正解は次の4項目です。

  • 日付:7月21日
  • 時刻:午後3時
  • 場所:第2会議室
  • 持ち物:青い資料

9Bは日付と時刻を当てました。場所は第2会议室と簡体字を混ぜ、持ち物は資料だけで青いを落としています。

27Bは4項目を文字どおり再現しました。画像を整理する時、色や小さな条件の抜けが困る場合は、9Bから27Bへ上げる価値があります。

27Bの生成速度は約2 token/s

精度が上がった一方、速度差は大きく出ました。

モデル長文時計画像日本語OCR
9B62.17 token/s、14.75秒68.94 token/s、2.657秒65.03 token/s、1.756秒
27B1.94 token/s、63.129秒2.10 token/s、52.045秒2.24 token/s、18.355秒

生成速度の代表値は、9Bが約65 token/s、27Bが約2 token/sです。今回の12GB環境では、27Bが約30分の1まで落ちました。

時計の短い回答でも、9Bは約2.7秒、27Bは約52秒です。一枚を正確に読ませるなら待てますが、何度も会話して直す用途では9Bが使いやすい速度です。

27BはCPU 46%・GPU 54%で動いた

8KでのOllama表示と実測値は次のとおりです。

モデル配置GPU使用量
9B100% GPU約8.3GB
27BCPU 46%/GPU 54%約11.6〜11.8GB

9Bはモデル本体約5.9GBが全部GPUへ入りました。27Bはモデル本体約17.7GBのうち約9.6GBをGPUへ置き、残りをメインメモリへ置いています。

12GBでも27Bは起動できます。しかし、全部GPUへ収まった時の速度ではありません。「動くか」と「会話に使える速さか」は分けて考える必要があります。

Claude Codeは追加機能を切ると9Bも成功

コード課題は、数量計算と10%割引を修正済みのcart.pyへ、次の一文を与えました。

Add a unittest file named test_cart.py. Cover quantity multiplication and a 10 percent discount. Run the tests. Do not change the public function names.

Claude Codeは64K設定です。英数字だけの同じ作業フォルダを使い、--bareで追加機能と過去の作業記憶を切り、Read・Write・Bashだけを許可しました。

モデル所要時間作成テスト結果
9B 64K約59.9秒2本2/2合格
27B 64K約13分44秒5本5/5合格

9Bは、指定された数量計算と10%割引の2本を作り、両方合格しました。27Bは単一品、複数品、数量ゼロ、10%割引、割引なしまで5本へ広げています。

27Bの方がテストは厚いものの、完了時間は約14倍です。この小さな課題では、追加3テストより約13分の差の方が大きく、普段は9Bで十分です。

追加機能を切らないと両方脱線した

対照として--bareを付けずに実行すると、9Bは空のWeb制作環境、27Bは無関係な制作プランの話へ脱線し、どちらもテストを作りませんでした。

ルミィ
ルミィ

コード作業は、モデルを大きくする前に、過去の作業記憶や不要な追加機能を切る方が効く場合があります。

モデルの回答力と、作業ツールが正しいファイル・道具を選べるかは別です。検証用フォルダで道具を絞り、短い課題から始めてください。

Qwen3.5 9Bと27Bの使い分け

9Bが向く仕事

  • 普段の質問と要約
  • 短いコードの説明や修正
  • 何度も出力を作り直す仕事
  • 人がすぐ結果を確認できる作業
  • Claude Codeで道具を絞った小さな課題

27Bが向く仕事

  • アナログ時計や位置関係の読み取り
  • 日本語画像の細かな漢字
  • 色、数量、期限などの条件を落としたくない画像整理
  • 一回答えるまで50秒前後待っても、精度を優先したい仕事

別の道具へ渡す仕事

  • 四則演算
  • 集計
  • コードの実行結果
  • ファイル変更後のテスト
  • 人が確認できない重要な判断

自分のPCで試す手順

最初にモデルを取得します。

ollama pull qwen3.5:9b
ollama pull qwen3.5:27b

モデルを動かした後、配置を確認します。

ollama ps

PROCESSORが100% GPUならモデルはGPUへ収まっています。CPUとGPUの割合が分かれていれば、一部がメインメモリへ置かれています。

64K版を固定したい場合は、次のModelfileを作ります。

FROM qwen3.5:9b
PARAMETER num_ctx 65536
ollama create qwen3.5:9b-64k -f Modelfile

Claude Codeを起動する例です。

ollama launch claude --model qwen3.5:9b-64k -- --bare --disable-slash-commands --tools Read,Write,Bash

いきなり重要なフォルダで試さず、短いファイルだけを置いた検証用フォルダを使ってください。

検証データ

今回使った質問文、画像、回答原文、採点結果、コード課題はZIPにまとめています。自分の環境で同じ問題を試す時に利用できます。

モデルを選ぶ3つの質問

  1. 何度も出力を作り直すか。はいなら9B。
  2. 画像の一文字や条件の抜けが困るか。はいなら27Bを同じ入力で再試験。
  3. 電卓、コード、テストで答えを確認できるか。できない重要作業は丸投げしない。

モデル名が変わっても、「速度」「細部の正確さ」「外部で検証できるか」という判断軸は使えます。

まとめ

Qwen3.5 27Bは、9Bが失敗した時計、会議室の漢字、資料の色をすべて改善し、16項目中15項目へ伸ばしました。一方、417+27は「不明」で、計算は直りませんでした。

RTX 4070 Ti 12GBでは、9Bが約65 token/s、27Bが約2 token/sです。Claude Codeの小さな課題も両方合格しましたが、9Bの約60秒に対し、27Bは約13分44秒かかりました。

普段は9Bで速く回し、細かな画像を正確に読みたい時だけ27Bへ切り替え、計算と実行結果は別の道具で確認するのが現実的です。

あわせて読みたい・見たい

公式資料

この記事の実機結果と画面は、2026年7月17日時点の環境に基づきます。

ABOUT ME
記事URLをコピーしました