Ollamaが遅い・GPUを使わないときの直し方｜CPU動作とVRAM不足を確認

ルミィ

Ollamaの返事が急に遅い……。GPUを積んでいるのに、CPUしか動いていない気がするよ。

Ollamaが遅いときは、いきなり設定を書き換える必要はありません。最初に モデルがGPUへどれだけ載っているか を確認すると、原因をかなり絞れます。

この記事ではWindowsを中心に、Ollamaが100% CPUで動く、CPUとGPUに分かれる、VRAM不足でモデルを読み込めないときの確認順をまとめます。VRAMは、GPUが専用で使うメモリのことです。専門用語は、必要なものだけその場で説明します。

まず結論｜最短で確認する順番

この順番なら、設定を増やしすぎずに『モデルが重いのか』『会話の枠が大きいのか』『GPU自体を認識していないのか』を分けられます。

1. ollama psでCPUとGPUの配分を見る

PowerShellまたはコマンドプロンプトを開きます。モデル名が分からない場合は一覧を見て、1つ起動します。

ollama ls
ollama run モデル名

モデルを起動したまま別のPowerShellを開き、次を実行します。

ollama ps

表示例は次の形です。IDや容量は環境によって変わります。

NAME          ID              SIZE    PROCESSOR    CONTEXT    UNTIL
モデル名      abcdef123456    6.5 GB  100% GPU     8192       4 minutes

まず PROCESSOR を見ます。Ollama公式の説明では、100% GPUはモデル全体がGPU側、100% CPUはモデルがシステムRAM側、48%/52% CPU/GPUのような表示は両方へ分かれている状態です。長い会話で遅い場合は、同じ行の CONTEXT も確認します。

ルミィ

タスクマネージャーの使用率だけで決めず、まずOllama自身の表示を見るのがポイントだよ。

2. 会話の長さを下げる

同じモデルでも、長い文章や過去の会話を多く覚えさせるほど、追加のメモリが必要です。この上限をコンテキスト長と呼びます。難しく考えず、AIが同時に広げる作業メモの大きさ だと思えば大丈夫です。

Ollama公式も、コンテキスト長を大きくすると必要メモリが増えると説明しています。アプリ版は Settings → Context length のスライダーで変更できます。コマンドで起動中のモデルを変える場合は、対話画面で次を入力します。

/set parameter num_ctx 4096

まず4Kまたは8Kへ下げ、再度 ollama ps のCONTEXTとPROCESSORを確認してください。詳しい違いは4K・8K・32K・64Kの実機検証でも比較しています。

3. 軽いモデルまたはQ4版を選ぶ

コンテキスト長を下げてもCPUへ回るなら、モデル本体がVRAMに対して大きい可能性があります。モデル名にある7B、9B、14Bなどは、おおまかな規模です。数字が大きいほど、一般に必要なメモリも増えます。

Q4やQ8は、モデルをどれくらい軽くしているかの違いです。初心者は、同じモデルならまずQ4版を試します。Q8は元の情報を多く残すぶん重く、VRAMが少ない環境ではCPUへ回りやすくなります。

Q4とQ8の意味は量子化モデルの初心者向け解説、同じQwen3.5 9Bを12GB GPUで比べた結果はQ4対Q8の実機比較で確認できます。

VRAM 8GB・12GB・16GBで狙いやすい規模を先に知りたい場合は、ローカルLLMに必要なPCスペックから見ると迷いにくいです。

4. 使っていないモデルを止める

Ollamaは、次の質問へすぐ答えられるよう、使ったモデルをしばらくメモリへ残します。メモリが必要になれば自動で待機や解放も行いますが、原因を比べるときは手動で止めると条件をそろえられます。

まずollama psで一覧を確認し、使っていないモデルを次のように止めます。モデル名は自分の表示に置き換えてください。

ollama stop モデル名

終了後にもう一度モデルを起動し、PROCESSORの配分が変わるか確認します。ブラウザー、ゲーム、画像生成ソフトなどがGPUメモリを多く使っている場合は、それらも閉じてから比較します。

5. 100% CPUならGPU認識とログを確認する

小さなモデルでも100% CPUのままなら、VRAM不足だけでなく、OllamaがGPUを認識できていない可能性があります。

• Ollama公式のGPU対応一覧に自分のGPUがあるか確認する
• NVIDIAまたはAMDのGPUドライバーを更新する
• OllamaとWindowsを再起動する
• Windowsのserver.logにGPU discovery、NVIDIA向けのCUDA、AMD向けのROCmに関するエラーがないか確認する

Windowsのログは、エクスプローラーのアドレス欄に次を貼り付けると開けます。

%LOCALAPPDATA%\Ollama

最も新しい server.log を開きます。公式のトラブルシューティングには、GPU検出に失敗したときのログ例や確認項目が掲載されています。

以前に上級者向け設定を変更したことがある場合だけ、CUDA_VISIBLE_DEVICESでGPUを隠していないか、OLLAMA_LLM_LIBRARYでCPU用ライブラリを固定していないかも確認します。設定した覚えがなければ、この項目は飛ばしてください。

ルミィ

100% CPUだからといって、いきなり難しい環境変数を増やさないでね。まず対応GPU・ドライバー・ログの3つを確認しよう。

100% GPUなのに遅い場合

PROCESSORが100% GPUでも、返事が必ず速いとは限りません。次のどこで待っているかを分けます。

この場合はVRAM不足と決めつけず、同じモデルに短い質問を2回送り、初回ロード・入力処理・文章生成のどこが遅いか確認します。

『model requires more system memory』が出る場合

この表示は、Ollamaが必要と見積もった量に対して、PCのシステムRAMの空きが足りないという意味です。VRAM不足そのものを直接示すエラーではありません。GPUを認識できずCPU側へ載せようとした場合や、モデル・コンテキストが大きい場合にも必要なシステムRAMが増えるため、表示された必要量と空き量、server.logを確認します。

対処は、次の順で十分です。

• コンテキスト長を4K〜8Kへ下げる
• 同じモデルのQ4版へ替える
• 7B〜9Bなど一段小さいモデルへ替える
• 使っていないモデルと重いアプリを終了する
• それでも同じなら、表示された必要量に対してシステムRAMの空きが足りないと判断する

エラーを無理に回避して巨大モデルを動かしても、大部分がCPUへ回れば返事が極端に遅くなることがあります。『起動できる』と『快適に使える』は分けて考えてください。

実測で分かったこと｜12GBでも設定で結果は変わる

RTX 4070 Ti 12GBで行った当サイトの実測では、同じQwen3.5 9Bでも、約64Kの長文設定でOllamaが報告した読込後VRAM値は、標準設定の7,216MiBから、作業メモを軽くした設定では5,968MiBへ下がりました。

一方、モデル本体が大きすぎる場合は、作業メモだけを軽くしても解決しません。先にモデルサイズとコンテキスト長を見て、最後の調整として作業メモを軽くするのが安全です。

作業メモに当たるKVキャッシュの設定、速度、回答の確認結果はOllamaの長文VRAM実測にまとめています。GPUへ手動で多く載せれば必ず速くなるのかは、自動設定と手動GPU配置の実機比較で確認できます。

原因別の早見表

まとめ｜設定を増やす前に、3つの数字を見る

• ollama psのPROCESSORでCPU/GPUの配分を見る
• コンテキスト長を下げ、同じモデルで配分と速度を比べる
• モデル規模とQ4/Q8を見て、VRAMに合う軽さを選ぶ
• 100% CPUのままならGPU対応、ドライバー、server.logを確認する
• 巨大モデルを無理に起動するより、GPUに収まるモデルの方が快適なことが多い

まずはモデルを1回起動してollama psを実行してください。表示が分かれば、次に触る設定は1つに絞れます。

よくある質問

OllamaがGPUを使っているか確認する方法は？

A. モデルを起動した状態でollama psを実行し、PROCESSOR列を確認します。100% GPUなら全体がGPU側、CPU/GPUの混在表示なら一部がCPU側です。

Ollamaが100% CPUになるのはなぜですか？

A. GPUが対応していない、ドライバーやGPU検出に問題がある、または実行環境がCPU側を選んでいる可能性があります。小さなモデルでも100% CPUなら、GPU対応一覧とserver.logを確認してください。

CPUとGPUに分かれていても使えますか？

A. 使えます。ただしCPUへ回る割合が増えると、GPUだけで処理する場合より遅くなりやすいです。モデルを軽くするか、コンテキスト長を短くして比較してください。

VRAM不足はQ4へ替えれば必ず直りますか？

A. 必ずではありません。モデル本体は軽くなりますが、長い会話の作業メモ、実行用メモリ、ほかのアプリの使用量もあります。Q4と短いコンテキスト長を組み合わせて確認します。

ollama psに何も表示されません

A. 実行中のモデルがない状態です。先にollama run モデル名でモデルを起動し、回答中または読み込み直後にもう一度確認してください。

公式情報・あわせて読みたい

• Ollama公式：List running models（/api/ps）
• Ollama公式：CLI Reference
• Ollama公式：Context length
• Ollama公式：FAQ
• Ollama公式：Hardware support
• Ollama公式：Troubleshooting
• Ollamaとは？WindowsでローカルAIを動かす手順
• ローカルLLMに必要なPCスペック
• ローカルAI実機検証一覧

※Ollamaの仕様は2026年8月22日に公式ドキュメントで確認しました。表示や対応GPU、初期設定は更新される場合があります。実際の速度と必要メモリは、モデル、量子化、コンテキスト長、GPU、同時実行数で変わります。