昨年2025年2月からOllamaを自分のWindowsPC（AMD 8745H Radeon780m)にインストールして使っている。随時、最新版に更新して、2026年5月には0.30.0になった。基本はgithubのlikelovewantの記事によっていて、そこにあるOllamaで直接サポートされていないiGPUへの対応方法の記載に基づいて、自分の努力としては、一切開発はしていない。むしろ、カストマイズもせず、最新版への対応努力だけでやってきている。最初のころは、画像認識とか、生成機能などもおもしろおかしく遊んでみたが、だいたいどんなことをどんな能力でやれるのかわかり、それ以上は自分の仕事ではないので、使い方も、第2の脳みそ的な、概念をまとめるための相談相手になってきた。ローカルLLMの本領発揮と勝手に思っている。
◎ ROCｍ対応が重要：最初は、ROCm6.2、そして6.4に、最新版ではROCm7.1がOllamaのインストールに必要になる。それさえできれば、あとはそれを意識しながら、likelovewantの、https://github.com/likelovewant/ollama-for-amd/releases の記述に、注意深くしたがっていけばできる。そこには公式版では対応していないが、対応できるiGPUのgfxごとのドライバが用意されているので、それをダウンロードする。ROCｍ7.1をインストールするには、まず、This release OllamaSetup.exe build with ROCm7.1 [hipsdk 7.1.1]， make sure to replace the libs with v0.7.1.1と書かれているようにhipsdk7.1.1を前もってインストールしておく。つまり、https://github.com/likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU/releases/tag/v0.7.1.1 から、https://www.amd.com/zh-cn/developer/resources/rocm-hub/hip-sdk.html
そこのWindows11用の7.1.1の欄からダウンロードリンクをクリックする。そして、AMD-Software-PRO-Edition-26Q1-Win11-For-HIP.exe をダウンロードしてそれを実行させる。その実行途中で、ドライバーのインストールもあるから、それもクリックして実行する。これでROCm7.1の準備ができる。あとは、記事にしたがって更新していく。
◎ 記事にあるインストールの注意点：likelovewantの記事では、単にOfficialなOllamaSetup.exeを実行してインストールせよ、となっているが、0.30.0より先の最新版が出ている可能性があるから、からなず、ollama releaseから、0.30.0の記述を探し出して、そこにあるOllamaSetup.exeを持ってきて、インストールする。更新につかわれるのは、ROCmlibs7-1-1gfx1103.7zおよび記事中のollama-windows-amd64.7zである。
その後、指示にしたがって、
Install or Extract: Download and install Official OllamaSetup.exe ，delete the entire rocm in C:\Users\usrname\AppData\Local\Programs\Ollama\lib\ollama\rocm replace ggml-hip ollama.exe from ollama-windows-amd64.7z from this repo.
次に、
Update ROCm Libraries:
Find the rocblas.dll file and the rocblas/library folder within your Ollama installation folder (usually
located at C:\Users\usrname\AppData\Local\Programs\Ollama\lib\ollama\rocm).
Delete the existing rocblas/library folder.
Replace it with the correct ROCm libraries. You’ll need the right version for your GPU. You can find
them here: ROCmLibs for7.1.1
して、
Reboot your System （if internal error show） and Start Ollama: Once the ROCm libraries are updated, you can start using Ollama.
する。
Ollama serve
を実行すると、GPUを探しにいって、しばらくして、
library=ROCm compute=gfx1103 name=ROCm0 description=”AMD Radeon 780M Graphics” libdirs=ollama,rocm driver=70260.20 pci_id=0000:c4:00.0 type=iGPU total=”16.0 GiB” available=”15.0 GiB”
などとでてくる。そうすれば使える。
タスクマネージャで見るとGPUが使われているのを見ることができる。
Ollama run gemma4:26b –verbose
などとすると、Thinking Processを表示しながら、対応を始める。表示速度は、私にとってちょうど読む速度と考えていく速度が一致する速さである。prompt eval rateは、71.64 tps, eval rateは13.87 tpsである。8745Hで。自分の思考の助けとなる確認のための利用としては十分である。
なお、私のミニPCでは、主メモリ32GB中、VRAMを16GBとっている。加えて8GBまでは共有域として追加使用する。このPCはほかの用途には使わないので、当面はメモリ32GB構成でこの使い方で十分と考える。500ドルで一切を買ったPCとしては満足している。