数据库管理390期 2025-11-14

• 数据库管理-第390期 Ollama如何正常调用AMD GPU（20251114）
• 1 安装ROCm
• 2 调整Ollama
• 2.1 检查Ollama版本
• 2.2 下载附加内容
• 2.3 检查硬件占用
• 3 Ollama访问
• 3.1 Ollama配置
• 3.2 环境变量配置
• 总结

数据库管理-第390期 Ollama如何正常调用AMD GPU（20251114）

作者：胖头鱼的鱼缸（尹海文）
Oracle ACE Pro: Database
PostgreSQL ACE
OpenTenBase ACE

10年数据库行业经验
拥有OCM 11g/12c/19c、MySQL 8.0 OCP、Exadata、CDP等认证
墨天轮MVP，ITPUB认证专家
圈内拥有“总监”称号，非著名社恐（社交恐怖分子）

公众号：胖头鱼的鱼缸
CSDN：胖头鱼的鱼缸（尹海文）
墨天轮：胖头鱼的鱼缸
ITPUB：yhw1809
IFClub：胖头鱼的鱼缸
除授权转载并标明出处外，均为“非法”抄袭

在前一篇使用Ollama在本地运行QWen3:30B的时候，发现一个问题，即大模型本地运行时没有调用AMD Ryzen AI Max+ 395的GPU，是使用的CPU和分配给CPU的内存在运行，这就导致了大模型运行非常缓慢，在Cline中经常超时。在之前的Ollama版本中是可以看到GPU被调用的，本期总结一下解决该问题的过程 。

1 安装ROCm

AMD RCOm是AMD提供的一款开放式软件栈包含多种编程模型、工具、编译器、库和运行时，助力开发基于AMD GPU的AI和HPC解决方案。可以通过下面地址下载Windows需要安装的SDK：

https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html

下载安装检查官方文档，确认6.4.2是支持AMD Ryzen AI Max+ 395的最新的ROCm版本：

https://rocm.docs.amd.com/projects/install-on-windows/en/docs-6.4.2/reference/system-requirements.html

确认版本并下载SDK安装包后。按照Windows安装软件的正常流程一直下一步即可，最后在选择显卡驱动时，如果当前已安装显卡驱动较新，选择默认的不安装老的显卡驱动即可。

2 调整Ollama

2.1 检查Ollama版本

ollama -v

当前版本是v0.12.10，该版本号用于下载匹配的包。

2.2 下载附加内容

到Ollama的GitHub中下载对应版本的两个包，主要是为了添加AMD的完整支持以及添加ROCm的对接库文件：

https://github.com/ollama/ollama/releases

在对应的版本下载对应的包。

将两个ZIP压缩包中的所有文件解压至Ollama的安装目录中：

2.3 检查硬件占用

这里再在Ollama中随意执行一些问题，就可以看到GPU和显存已经正常调用了：

3 Ollama访问

要想Ollama运行的LLM能够被访问到，还需要进行一些额外的操作。

3.1 Ollama配置

其实Ollama本身还需要附加一些配置，才能让Cline或其他程序能够正常调用：

在设置（setting）中，将Ollama配置为网络可见，并将Context length拉到需求长度：

3.2 环境变量配置

在Windows的环境变量中也要添加以下内容，Ollama才能被访问：

OLLAMA_ORIGINS=*

总结

本文总结了Ollama正常调用AMD GPU的处理过程。如果是使用Nvidia的GPU，则仅需安装CUDA相关配套软件即可。
老规矩，知道写了些啥。