AMD 显卡跑本地模型：ROCm 装对版本，比 CUDA 省钱一半
AMD 卡跑模型的真相 很多人以为「AMD 显卡跑 AI 全是坑」，其实坑不在 AMD，而在 ROCm 版本和你的显卡型号是否匹配。NVIDIA 那套 CUDA 生态确实成熟，但同显存档位的 AMD 卡（比如 7900 XTX 24GB、RX 7900 GRE）价格明显低一截，跑 GGUF 量化模型完全够用。关键是别拿「通用版 ROCm」硬套，要先确认你的卡在支持列表里。 先查你的卡在不在名单 ROCm 对消费级显卡的支持是逐步放开的。截至目前，官方正式支持较好的是 RDNA3 架构（RX 7900 系列、RX 7800 XT 等）以及部分 RDNA2。老卡或太新的卡可能要靠社区补丁。动手装之前，先去 ROCm 官方文档查 GPU 支持矩阵，确认你的型号和 Ubuntu 版本（ROCm 对 Linux 支持最好，Windows 上走 DirectML/Vulkan 是另一条路）组合在列。装错版本，症状就是：装得上、跑不起来、报 HIP 错误。 三条落地路径 路径 适合 特点 ROCm + Ollama（Linux） 主流推荐 Ollama 官方 ROCm 版自动调用 GPU ROCm + llama.cpp 要精细调参 编译时 HIP_HSA=1 启用 AMD 后端 Windows DirectML 不想折腾 Linux 兼容性广但速度一般 最省事的是 Linux 上直接装带 ROCm 支持的 Ollama：装好后 ollama run qwen2.5:7b，再用 rocminfo 或 ollama ps 确认任务真的跑在 GPU 上而不是 CPU——很多人「感觉变慢了」，其实是退回 CPU 推理了，白装 ROCm。 ...