Ollama终于用上我的显卡坞老古董RX580了

Ollama在Windows下利用RX580显卡加速并局域网分享

Posted by PhDLuffy on August 8, 2024

项目地址:likelovewant/ollama-for-amd

软件准备:

ROCm Support

下载RX580的pre-built ROCm libraries:

RX580下载gfx803的rocblas

下载文件:rocblas.for.gfx803.override.with.vega10.7z

Ollama-for-amd

下载文件:0.3.2版本

安装:

Windows下右键管理员安装Ollama-for-amd

安装完成之后,解压rocblas.for.gfx803,

找到Win下Ollama软件位置

C:\Users\usrname\AppData\Local\Programs\Ollama\rocm

替换rocblas.dll文件,替换library文件夹。

局域网设置:

在 Windows 上使用 Ollama 配置本地及外网访问_ollama3 能联网么-CSDN博客

Windows+R快捷键打开[运行]对话框,输入命令:sysdm.cpl

系统属性->环境变量->用户变量,新增变量

变量名:OLLAMA_HOST

变量值::11434

记得11434前面有个:

重启Ollama,局域网网页打开ip:11434

如果成功,会显示Ollama is running

以上。