各位NAS值友们,2026年AI已经卷成什么样了?豆包日活破亿、Kimi K3发布一周就登顶开源榜——但用云端AI,你的聊天记录、工作文档、家庭照片描述,全都在别人服务器上。🔒

其实家里的NAS就能跑AI大模型:24小时开机、数据不出家门、局域网全家共享、一次部署永久免费。今天这篇保姆级教程,就用飞牛NAS实测,手把手教值友们用Docker部署Ollama + OpenWebUI,10分钟让NAS变身家庭AI服务器!

一、为什么NAS是跑本地AI的天选之子?

很多值友会问:电脑也能跑AI,为什么非得用NAS?🤔

三个理由:第一,NAS本来就是24小时开机的,跑AI不额外费电;第二,部署一次,家里手机、平板、电脑、电视全都能通过浏览器访问,不用每台设备装环境;第三,也是最关键的——所有对话数据都存在自己硬盘里,敏感内容不上传云端。

2026年内存、硬盘涨成这样,NAS硬盘选购都上过热搜。既然盘都买了,不让它多干点活就亏了!

二、先对号入座:你的NAS能跑什么模型?

不是所有NAS都适合跑大模型,关键看架构和内存。ARM盘位机就别硬撑了,直接上结论:

NAS配置 可跑模型 体验预期 推荐指数
ARM / 内存4GB以下 基本无缘 会卡到怀疑人生 ❌ 不建议
x86 + 8GB内存 1.5B~8B(Qwen3-8B、DeepSeek-R1-Distill-8B) 日常问答流畅,出字速度5~15 token/s ✅ 入门可用
x86 + 16GB内存 8B~14B(主力甜点区) 写作、总结、翻译全能打 🌟 最推荐
x86 + 32GB内存 14B~32B 接近云端免费档体验 ✅ 进阶之选
带N卡的x86(如零刻ME Pro) 7B量化模型GPU加速 出字速度翻几倍 ✅✅ 土豪随意

主流成品NAS里,绿联DXP4800系列、极空间Z4Pro、威联通TS-464C2、飞牛EVO系列都是x86平台,内存可扩到16GB甚至32GB,全部满足要求。零刻ME Pro这种准系统加条内存更是性价比拉满。

三、部署第一步:Docker跑起Ollama

Ollama是本地大模型的”发动机”,一条Docker命令就能装。以飞牛fnOS为例(群晖Container Manager、威联通Container Station操作逻辑基本一致):

SSH登录NAS后执行:

docker run -d \
  --name ollama \
  --restart unless-stopped \
  -p 11434:11434 \
  -v /vol1/docker/ollama:/root/.ollama \
  -e OLLAMA_ORIGINS=* \
  ollama/ollama

📌 重点说明:卷挂载路径换成你NAS的实际docker目录;OLLAMA_ORIGINS=*是为了让浏览器能跨域访问API;模型文件很大(一个8B模型约5GB),挂载路径要放在大容量数据盘上。

飞牛用户更省事:应用中心里直接有Ollama套件,点安装就行,连命令都不用敲。

四、部署第二步:拉取你要的大模型

容器跑起来后,SSH执行:

docker exec -it ollama ollama run qwen3:8b

等模型下载完(约5GB,取决于网络),就能在命令行直接对话了。值友们关心的几款国产模型都支持:

  • qwen3:8b:通义千问开源版,中文综合能力均衡,首选 🌟
  • deepseek-r1:8b:DeepSeek R1蒸馏版,会展示推理过程,适合解题
  • qwen3:4b:内存紧张时的替补,速度更快
  • gemma3:4b:谷歌出品,多模态识图的小钢炮

想看全部可用模型,去ollama.com/library搜索,名字照抄就行。

五、部署第三步:OpenWebUI上场,全家共享

命令行对话太极客了,上OpenWebUI——部署完就是一个网页版的”私人ChatGPT”:

docker run -d \
  --name open-webui \
  --restart unless-stopped \
  -p 3000:8080 \
  -v /vol1/docker/open-webui:/app/backend/data \
  -e OLLAMA_BASE_URL=http://NAS内网IP:11434 \
  ghcr.io/open-webui/open-webui:main

⚠️ 这里有个90%新手会踩的坑:OLLAMA_BASE_URL一定要填NAS的内网IP(如192.168.1.100),不能填localhost!因为两个容器在不同Docker网络里,localhost互相找不到。

浏览器输入 http://NAS内网IP:3000,第一个注册的账号自动成为管理员。界面、交互和ChatGPT几乎一模一样:多模型切换、对话历史保存、文件上传问答全都有。

懒人方案:不想敲两条命令,直接用docker-compose一把梭:

version: '3.8'
services:
  ollama:
    image: ollama/ollama
    container_name: ollama
    restart: unless-stopped
    ports:
      - "11434:11434"
    volumes:
      - /vol1/docker/ollama:/root/.ollama
    environment:
      - OLLAMA_ORIGINS=*
  open-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: open-webui
    restart: unless-stopped
    ports:
      - "3000:8080"
    volumes:
      - /vol1/docker/open-webui:/app/backend/data
    environment:
      - OLLAMA_BASE_URL=http://NAS内网IP:11434

六、实测:部署完能干啥?

跑了一周,说说真实体验:

✅ 日常问答和写作:写个朋友圈文案、翻译个说明书、总结个PDF,qwen3:8b完全够用,没有广告弹窗,不担心聊天记录被拿去训练。

✅ 局域网全家共享:老婆手机浏览器打开NAS_IP:3000,孩子查作业题用deepseek-r1:8b,互不干扰,各有各的对话历史。

✅ 给其他NAS应用当大脑:OpenWebUI支持API调用,后续接笔记应用、自动化工作流(n8n)、甚至NAS上的AI相册增强,都在这张网上。

❌ 说实话的短板:8B模型的知识量和推理深度肯定不如云端旗舰(Kimi K3那种2.8T参数的怪物想都别想);生成长文速度也就手机打字水平;识图要选多模态模型。

七、常见翻车现场与解法

论坛里值友问得最多的几个问题,提前帮大家排雷:

问题 原因 解法
ghcr.io镜像拉取失败 网络波动 重试或配置镜像加速后 docker pull
WebUI白屏 Ollama未就绪 先在SSH里跑一次模型,再刷新页面
502 Bad Gateway BASE_URL填错 确认是NAS内网IP而非localhost
出字慢如蜗牛 内存不足或CPU太弱 换4B模型或加内存条
重启后容器没了 没设restart策略 加上 –restart unless-stopped

课代表总结

一句话:8GB内存NAS入门玩,16GB内存NAS闭眼冲,ARM机和2GB内存机别勉强。

如果你只是想体验,qwen3:8b + OpenWebUI这套免费方案已经能覆盖80%的日常场景;追求速度上N卡直通;追求质量就等内存降价(虽然2026年这行情……先用着吧 😂)。

云端AI该用还得用,但家里有NAS的值友,强烈建议部署一套本地AI当”隐私专用机”——工作文档、家庭账本这类敏感内容,还是放在自己硬盘里安心。觉得有用就收藏,部署过程遇到问题评论区见!


📂 更多推荐

  • 查看更多相关文章:https://www.88531.cn
  • 关注公众号「实用软技」获取更多软件推荐和实用技巧
  • 所有软件均提供夸克网盘下载,公众号回复「软件」一键获取

https://www.88531.cn/?p=57582

www.npspro.top互联侠客
软师兄 » NAS别只当网盘用!免费部署本地AI大模型:Ollama+OpenWebUI保姆级教程,飞牛/群晖/威联通通用

最TOP的Docker,软路由,虚拟机等学习资料

立即查看 了解详情