个人RAG知识库部署

==作者:cybsky==

[toc]

ollama安装

windows去官网https://ollama.com/直接下载安装

linux查看[分布式推理的探索]

文件迁移

ollama默认程序文件及模型文件在C盘,且安装中不可修改。

C盘预留空间安装好后,移动程序目录:C:\Users\shiki\AppData\Local\Programs\Ollama以及模型文件夹C:\Users\shiki\.ollama至其他盘。

环境变量

user:PATH=D:\Ollama

system:OLLAMA_MODELS=D:\Ollama\.ollama\models

环境变量不好使的话就还原变量,使用软链link到C盘

mklink /d “C:\Program Files (x86)\Microsoft” “D:\Program Files (x86)\Microsoft”

模型下载

本地使用

ollama run deepseek-r1:7b

或者使用线上api

ANYTHINGLLM

https://anythingllm.com/desktop

安装后需要重新配置ollama环境变量

embeding模型

无需启动 下载即可

ollama run nomic-embed-text:latest

文章作者: CYBSKY
文章链接: https://cybsky.top/2025/02/19/cyb-mds/AI/个人RAG知识库部署/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来自 CYBSKY