资源需求(选配,测试版)
配置:8C16g、磁盘100G
系统:Centos 7.9 2009
网络:192.168.1.120
主机名:aibox
安装过程:
1.
安装虚拟机
1.1.
最小安装,选择安装开发包;
1.2.
配置时区,asia shanghai;
1.3.
配置主机名,aibox;
1.4.
配置IP地址,192.168.1.120(或者自动获取)
1.5.
自动分区,或者删除home分区,保留/根分区
1.6.
等待安装进程……
2.
配置ollama 组件
2.1.
安装完成后,进入操作系统验证互联网连通性(ping www.baidu.com)
2.2.
下载ollama
执行命令,下载通常10-20分钟不等,依据硬件性能;
curl -fsSL https://ollama.com/install.sh | sh
>>> Installing ollama to
/usr/local
>>> Downloading Linux
amd64 bundle
########################################################################
100.0%
>>> Creating ollama
user...
>>> Adding ollama user to
video group...
>>> Adding current user to
ollama group...
>>> Creating ollama
systemd service...
>>> Enabling and starting
ollama service...
Created symlink from
/etc/systemd/system/default.target.wants/ollama.service to
/etc/systemd/system/ollama.service.
>>> The Ollama API is now
available at 127.0.0.1:11434.
>>> Install complete. Run
"ollama" from the command line.
安装完成。
编辑ollama配置文件,修改监听端口
vim /etc/systemd/system/ollama.service
增加如下内容
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
重新加载ollama服务文件
sudo systemctl daemon-reload
sudo systemctl restart ollama
sudo systemctl status ollama
3.
配置deepseek R1模型
3.1.
调用模型地址:https://ollama.com/library/deepseek-r1
3.2.
根据自己需求选择需要的模型,此处选择了7b,执行命令:
ollama run
deepseek-r1:7b ,等待 n 分钟,pulling
并安装
安装成功后有输出显示【send
a message】
4.
调用
可以使用网页版或者下载,然后通过设置界面调用,【使用自己的AIPkey 或本地模型】,选择【ollama api】,模型提供方【ollama
api】,api 域名【http://192.168.1.120:11434】,更多可查看访问教程,模型选择你下载的模型,点击【保存】,开始你的对话之旅。




