主页 > IT业界  > 

ollama提供给外部访问

ollama提供给外部访问

ollama外部访问 1、修改ollama配置2、增加配置3、重启ollama4、postMan访问效果

1、修改ollama配置 sudo vim /etc/systemd/system/ollama.service 2、增加配置

OLLAMA_HOST 绑定的主机与端口 (默认 “127.0.0.1:11434”) OLLAMA_ORIGINS 允许的源的逗号分隔列表 OLLAMA_MODELS 模型目录的路径 (默认是 “~/.ollama/models”) OLLAMA_KEEP_ALIVE 模型在内存中保持加载的持续时间 (默认是 “5m”) OLLAMA_DEBUG 设置为 1 以启用额外的调试日志

Environment="OLLAMA_HOST=0.0.0.0:11434" Environment="OLLAMA_ORIGINS=*

3、重启ollama systemctl restart ollama 4、postMan访问效果

post请求 url:http://xx.xx.xx.xx:11434/v1/chat/completions

POST:http://xx.xx.xx.xx:11434/v1/chat/completions -H "Content-Type: application/json" { "model": "deepseek-r1:8b", "stream": true, "messages": [{ "role": "user", "content": "你好" }] }

标签:

ollama提供给外部访问由讯客互联IT业界栏目发布,感谢您对讯客互联的认可,以及对我们原创作品以及文章的青睐,非常欢迎各位朋友分享到个人网站或者朋友圈,但转载请说明文章出处“ollama提供给外部访问