启用本地大模型

自己买了一张 5060 卡，也不能白白浪费资源，看部署一下小的模型来玩玩

首先是在 windows 上安装了 Ollma，过后用 nssm 来启动一个系统级的服务，指向这个 Ollma 进程，这样就能便于管理，只需要 win+r 输入 services.msc找到OllamaService这个服务，并且关闭防火墙+打开 tailscale就能够通过公网来访问我的本地服务，

我自己的windows主机名字为：DESKTOP-ANN3RAS

所以在 windows 当中启动好msc找到OllamaService这个服务，就可以直接访问主机的服务啦

curl http://DESKTOP-ANN3RAS:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:7b",
    "messages": [
      {
        "role": "user",
        "content": "你好，请用一句话介绍你自己"
      }
    ],
    "stream": false
  }'

如果要接 SDK 的话 base url用

http://DESKTOP-ANN3RAS:11434