模型打包返回本地教程

云端脚本（下载镜像+模型并打包）

在阿里云 ECS 上执行（Ubuntu）。

set -e

# 1) 安装 Docker（搬运机用 docker.io 即可）
apt-get update
apt-get install -y docker.io
systemctl enable --now docker

# 2) 启动临时 Ollama 容器并下载模型
mkdir -p /data/ollama
docker rm -f ollama-build 2>/dev/null || true
docker run -d --name ollama-build \
  -v /data/ollama:/root/.ollama \
  -p 11434:11434 \
  ollama/ollama:latest

# 3) 拉模型（按需修改模型名）
docker exec -it ollama-build ollama pull qwen2.5:14b
docker exec -it ollama-build ollama list

# 4) 打包导出
docker save -o /root/ollama_image.tar ollama/ollama:latest
tar -czf /root/ollama_models.tar.gz -C /data ollama
sha256sum /root/ollama_image.tar /root/ollama_models.tar.gz > /root/sha256.txt

# 5) 查看文件
ls -lh /root/ollama_image.tar /root/ollama_models.tar.gz /root/sha256.txt

本地中转命令（你电脑上执行）

# 云端 -> 本地
scp root@<ECS_IP>:/root/ollama_image.tar .
scp root@<ECS_IP>:/root/ollama_models.tar.gz .
scp root@<ECS_IP>:/root/sha256.txt .

# 本地 -> HiveOS
scp ollama_image.tar root@<HIVEOS_IP>:/root/
scp ollama_models.tar.gz root@<HIVEOS_IP>:/root/
scp sha256.txt root@<HIVEOS_IP>:/root/

HiveOS 脚本（导入并运行）

在 HiveOS 上执行。

set -e

# 1) 校验并导入
cd /root
sha256sum -c sha256.txt
docker load -i /root/ollama_image.tar

# 2) 还原模型目录
mkdir -p /opt/ollama
tar -xzf /root/ollama_models.tar.gz -C /opt

# 3) 启动 Ollama
docker rm -f ollama 2>/dev/null || true
docker run -d --name ollama --restart unless-stopped \
  --gpus all \
  -p 11434:11434 \
  -v /opt/ollama:/root/.ollama \
  -e OLLAMA_KEEP_ALIVE=24h \
  ollama/ollama:latest

# 4) 验证
docker ps
docker logs --tail=120 ollama
docker exec -it ollama ollama list
curl -s http://127.0.0.1:11434/api/tags

预热常驻显存（HiveOS）

curl -s http://127.0.0.1:11434/api/generate \
  -d '{"model":"qwen2.5:14b","prompt":"hello","stream":false,"keep_alive":"24h"}'

docker exec -it ollama ollama ps
nvidia-smi

策略机连接

OLLAMA_BASE_URL=http://<HIVEOS_IP>:11434

curl http://<HIVEOS_IP>:11434/api/tags