|
| 1 | +## 🚀 核心命令 (Basic CLI) |
| 2 | + |
| 3 | +最常用的命令行操作。 |
| 4 | + |
| 5 | +| 命令 | 说明 | 示例 | |
| 6 | +| :--- | :--- | :--- | |
| 7 | +| **`ollama run`** | 运行并进入交互模式 (如果没有模型会自动下载) | `ollama run llama3` | |
| 8 | +| **`ollama pull`** | 仅下载/更新模型,不运行 | `ollama pull qwen2` | |
| 9 | +| **`ollama list`** | 列出本地已下载的模型 | `ollama list` | |
| 10 | +| **`ollama rm`** | 删除本地模型 | `ollama rm llama2` | |
| 11 | +| **`ollama cp`** | 复制模型 (常用于重命名或备份) | `ollama cp llama3 my-model` | |
| 12 | +| **`ollama ps`** | 查看当前正在显存中运行的模型 | `ollama ps` | |
| 13 | +| **`ollama show`** | 显示模型详情 (Modelfile, 参数等) | `ollama show --modelfile llama3` | |
| 14 | + |
| 15 | +### 交互模式下的快捷指令 |
| 16 | +在 `ollama run <model>` 进入对话框后使用: |
| 17 | +* `/?`: 获取帮助 |
| 18 | +* `/bye` 或 `Ctrl + D`: 退出对话 |
| 19 | +* `/set parameter seed 123`: 临时设置参数 |
| 20 | +* `/show info`: 查看当前模型信息 |
| 21 | +* `"""`: 输入多行文本 |
| 22 | + |
| 23 | +--- |
| 24 | + |
| 25 | +## ⚙️ 模型定制 (Modelfile) |
| 26 | + |
| 27 | +创建自定义的角色(System Prompt)或调整参数。 |
| 28 | + |
| 29 | +**1. 创建文件 `Modelfile`** |
| 30 | +```dockerfile |
| 31 | +FROM llama3 |
| 32 | + |
| 33 | +# 设置温度 (越高越有创造力,越低越严谨) |
| 34 | +PARAMETER temperature 0.7 |
| 35 | + |
| 36 | +# 设置上下文窗口大小 (默认 2048) |
| 37 | +PARAMETER num_ctx 4096 |
| 38 | + |
| 39 | +# 设置系统提示词 (核心灵魂) |
| 40 | +SYSTEM """ |
| 41 | +你是一个资深的Linux运维专家。 |
| 42 | +请只回答与Linux、Shell、网络配置相关的问题。 |
| 43 | +回答要简洁,并优先给出代码示例。 |
| 44 | +""" |
| 45 | +``` |
| 46 | + |
| 47 | +**2. 编译模型** |
| 48 | +```bash |
| 49 | +# 语法: ollama create <新模型名> -f <Modelfile路径> |
| 50 | +ollama create linux-expert -f ./Modelfile |
| 51 | +``` |
| 52 | + |
| 53 | +**3. 运行新模型** |
| 54 | +```bash |
| 55 | +ollama run linux-expert |
| 56 | +``` |
| 57 | + |
| 58 | +--- |
| 59 | + |
| 60 | +## 🔌 API 调用 (cURL 示例) |
| 61 | + |
| 62 | +Ollama 默认监听 `11434` 端口。 |
| 63 | + |
| 64 | +**1. 生成回复 (Generate - 流式)** |
| 65 | +```bash |
| 66 | +curl http://localhost:11434/api/generate -d '{ |
| 67 | + "model": "llama3", |
| 68 | + "prompt": "为什么天空是蓝色的?" |
| 69 | +}' |
| 70 | +``` |
| 71 | + |
| 72 | +**2. 聊天模式 (Chat - 类似 OpenAI)** |
| 73 | +```bash |
| 74 | +curl http://localhost:11434/api/chat -d '{ |
| 75 | + "model": "llama3", |
| 76 | + "messages": [ |
| 77 | + { "role": "user", "content": "你好,介绍一下你自己" } |
| 78 | + ], |
| 79 | + "stream": false |
| 80 | +}' |
| 81 | +``` |
| 82 | + |
| 83 | +**3. 获取 Embeddings (用于 RAG)** |
| 84 | +```bash |
| 85 | +curl http://localhost:11434/api/embeddings -d '{ |
| 86 | + "model": "nomic-embed-text", |
| 87 | + "prompt": "Hello world" |
| 88 | +}' |
| 89 | +``` |
| 90 | + |
| 91 | +--- |
| 92 | + |
| 93 | +## 🛠️ 服务管理 (Linux Systemd) |
| 94 | + |
| 95 | +针对 Linux 系统的后台服务管理。 |
| 96 | + |
| 97 | +| 操作 | 命令 | |
| 98 | +| :--- | :--- | |
| 99 | +| **启动服务** | `sudo systemctl start ollama` | |
| 100 | +| **停止服务** | `sudo systemctl stop ollama` | |
| 101 | +| **重启服务** | `sudo systemctl restart ollama` | |
| 102 | +| **查看状态** | `sudo systemctl status ollama` | |
| 103 | +| **查看日志** | `journalctl -u ollama -f` (排错神器) | |
| 104 | + |
| 105 | +--- |
| 106 | + |
| 107 | +## 环境变量 (Environment Variables) |
| 108 | + |
| 109 | +配置 Ollama 行为的关键变量。 |
| 110 | +*在 Linux 中通过 `sudo systemctl edit ollama.service` 配置*。 |
| 111 | + |
| 112 | +| 变量名 | 默认值 | 说明 | |
| 113 | +| :--- | :--- | :--- | |
| 114 | +| **`OLLAMA_HOST`** | `127.0.0.1` | 设置为 `0.0.0.0` 可允许远程访问 | |
| 115 | +| **`OLLAMA_MODELS`** | `~/.ollama/models` | 修改模型存储路径 (如移到大硬盘 `/data/ollama`) | |
| 116 | +| **`OLLAMA_KEEP_ALIVE`**| `5m` | 模型加载在显存中的保留时间 (可设为 `24h` 或 `-1` 永久) | |
| 117 | +| **`OLLAMA_NUM_PARALLEL`** | `1` | 允许并发处理的请求数量 | |
| 118 | +| **`OLLAMA_MAX_LOADED_MODELS`** | `1` | 允许同时加载在显存中的模型数量 | |
| 119 | +| **`OLLAMA_ORIGINS`** | `*` | 跨域设置 (CORS),限制允许访问的域名 | |
| 120 | + |
| 121 | +--- |
| 122 | + |
| 123 | +## 📦 常用热门模型 (Model Library) |
| 124 | + |
| 125 | +无需死记硬背,去 [ollama.com/library](https://ollama.com/library) 查看。 |
| 126 | + |
| 127 | +| 模型名 | 特点 | 适用场景 | |
| 128 | +| :--- | :--- | :--- | |
| 129 | +| **`llama3`** (8b/70b) | Meta出品,目前最强开源模型之一 | 通用助手,逻辑强,速度快 | |
| 130 | +| **`gemma2`** (9b/27b) | Google出品,性能优异 | 通用,知识库丰富 | |
| 131 | +| **`qwen2.5`** | 阿里出品,**中文能力极强** | 中文对话,写作,代码 | |
| 132 | +| **`mistral`** | 欧洲团队,高性价比 | 英语任务,逻辑推理 | |
| 133 | +| **`codellama`** | 专精代码 | 代码补全,Debug | |
| 134 | +| **`llava`** | 多模态 (Multimodal) | **图片识别**,图像描述 | |
| 135 | +| **`nomic-embed-text`** | 嵌入模型 | 用于构建 RAG (知识库) 系统 | |
| 136 | + |
| 137 | +--- |
| 138 | + |
| 139 | +## ⚠️ 远程访问安全清单 |
| 140 | + |
| 141 | +如果你配置了远程访问,请核对以下三点: |
| 142 | + |
| 143 | +1. **绑定地址**:`OLLAMA_HOST=0.0.0.0` |
| 144 | +2. **防火墙**:`sudo ufw allow 11434` (仅允许可信 IP) 或配置 Nginx 端口。 |
| 145 | +3. **认证**:**必须**配置 Nginx Basic Auth 或 LiteLLM (因为 Ollama 原生无密码)。 |
| 146 | + |
| 147 | +--- |
| 148 | + |
| 149 | +### 一键卸载 (Linux) |
| 150 | +如果需要重装或清除: |
| 151 | +```bash |
| 152 | +sudo systemctl stop ollama |
| 153 | +sudo systemctl disable ollama |
| 154 | +sudo rm /etc/systemd/system/ollama.service |
| 155 | +sudo rm -rf /usr/share/ollama /usr/local/bin/ollama |
| 156 | +sudo userdel ollama |
| 157 | +sudo groupdel ollama |
| 158 | +``` |
0 commit comments