Ollama 模型速查表

模型速查总表

🧠 通用对话/推理

模型

参数大小

上下文

特点

推荐场景

qwen3	0.6B / 1.7B / 4B / 8B / 14B / 30B / 32B / 235B	128K	阿里最新，思考模式+工具调用，多语言强	⭐中文首选
llama3.1	8B / 70B / 405B	128K	Meta 标杆，工具调用出色	英文通用任务
llama3.2	1B / 3B	128K	轻量快速	边缘设备/低配机器
deepseek-r1	1.5B / 7B / 8B / 14B / 32B / 70B / 671B	128K	⭐推理最强，CoT 思维链，接近 o3	数学/逻辑/编程
gemma3	270M / 1B / 4B / 12B / 27B	128K (4B+)	Google 出品，单GPU可跑	轻量部署/视觉
kimi-k2.5	-	128K	多模态+智能体	多模态智能体
mistral	7B	32K	经典 v0.3，工具调用	基础对话
mixtral	8x7B / 8x22B	32K	MoE 架构，等效 45B/141B	高性价比中档

👁️ 视觉/多模态

模型

大小

上下文

特点

qwen3-vl	2B / 4B / 8B / 30B / 32B / 235B	128K	⭐最强视觉VL，工具+思考
gemma3 (4B+)	4B / 12B / 27B	128K	⭐单GPU视觉首选，140+语言
llava	7B / 13B / 34B	4K	经典视觉对话
llama3.2-vision	11B / 90B	128K	Meta 官方视觉版
qwen2.5-vl	3B / 7B / 32B / 72B	32K	通义千问视觉，中文强
deepseek-ocr	3B	-	⭐OCR 专用，高效文字识别
minicpm-v	8B	8K	高效视觉语言
granite3.2-vision	2B	128K	IBM 文档理解（表格/图表）
mistral-small3.1	24B	128K	Mistral 视觉版

📐 Embedding（向量嵌入）

模型

大小

特点

nomic-embed-text	137M	⭐最流行，78.6M pulls
mxbai-embed-large	335M	高精度
qwen3-embedding	0.6B / 4B / 8B	阿里最新，中文强
all-minilm	22M / 33M	⭐极致轻量
snowflake-arctic-embed	22M~335M	多尺寸可选
bge-large	335M	BAAI 出品，中文好
embeddinggemma	300M	Google 出品

💻 代码编程专用

模型

大小

特点

qwen2.5-coder	1.5B / 7B / 14B / 32B	阿里编程专用
codegemma	2B / 7B	Google 代码
codellama	7B / 13B / 34B / 70B	Meta 代码
deepseek-coder	1.3B / 6.7B / 33B	DeepSeek 编程
starcoder2	3B / 7B / 15B	多语言代码
laguna-xs.2	33B (MoE, 3B活跃)	⭐本地智能体编程

---

💾 内存占用参考

``bash # 模型大小 → 所需 RAM（量化后约值） 270M~1B → 1GB RAM # 树莓派/手机 3B~4B → 3GB RAM # ⭐老旧笔记本 7B~8B → 6GB RAM # ⭐家用电脑主流 14B → 10GB RAM # 高性能笔记本 30B~32B → 20GB RAM # 工作站 70B → 40GB RAM # 双卡 235B~405B → 140GB RAM # 数据中心 671B → 400GB RAM # 集群/H100 `

> 你的服务器（1.8GB RAM + 4GB Swap）：最多跑 1B~3B 模型（qwen3:0.6b / gemma3:1b / llama3.2:1b / deepseek-r1:1.5b）

---

🏆 场景推荐速查

你要做什么

最佳模型

备选

中文对话	qwen3:8b	qwen3:4b
英文对话	llama3.1:8b	gemma3:12b
数学/逻辑推理	deepseek-r1:14b	qwen3:8b
编程助手	qwen2.5-coder:14b	deepseek-coder:6.7b
图像理解	gemma3:12b	qwen3-vl:8b
文字识别OCR	deepseek-ocr:3b	qwen2.5-vl:7b
文本嵌入/RAG	nomic-embed-text	bge-large
极速轻量	gemma3:1b-qat	llama3.2:1b
工具/函数调用	qwen3:8b	llama3.1:8b
低配/服务器	qwen3:0.6b / gemma3:1b	deepseek-r1:1.5b

---

🔧 CLI 命令

`bash # ─── 基础操作 ─── ollama pull deepseek-r1:14b # 下载模型（指定版本） ollama run qwen3:8b # 启动交互对话 ollama run qwen3:8b "你好" # 单次问答 ollama list # 列出已下载模型 ollama ps # 查看当前运行的模型 ollama stop qwen3:8b # 停止模型 ollama rm qwen3:8b # 删除模型

# ─── 模型管理 ─── ollama show deepseek-r1:14b # 查看模型详情（参数、模版） ollama cp qwen3:8b my-qwen # 复制模型 ollama push myuser/my-model # 推送到仓库

# ─── 自定义模型 ─── # 创建 Modelfile cat > Modelfile << 'EOF' FROM qwen3:8b SYSTEM "你是 AI 编程助手，回答简洁准确。" PARAMETER temperature 0.3 PARAMETER top_p 0.9 EOF

ollama create my-coder -f Modelfile # 创建自定义模型 ollama run my-coder # 运行自定义模型

# ─── 环境变量（常用） ─── OLLAMA_HOST=0.0.0.0 # 监听所有网卡（默认127.0.0.1:11434） OLLAMA_MODELS=/path/to/models # 模型存储路径 OLLAMA_NUM_PARALLEL=4 # 并行请求数 OLLAMA_KEEP_ALIVE=5m # 模型驻留时间（默认5m） `

---

🌐 API 调用

Ollama 在 localhost:11434 提供 REST API，兼容 OpenAI 格式。

`bash # 基础生成 curl http://localhost:11434/api/generate -d '{ "model": "qwen3:8b", "prompt": "解释什么是RAG？", "stream": false }'

# 对话模式（保留上下文） curl http://localhost:11434/api/chat -d '{ "model": "qwen3:8b", "messages": [ {"role": "system", "content": "你是AI助手。"}, {"role": "user", "content": "Python 如何读取CSV？"} ], "stream": false }'

# 嵌入向量 curl http://localhost:11434/api/embed -d '{ "model": "nomic-embed-text", "input": "需要转为向量的文本" }'

# 流式输出（stream: true，默认） curl http://localhost:11434/api/generate -d '{ "model": "deepseek-r1:14b", "prompt": "1+1=?" }'

# 列出本地模型 curl http://localhost:11434/api/tags

# 模型详情 curl http://localhost:11434/api/show -d '{"model": "qwen3:8b"}' `

### Python SDK 接入

`python from openai import OpenAI

client = OpenAI( base_url="http://localhost:11434/v1", # Ollama API 地址 api_key="ollama" # 任意值，Ollama 不校验 )

response = client.chat.completions.create( model="qwen3:8b", messages=[ {"role": "system", "content": "你是 AI 助手。"}, {"role": "user", "content": "Python 列表推导式怎么写？"} ] ) print(response.choices[0].message.content) `

### JavaScript/Node.js 接入

`javascript import OpenAI from 'openai' const client = new OpenAI({ baseURL: 'http://localhost:11434/v1', apiKey: 'ollama' }) const res = await client.chat.completions.create({ model: 'qwen3:8b', messages: [{ role: 'user', content: 'Hello' }], }) console.log(res.choices[0].message.content) ``

---

📊 模型大小对比（总参数量 vs 活跃参数量）

模型

总参数

活跃参数

架构

qwen3:0.6b	0.6B	0.6B	Dense
llama3.2:1b	1B	1B	Dense
deepseek-r1:1.5b	1.5B	1.5B	Dense
qwen3:4b	4B	4B	Dense
gemma3:4b	4B	4B	Dense
qwen3:8b	8B	8B	Dense
llama3.1:8b	8B	8B	Dense
deepseek-r1:8b	8B	8B	Dense (蒸馏)
gemma3:12b	12B	12B	Dense
deepseek-r1:14b	14B	14B	Dense (蒸馏)
qwen3:30b	30B (MoE)	~3B	MoE
qwen3:32b	32B	32B	Dense
deepseek-r1:32b	32B	32B	Dense (蒸馏)
mixtral:8x7b	47B (MoE)	~13B	MoE
deepseek-r1:70b	70B	70B	Dense
qwen3:235b	235B (MoE)	~22B	MoE
llama3.1:405b	405B	405B	Dense
deepseek-r1:671b	671B (MoE)	~37B	MoE

> MoE (Mixture of Experts) = 总参数量大但每次只激活一部分，实际内存需求远小于同名 Dense 模型。

---

🚀 热门模型 Pulls 排行

排名

模型

下载量

标签数

1	llama3.1	117.2M	93
2	deepseek-r1	89.9M	35
3	nomic-embed-text	78.6M	3
4	llama3.2	76.7M	63
5	gemma3	38.6M	26
6	qwen2.5	34.8M	133
7	qwen3	32.3M	58
8	mistral	31.1M	84
9	gemma2	27.9M	94
10	llama3	24.7M	68
11	llava (vision)	14.3M	98
12	mxbai-embed-large	12.6M	4
13	minicpm-v	5.3M	17
14	llama3.2-vision	4.9M	9
15	qwen3-vl	4.5M	57