Skip to content

Ollama学习指南轻松上手大语言模型

最简单的方式运行大语言模型,如 Gemma 3、DeepSeek-R1、Llama 4、QwQ 等最新模型

Ollama

为什么选择 Ollama?

Ollama 是运行大语言模型最简单的方式。它将模型权重、配置和数据打包成一个单一的包,定义了一个用于创建和共享 AI 模型的标准。

主要特性

  • 零配置启动:下载即用,无需复杂的环境配置
  • 本地运行:保护数据隐私,无需依赖云服务
  • 资源优化:智能内存管理,支持多种硬件配置
  • 社区驱动:活跃的开源社区,持续更新和改进

热门模型

模型参数量大小特长领域运行命令
Gemma 31B-27B815MB-17GB通用对话、代码生成ollama run gemma3
DeepSeek-R17B-671B4.7GB-404GB数学推理、逻辑思考ollama run deepseek-r1
Llama 4109B-400B67GB-245GB最新一代通用模型ollama run llama4:scout
QwQ32B20GB数学推理专家ollama run qwq
Phi 414B9.1GB微软最新小型模型ollama run phi4
Llama 3.2 Vision11B-90B7.9GB-55GB多模态视觉理解ollama run llama3.2-vision
Qwen3 Coder--代码生成专家ollama run qwen3-coder

系统要求

  • 7B 模型: 至少 8GB RAM
  • 13B 模型: 至少 16GB RAM
  • 33B+ 模型: 至少 32GB RAM

快速体验

安装 Ollama

bash
# macOS
下载: [点击下载](./download.md)
# Windows
下载: [点击下载](./download.md)
# Linux
curl -fsSL https://ollama.com/install.sh | sh
# Docker
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

运行您的第一个模型

bash
# 运行 Gemma 3 (推荐新手)
ollama run gemma3
# 运行 DeepSeek-R1 (推理专家)
ollama run deepseek-r1
# 运行 Llama 4 (最新模型)
ollama run llama4:scout
# 多模态视觉模型
ollama run llama3.2-vision "这张图片里有什么? /path/to/image.jpg"

开始对话

bash
>>> 你好,请介绍一下自己
>>> 请解释一下量子计算的基本原理
>>> 帮我写一个 Python 排序算法

高级功能

自定义模型

bash
# 从 GGUF 文件导入模型
echo 'FROM ./my-model.gguf' > Modelfile
ollama create my-custom-model -f Modelfile
# 自定义提示词
echo 'FROM llama3.2
SYSTEM "你是一个专业的 Python 编程助手"' > Modelfile
ollama create python-helper -f Modelfile

多模态能力

bash
# 图像理解
ollama run llava "描述这张图片: /path/to/image.png"
# 视觉问答
ollama run llama3.2-vision "这张图片中有多少个人? /path/to/photo.jpg"

API 集成

python
# Python 示例
import ollama
response = ollama.chat(model='gemma3', messages=[
  {'role': 'user', 'content': '解释机器学习'}
])
print(response['message']['content'])
javascript
// JavaScript 示例
import ollama from 'ollama'
const response = await ollama.chat({
  model: 'gemma3',
  messages: [{ role: 'user', content: '什么是深度学习?' }],
})
console.log(response.message.content)

模型管理

bash
# 列出已安装的模型
ollama list
# 查看模型信息
ollama show gemma3
# 复制模型
ollama cp gemma3 my-gemma3
# 删除模型
ollama rm old-model

开始使用

准备好开始您的 AI 之旅了吗? 📥 立即下载 Ollama | 🚀 快速入门指南 | ☁️ 云服务

🤖 Ollama - 让 AI 触手可及版本: 最新稳定版 | 平台: Windows, macOS, Linux, Docker 支持 50+ 模型

让大语言模型触手可及 - Get up and running with large language models