Ollama官网下载安装和本地部署教程(图文版,巨详细)
Ollama 是一款免费开源的本地大模型运行工具,通俗点说,就是让你在自己的电脑上直接跑 AI 大模型(比如 Llama、Qwen、DeepSeek)的软件。
以前想用大模型基本都得联网调用别人的服务,数据要传到云端。Ollama 把模型下载到本地,装好之后一条命令就能和 AI 对话,断网也能用,数据全程不出电脑,隐私和安全性是它核心的卖点。
这篇文章从 Ollama 下载开始,把安装、模型本地部署一步步讲透,图文步骤照着做,很快就能在自己电脑上跑起大模型。
和它同领域的工具还有 LM Studio、GPT4All、Jan 等,几款工具的差别主要在用法和生态上:
| 工具 | 使用方式 | 模型来源 | 是否免费开源 | 适合人群 |
|---|---|---|---|---|
| Ollama | 命令行 + 本地 API | 模型库丰富、更新快 | 免费开源 | 开发者、想把 AI 集成进程序的用户 |
| LM Studio | 图形界面 | 模型库 + 手动导入 | 免费(部分功能付费) | 习惯点鼠标操作的用户 |
| GPT4All | 图形界面 | 内置精选模型 | 免费开源 | 纯新手,想开箱即用 |
| Jan | 图形界面 | 内置 + 自定义导入 | 免费开源 | 喜欢现代简洁界面的用户 |
Ollama 的更新非常频繁,本文写作时最新版本为 0.33.2(2026 年 8 月发布),适配 Windows、macOS、Linux 三个平台。新版持续优化了模型运行性能和显存管理,并不断适配最新发布的开源模型。
下载Ollama
Ollama安装包下载:Ollama安装包(源自官网,放心使用)Windows 用户下载 OllamaSetup.exe 安装包,macOS 用户下载 dmg 文件,Linux 用户可以用官网提供的一键安装脚本:
curl -fsSL https://ollama.com/install.sh | sh
安装Ollama
1)Windows安装
下载 OllamaSetup.exe 后直接双击启动,点击 Install:
安装程序会自动安装到当前用户目录,不需要手动选择路径,也不需要额外配置,等待进度条走完即可:

安装完成后 Ollama 会自动启动,任务栏右下角会出现一个羊驼图标(Ollama 的 Logo),说明服务已经在后台运行了。

验证安装是否成功。按 Win + R 打开运行窗口,输入 cmd 回车打开命令提示符,输入 ollama --version 命令后回车:

看到类似 ollama version 0.33.2 的输出,就说明安装成功了。
2)macOS安装
macOS 用户下载 Ollama.dmg 后,双击打开把 Ollama 拖入应用程序文件夹即可。启动后菜单栏会出现羊驼图标,打开终端输入 ollama --version 验证安装。3)Linux安装
Linux 推荐使用官方安装脚本,打开终端执行以下命令:curl -fsSL https://ollama.com/install.sh | sh脚本会自动下载安装包并配置好系统服务,安装完成后输入 ollama --version 验证。
Ollama配置(Windows)
Ollama 默认将模型存储到 C 盘(通常为C:\Users\Administrator\.ollama\models),这对 C 盘可用容量有限的小伙伴非常不友好,我们可以手动将其修改为其它非系统盘。修改的方法很简单,进入“Settings”界面,参照下图完成修改:

Ollama本地部署
Ollama 主要通过命令行界面进行操作。打开终端(Windows 用户可以使用 PowerShell 或 CMD),就可以开始使用 Ollama 了。1)找到想装的模型
访问 Ollama 官网模型库:https://ollama.com/library,找到你想使用的 AI 模型,比如 deepseek:

2)安装模型
这里以 qwen2.5 模型为例,在 CMD 窗口执行如下命令:ollama run qwen2.5

耐心等待模型下载完,下载过程可能需要一些时间,具体取决于模型大小和网络速度。7B模型大约需要4GB存储空间,13B模型需要8GB,70B模型则需要40GB以上:

一切准备就绪后,就可以和 AI 模型聊天了:

对于新手用户,建议先从较小的模型开始尝试,比如llama2:7b或mistral:7b。熟悉基本操作后,再根据需求尝试更大的模型或专用模型。
装完之后,就可以在主界面配置装好的模型,然后就可以畅快的对话了:

3)Ollama常用命令
平时用得最多的命令汇总如下,建议收藏备用:| 命令 | 作用 |
|---|---|
ollama run 模型名 |
运行模型并对话,没下载会自动下载 |
ollama pull 模型名 |
只下载模型,不运行 |
ollama list |
查看本机已下载的模型 |
ollama ps |
查看正在运行的模型和内存占用 |
ollama stop 模型名 |
停止正在运行的模型,释放内存 |
ollama rm 模型名 |
删除模型,释放磁盘空间 |
ollama show 模型名 |
查看模型详细信息 |
ollama --version |
查看 Ollama 版本 |
Ollama热门模型推荐
模型库里的模型非常多,新手容易挑花眼。这里按用途整理了几款热门且好用的开源模型:| 模型 | 参数规模 | 特点 | 适合场景 |
|---|---|---|---|
| Qwen2.5 / Qwen3(通义千问) | 0.5B~72B | 阿里开源,中文能力突出,速度快 | 中文对话、写作、代码,新手首选 |
| DeepSeek-R1 | 1.5B~70B | 推理能力强,擅长数学和逻辑 | 解题、编程、深度思考类任务 |
| Llama 3.3(Meta) | 8B~70B | 通用均衡,开源生态最完善 | 通用助手、英文任务 |
| Gemma 3(Google) | 1B~27B | 轻量高效,支持图像输入 | 低配置机器、多模态场景 |
| Phi-4(微软) | 14B | 小参数强推理,省资源 | 配置一般又想体验强推理的用户 |
选择建议:电脑配置一般(16 GB 内存)先从 7B~8B 参数的中文模型(qwen2.5 或 deepseek-r1)入手;内存充足或有好显卡再尝试 14B、32B 的更大模型。参数越大智商越高,但需要的硬件也越高,不必盲目追求大模型。
Ollama新手注意事项
1)模型文件本身很大,一个模型少则几个 GB,多则几十 GB,默认存放在 C 盘用户目录下的 .ollama 文件夹里。如果 C 盘空间紧张,一定要提前修改存储路径,避免 C 盘被塞满。2)中文场景优先选国产开源模型。Ollama 模型库里的 Qwen(通义千问)、DeepSeek 对中文的支持明显更好,Llama 等英文模型虽然也能说中文,但质量和速度都不如国产模型。
3)没有独立显卡也能跑大模型,只是慢一些。相比显卡,内存是更关键的因素:想流畅跑 7B~8B 的模型建议 16 GB 内存起步,跑更大的模型需要更多内存或高端显卡。
总结
Ollama 是一款免费开源、本地运行大语言模型的工具,一条命令就能把 Llama、Qwen、DeepSeek 等主流开源模型跑在自己电脑上,数据全程不出本机,既是学习 AI 的好帮手,也是开发者集成 AI 能力的轻量方案。新手建议从 qwen2.5 或 deepseek-r1 这类中文友好的 7B~8B 模型入手,先跑通 ollama run 再慢慢研究模型管理。模型文件很大,记得给磁盘留够空间,跑不动就换参数小一点的模型,本地跑大模型没有想象中那么难。
ICP备案:
公安部网络备案: