简介

本节学习如何在 Docker 中完成 Ollama 的安装与配置。
Docker是一种虚拟化的容器技术,其基于镜像,可以秒级启动各种容器。其中的每一种容器都是一个完整的运行环境,可以实现容器之间的隔离。
Ollama 下载:https://ollama.com/download
Ollama 官方主页:https://ollama.com
Ollama 官方 GitHub 源代码仓库:https://github.com/ollama/ollama/
docker安装官方教程:https://hub.docker.com/r/ollama/ollama

一、拉取 Ollama 镜像

笔者事先在Windows系统下载了docker👉docker安装下载官方网站
方式一:Docker 软件在可视化界面中搜索并下载
方式二:官网推荐直接使用下面的指令拉取下载镜像,本项目只需在CPU上即可运行。
注:如果读者想要使用具体的版本的镜像,明确运行环境,可以使用下面的指令:

二、运行ollama镜像

方式一:Docker在可视化界面中运行镜像
  • 下载完成后,可以在 Images中找到 Ollama 镜像,点击 run 标识即可运行,注意运行前在弹出的可选设置里面,选定一个端口号(如8089)。
notion image
  • Containers 中找到该镜像,点击 OLLM 即可进入 Ollama 界面
notion image
img
  • 验证安装完成,在 Exec 处输入:
输出如下:即表示安装成功🎉
notion image
img
  • 终端使用 Ollama :
以下是 Ollama 使用常见的指令:
library (ollama.com)这里是 Ollama 的模型库,搜索你想要的模型,然后直接启动!
下载速度取决于你的带宽,下载完毕即可使用✌记得使用 control + D 退出聊天
方式二:命令行启动
  • CPU 版本:
Loading...
DOU~
DOU~
一个普通的干饭人🍚
最新发布
使用firefly组建内网环境
2025-3-8
COE-Panel开发日志
2025-3-5
Casaos部署合集
2025-2-21
手持机安装与配置
2025-2-8
利用Nginx代理被墙网站实现访问
2025-1-31
Flask服务器部署
2025-1-18