docker model pull
| 描述 | 从 Docker Hub 或 HuggingFace 拉取模型到本地环境 |
|---|---|
| 用法 | docker model pull MODEL |
描述
将模型拉取到本地环境。下载的模型也会显示在 Docker Desktop Dashboard 中。
选项
| 选项 | 默认值 | 描述 |
|---|---|---|
--ignore-runtime-memory-check | 如果模型估计的运行时内存超出系统资源，则不阻止拉取。 |
示例
从 Docker Hub 拉取模型
docker model pull ai/smollm2
从 HuggingFace 拉取
您可以直接从 Hugging Face 拉取 GGUF 模型。
关于量化的说明： 如果未指定标签，该命令会尝试拉取模型的 Q4_K_M 版本。如果 Q4_K_M 不存在，该命令会拉取在 HuggingFace 模型“文件”视图中找到的第一个 GGUF。要指定量化，请将其作为标签提供，例如：docker model pull hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF:Q4_K_S
docker model pull hf.co/bartowski/Llama-3.2-1B-Instruct-GGUF