Docker推AI模型统一打包标准
推荐指数 71.0 NO. 025 · 2026.08.13
发布2026/08/12
为什么值得看
Docker与CNCF合作推出ModelPack，将AI模型及其依赖打包为符合OCI标准的容器镜像，解决模型在不同框架和平台间迁移的兼容性问题。对需要多环境部署或混合使用PyTorch/TensorFlow/onnx等框架的团队，可直接复用现有Docker工具链管理模型生命周期。
编辑判断
AI模型交付目前是个灰色地带：训练好的模型往哪放、怎么版本化、怎么和推理服务解耦，各厂做法混乱。ModelPack的实质是把模型变成和容器镜像一样的标准制品，可以直接用Harbor做仓库、用Sigstore做签名、用现有CI/CD流水线做分发。
这和Hugging Face的GGUF或Safetensors格式不同，后者解决的是单一模型文件的序列化，ModelPack解决的是"模型+运行时+依赖"的整体交付。如果你已经在用K8s做推理服务，这个标准能让模型更新从"重新打镜像"变成"换一层OCI layer"，部署时间从分钟级降到秒级。
短期看生态还很薄，但Docker Hub已经支持，且OCI标准是云厂商的共识。建议关注你用的推理框架（Triton、vLLM、TGI）何时原生支持ModelPack作为模型加载源。
相关内容
Why Docker Chose OCI Artifacts for AI Model Packaging Docker Model Runner 引入将大型语言模型打包为 OCI 制品的新规范，使用开发者熟悉的格式，加速 AI 开发流程。 How to Build, Run, and Package AI Models Locally with Docker Model Runner Docker Compose v2.35+ 支持 AI 模型服务，可通过 `provider.type: model` 在 compose.yml 中定义模型，并使用 `docker model package` 命令打包 GGUF 模型。 DevOps快報：Docker將推MCP目錄服務，桌面版新增AI模型執行工具 Docker Desktop 4.40 新增 Model Runner 外掛 Beta 版，支援 macOS 本地執行 AI 模型，內建 llama.cpp 推論引擎，提供 OpenAI API 相容介面。