Z-Image

Z-Image + SGLang Diffusion：高性能推理与服务器部署完全指南

May 12, 2026

Z-Image + SGLang Diffusion：高性能推理与服务器部署完全指南

从本地 ComfyUI 到生产级 API 服务：用 SGLang Diffusion 实现 Z-Image 的高并发、低延迟部署，打造企业级 AI 图像生成平台。

为什么需要 SGLang Diffusion？

Z-Image 已经在本地部署和 ComfyUI 工作流中表现出色，但当你需要：

  • 高并发 API 服务：同时处理数十甚至数百个生成请求
  • 低延迟推理：将响应时间从秒级压缩到亚秒级
  • OpenAI 兼容接口：无缝接入现有应用和工具链
  • 生产级稳定性：自动队列管理、负载均衡、错误恢复

这时 SGLang Diffusion 就是你的最佳选择。

SGLang Diffusion 是什么？

SGLang Diffusion 是由 LMSYS（Large Model System Organization）开发的高性能推理框架，专门为扩散模型优化。它将 SGLang 在 LLM 推理领域的创新——RadixAttention、连续批处理、投机解码——延伸到图像和视频生成领域。

核心特性

  1. Z-Image 原生支持：通过专用 pipeline 直接加载 Z-Image 模型
  2. OpenAI 兼容 API：一行代码接入现有生态
  3. 连续批处理：动态合并请求，GPU 利用率提升 3-5 倍
  4. 低延迟推理：8-step Z-Image Turbo 推理时间减少 40%+
  5. 多模型支持：同时服务 Z-Image、Wan、Flux、Hunyuan 等模型

官方数据（LMSYS 2026年1月）

指标 原生 Diffusers SGLang Diffusion 提升
单请求延迟（8-step） ~1.8s ~1.1s 39% ↓
吞吐率（并发=8） ~2.1 img/s ~7.8 img/s 271% ↑
GPU 利用率 ~45% ~92% 104% ↑
内存占用 14.2 GB 12.8 GB 10% ↓

环境准备

系统要求

  • GPU：NVIDIA A10 / RTX 4090 / A100（推荐 16GB+ VRAM）
  • CUDA：12.1+
  • Python：3.10-3.12
  • 操作系统：Ubuntu 22.04+（推荐）

安装步骤

# 1. 创建独立环境
conda create -n zimage-serve python=3.11 -y
conda activate zimage-serve

# 2. 安装 SGLang（带 Diffusion 支持）
pip install "sglang[all]>=0.4.0"

# 3. 验证安装
python -c "import sglang; print(sglang.__version__)"

注意：SGLang 的 Diffusion 支持从 v0.4.0 开始，确保使用最新版本。

部署 Z-Image Turbo 服务

方法一：命令行启动（最简单）

# 启动 Z-Image Turbo 推理服务
python -m sglang.launch_server /
    --model-path Tongyi-MAI/Z-Image-Turbo /
    --port 30000 /
    --host 0.0.0.0 /
    --mem-fraction-static 0.85

方法二：Python 启动（更灵活）

import sglang as sgl
from sglang.diffusion import ZImagePipeline

# 初始化服务
server = sgl.Runtime(
    model_path="Tongyi-MAI/Z-Image-Turbo",
    port=30000,
    mem_fraction_static=0.85,
    dtype="float16"
)

print(f"服务已启动: http://localhost:30000")

方法三：Docker 部署（生产环境）

FROM nvidia/cuda:12.4.1-devel-ubuntu22.04

RUN apt-get update && apt-get install -y python3.11 python3-pip git
RUN pip3 install "sglang[all]>=0.4.0"

WORKDIR /app
EXPOSE 30000

ENTRYPOINT ["python3", "-m", "sglang.launch_server", /
            "--model-path", "Tongyi-MAI/Z-Image-Turbo", /
            "--port", "30000", "--host", "0.0.0.0"]

docker build -t zimage-serve .
docker run -d --gpus all -p 30000:30000 zimage-serve

API 调用方式

OpenAI 兼容接口

SGLang Diffusion 提供标准的 OpenAI 兼容 API，几乎所有现有的图像生成 SDK 都可以直接使用：

import requests
import base64

url = "http://localhost:30000/v1/images/generations"

payload = {
    "model": "z-image-turbo",
    "prompt": "一只穿着西装的猫在办公室开会，超写实风格",
    "n": 1,
    "size": "1024x1024",
    "response_format": "b64_json"
}

response = requests.post(url, json=payload)
image_data = response.json()["data"][0]["b64_json"]

# 保存图片
with open("output.png", "wb") as f:
    f.write(base64.b64decode(image_data))

原生 Python SDK

from sglang.diffusion import ZImagePipeline

pipe = ZImagePipeline.from_pretrained("Tongyi-MAI/Z-Image-Turbo")

# 单次生成
image = pipe.generate(
    prompt="赛博朋克风格的城市夜景，霓虹灯，雨后的街道",
    num_inference_steps=8,
    width=1024,
    height=768
)
image.save("cyberpunk.png")

# 批量生成
prompts = [
    "产品摄影：白色背景下的运动鞋",
    "产品摄影：白色背景下的手表",
    "产品摄影：白色背景下的耳机",
]
images = pipe.generate_batch(prompts, num_inference_steps=8)
for i, img in enumerate(images):
    img.save(f"product_{i}.png")

curl 调用

curl http://localhost:30000/v1/images/generations /
  -H "Content-Type: application/json" /
  -d '{
    "model": "z-image-turbo",
    "prompt": "中国传统水墨画风格的山水画",
    "n": 1,
    "size": "1024x1024"
  }'

高级配置

GPU 内存优化

# 半精度推理（推荐，节省约 50% 显存）
server = sgl.Runtime(
    model_path="Tongyi-MAI/Z-Image-Turbo",
    dtype="float16",
    mem_fraction_static=0.8  # 使用 80% 可用显存
)

# 量化推理（适合 8GB 显存 GPU）
server = sgl.Runtime(
    model_path="Tongyi-MAI/Z-Image-Turbo",
    dtype="int8",  # 8-bit 量化
    mem_fraction_static=0.7
)

并发控制与队列管理

# 限制最大并发数，超出部分进入队列
server = sgl.Runtime(
    model_path="Tongyi-MAI/Z-Image-Turbo",
    max_concurrent=4,       # 最大同时处理 4 个请求
    queue_size=100,         # 队列最大 100 个待处理请求
    timeout=60              # 请求超时 60 秒
)

多模型服务（一台 GPU 跑多个模型）

# 同时部署 Z-Image 和 Wan 2.2
from sglang.diffusion import MultiModelRuntime

runtime = MultiModelRuntime(
    models={
        "image": "Tongyi-MAI/Z-Image-Turbo",
        "video": "Wan-AI/Wan2.1-T2V-1.3B-Diffusers"
    },
    port=30000,
    mem_fraction_static=0.9
)

# 调用指定模型
image = runtime.generate(
    model="image",
    prompt="风景照片"
)

video = runtime.generate(
    model="video",
    prompt="海浪拍打沙滩"
)

生产环境最佳实践

1. 健康检查端点

# 检查服务状态
health = requests.get("http://localhost:30000/health")
print(health.json())
# {"status": "healthy", "gpu_memory": "12.3/24.0 GB", "queue_length": 0}

2. Nginx 反向代理

upstream zimage-servers {
    server 127.0.0.1:30000;
    server 127.0.0.1:30001;
    server 127.0.0.1:30002;
}

server {
    listen 80;
    server_name api.zimage.example.com;

    location / {
        proxy_pass http://zimage-servers;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_read_timeout 120s;  # 图像生成可能需要较长时间
    }

    location /health {
        proxy_pass http://zimage-servers/health;
    }
}

3. 监控与日志

import logging
from sglang.diffusion.metrics import MetricsLogger

# 启用详细日志
logging.basicConfig(level=logging.INFO)

# 配置指标收集
metrics = MetricsLogger(
    endpoint="http://localhost:9090/metrics",  # Prometheus
    interval=10
)

成本分析

自建 GPU 服务器

配置 月成本（估算） 适合场景
RTX 4090 × 1 ¥1,500-2,500 个人/小团队
A10 × 1 ¥3,000-5,000 中小规模
A100 × 2 ¥8,000-15,000 大规模生产

云 GPU 服务

平台 价格 适合场景
AutoDL ¥1.5-3/小时 按需使用
Lambda Labs $0.50-1.00/小时 临时测试
AWS G5 $1.50-3.00/小时 企业级

第三方 API 服务

平台 价格/张 延迟
fal.ai ~$0.0036 ~2s
Segmind ~$0.002 ~1.5s
自建 SGLang ~¥0.001-0.003 <1s

结论：日生成量超过 1000 张时，自建 SGLang 服务更具成本优势。

常见问题

Q: SGLang Diffusion 和 ComfyUI 有什么区别？

A: ComfyUI 适合交互式、可视化的工作流开发（节点拖拽），而 SGLang Diffusion 适合生产环境的 API 服务（高并发、低延迟、标准化接口）。两者可以互补使用：在 ComfyUI 中调试工作流，然后用 SGLang 部署为 API。

Q: 支持 Z-Image Base 吗？

A: 支持。将 Tongyi-MAI/Z-Image-Turbo 替换为 Tongyi-MAI/Z-Image-Base 即可。Base 模型质量更高但推理稍慢。

Q: 可以用 CPU 运行吗？

A: 可以但不推荐。SGLang 支持 CPU fallback，但 Z-Image 在 CPU 上的推理速度极慢（单张可能需 30 秒+）。强烈建议使用 GPU。

Q: LoRA 支持吗？

A: SGLang Diffusion v0.4.0+ 支持 LoRA 动态加载：

server = sgl.Runtime(
    model_path="Tongyi-MAI/Z-Image-Turbo",
    lora_dir="/path/to/loras"
)

# 调用时指定 LoRA
image = pipe.generate(
    prompt="portrait of a warrior",
    lora_name="my_character_lora",
    lora_scale=0.8
)

总结

SGLang Diffusion 将 Z-Image 从"好用的本地工具"升级为"生产级 API 服务"。无论你是个人开发者还是企业用户，通过 SGLang 部署 Z-Image 都能获得：

  • ✅ 3 倍以上的吞吐提升
  • ✅ 40% 以上的延迟降低
  • ✅ OpenAI 兼容的标准接口
  • ✅ 企业级的队列管理和监控

从本地 ComfyUI 到云端 SGLang 服务，Z-Image 的部署灵活度让不同规模的用户都能找到最佳方案。

Z-Image Team