第一部分:Stable Diffusion 版本全景概览
Stable Diffusion 由 Stability AI 于2022年8月正式发布,是全球首个大规模开源的文本到图像生成模型,基于潜在扩散模型(Latent Diffusion Model)架构,由慕尼黑大学 CompVis 团队与 Stability AI 联合开发。与 Midjourney、DALL-E 等闭源模型不同,Stable Diffusion 选择将模型权重完全开源,这一决策从根本上改变了AI图像生成的产业格局——它使任何人都能在自己的硬件上运行、微调和商业化图像生成模型。

图片大模型 Stable Diffusion各个版本对比
从版本谱系来看,Stable Diffusion 已发展出以下主要版本线:


1.x 系列(奠基时代) :SD 1.1(2022年8月)→ SD 1.2 → SD 1.3 → SD 1.4 → SD 1.5(2022年10月),参数量约9.8亿(0.86B UNet),基础分辨率512×512。SD 1.5至今仍是社区最活跃的版本,适配插件和微调模型数量最多。


2.x 系列(过渡时代) :SD 2.0(2022年11月)→ SD 2.1(2022年12月),引入改进的CLIP文本编码器,提升了对提示词的理解和分辨率支持,但因训练数据策略调整导致社区接受度不如1.5。


XL 系列(专业化时代) :SDXL 1.0(2023年7月),UNet参数量约26亿(2.6B),首次引入双文本编码器(CLIP-L + OpenCLIP-G),原生支持1024×1024分辨率。SDXL 1.5为后续微调版本。


3.x 系列(架构跃迁) :SD 3.0 Medium(2024年6月,2B参数)→ SD 3.5 Large / Large Turbo / Medium(2024年10月)。SD 3.5 采用多模态扩散变换器(MMDiT)架构和整流流(Rectified Flow)训练方法,彻底告别了UNet时代。


3.5-Flash(端侧革命) :2026年3月发布,仅需4步推理即可生成高质量图像,由萨里大学博士生在Stability AI实习期间开发,已被联想授权用于设备端AI平台Qira。


第二部分:各版本详细对比与拆解
一、核心版本代际对比
维度 SD 1.5 SD 2.1 SDXL 1.0 SD 3.5 Large SD 3.5 Medium
发布时间 2022年10月 2022年12月 2023年7月 2024年10月 2024年10月
参数规模 0.86B UNet ~0.9B UNet 2.6B UNet 8.1B MMDiT 2.5B MMDiT
架构 UNet(ResNet+Transformer) UNet UNet(双文本编码器) MMDiT MMDiT
文本编码器 CLIP ViT-L/14 OpenCLIP ViT-H CLIP-L + OpenCLIP-G CLIP-L + CLIP-G + T5-XXL 同Large
原生分辨率 512×512 768×768 1024×1024 1024×1024 1024×1024
推理步数 50步(DDIM) 50步 30-50步 28步(CFG 4.0) SLG支持
许可协议 CreativeML OpenRAIL-M 同左 CreativeML OpenRAIL++-M Stability Community Stability Community
核心定位 社区生态基座 提示词对齐改进 专业高分辨率 旗舰质量 消费级部署
SD 1.5 采用混合架构,在 UNet 骨干网络上结合了 ResNet 块和 Transformer 块,是一种对称的编码器-解码器结构,带有跳跃连接。SDXL 的 UNet 约为 SD 1.5 的三倍大(约2.6B参数),并通过双文本编码器改善了提示词理解能力。SD 3.5 则采用了 MMDiT 架构和整流流训练方法,标志着从 UNet 到纯 Transformer 架构的范式转移。


二、SD 3.5 三兄弟内部差异
SD 3.5 系列在2024年10月发布时包含三个规格:


SD 3.5 Large(8.1B) :旗舰版本,深度38层,28步推理,CFG 4.0,是质量最高的版本,适合专业创作和商业交付。


SD 3.5 Large Turbo(8.1B) :Large的蒸馏版本,仅需4步推理,CFG 1.0,生成速度提升约7倍。在 Lumenfall Arena 上,Turbo 版本在提示遵循性、美学和创造力三个维度上的评分均达到行业领先水平。


SD 3.5 Medium(2.5B) :轻量版本,深度24层,支持SLG(Skip Layer Guidance),专为消费级硬件设计,可在消费级GPU上“开箱即用”运行。


三、SD 3.5-Flash:端侧部署的范式突破
SD 3.5-Flash 是 Stable Diffusion 系列在2026年最重要的技术突破。当前最先进的图像生成模型通常需要25步以上推理、16GB以上显存和30秒以上生成时间,无法在手机等消费级设备上运行。SD3.5-Flash 通过分布引导蒸馏技术,将推理步数压缩至4步,同时保持高保真度、优异的提示词遵从性和复杂构图理解能力。联想已将该模型授权用于其即将推出的 Personal Ambient Intelligence 平台 Qira,使图像生成完全在设备本地运行,数据不离开用户硬件。


四、部署生态对比
SD 1.5 和 SDXL 的生态最为成熟。sd-scripts 工具包支持 SD 1.x/2.x、SDXL、SD3/SD3.5、FLUX.1 等主流模型的 LoRA 训练、全量微调、Textual Inversion 和 ControlNet 训练。ComfyUI 作为基于节点的工作流工具,为 Stable Diffusion 提供了极高的自由度和灵活性,支持从 SD 1.5 到 SD 3.5 的全版本工作流。


SD 3.5 的部署要求相对较高。SD 3.5 Large 使用三重文本编码器(CLIP-L + CLIP-G + T5-XXL),需要分别加载文本编码器权重。SD 3.5 Medium 的2.5B参数使其成为消费级硬件的最佳选择,支持 vLLM-Omni 和 ComfyUI 部署。


第三部分:为什么分这么多版本?
一、场景适配:从消费级到专业级的全尺寸覆盖
Stable Diffusion 的版本分化遵循一条清晰的“尺寸-场景”匹配逻辑。SD 1.5 轻量且计算需求低,适合快速原型设计和基础图像生成。SDXL 支持4K图像和多模态输入,面向专业和高端需求市场。SD 3.5 通过超分辨率技术平衡速度和质量,是动态版本的代表。SD 3.5 Medium(2.5B)专为消费级硬件设计,SD 3.5 Large(8.1B)面向专业创作,SD 3.5 Large Turbo 则服务于需要快速迭代的高频场景。


这一分层的核心价值在于部署灵活性。个人创作者可以在RTX 3060上运行SD 1.5或SD 3.5 Medium,专业工作室可以在A100集群上运行SD 3.5 Large,移动端用户则可以通过SD 3.5-Flash在手机或笔记本上实现本地图像生成。


二、开源生态:以开放构建全球最大图像生成社区
Stable Diffusion 最核心的差异化在于其开源策略。SD 1.5 以 CreativeML OpenRAIL-M 许可发布,允许免费商用和二次分发。SDXL 采用更宽松的 OpenRAIL++-M 许可。SD 3.5 采用 Stability Community 许可,对年收入低于100万美元的企业免费商用。


这一策略的商业回报通过生态影响力体现。SD 1.5 至今仍是社区最活跃的版本,适配插件最多,拥有海量的微调模型、LoRA和ControlNet插件。这种“长尾效应”使 SD 1.5 在发布近四年后仍然是许多生产环境中的默认选择。


三、技术路线跃迁:从UNet到MMDiT再到端侧蒸馏
Stable Diffusion 的技术路线经历了三次明确转向。2022年的 1.x/2.x 时代基于 UNet 架构,通过卷积操作处理局部空间特征,适合移动端NPU加速。2023年的 SDXL 通过扩大UNet规模和引入双文本编码器提升质量。2024年的 SD 3.5 彻底转向 MMDiT 纯Transformer架构,使用注意力机制处理全局上下文,在生成质量和提示词遵循上实现质的飞跃。2026年的 SD 3.5-Flash 则将蒸馏技术推向极致,4步推理使端侧部署成为现实。


第四部分:最著名版本——Stable Diffusion 3.5 Medium 本地部署实战
SD 3.5 Medium(2.5B)是 Stable Diffusion 系列中部署门槛最低、最适合消费级硬件的新一代版本,支持 SLG 和 ComfyUI 工作流,2.5B参数在消费级GPU上“开箱即用”。以下为完整的本地部署步骤。


步骤一:环境准备与硬件规划
硬件配置基准:


最低配置:NVIDIA GPU,显存8GB及以上


推荐配置:RTX 3060 12GB / RTX 4070 12GB及以上


内存:16GB DDR4及以上


存储:预留30GB SSD空间


软件环境清单:


操作系统:Ubuntu 22.04 / Windows 10/11


Python 3.10+


PyTorch 2.5+


CUDA 12.1+


步骤二:安装ComfyUI
bash
# 克隆ComfyUI仓库
git clone https://github.com/comfyanonymous/ComfyUI.git
cd ComfyUI


# 创建虚拟环境
python3 -m venv venv
source venv/bin/activate


# 安装依赖
pip install -r requirements.txt
步骤三:下载模型权重
bash
# 下载SD 3.5 Medium主模型
huggingface-cli download stabilityai/stable-diffusion-3.5-medium \
  sd3.5_medium.safetensors \
  --local-dir ./models/checkpoints


# 下载文本编码器(SD 3.5需要分别加载)
huggingface-cli download stabilityai/stable-diffusion-3.5-large \
  text_encoders/clip_l.safetensors \
  text_encoders/clip_g.safetensors \
  text_encoders/t5xxl_fp16.safetensors \
  --local-dir ./models/text_encoders


# 下载VAE
huggingface-cli download stabilityai/stable-diffusion-3.5-large \
  vae/diffusion_pytorch_model.safetensors \
  --local-dir ./models/vae
注意:SD 3.5 的 safetensors 文件不包含文本编码器/CLIP权重,必须单独加载。


步骤四:启动ComfyUI并加载工作流
bash
# 启动ComfyUI
python main.py --listen 0.0.0.0 --port 8188
浏览器访问 http://localhost:8188,加载 SD 3.5 官方示例工作流。关键参数配置:


采样步数:28步(完整质量)或使用Turbo版4步


CFG Scale:4.0


分辨率:1024×1024


采样器:Euler(Flow Matching)


步骤五:Python原生调用
python
from diffusers import StableDiffusion3Pipeline
import torch


pipe = StableDiffusion3Pipeline.from_pretrained(
    "stabilityai/stable-diffusion-3.5-medium",
    torch_dtype=torch.float16
)
pipe.to("cuda")


image = pipe(
    prompt="A serene mountain landscape at golden hour, "
           "snow-capped peaks reflecting in a crystal-clear lake, "
           "cinematic lighting, ultra-realistic",
    num_inference_steps=28,
    guidance_scale=4.0,
    height=1024,
    width=1024
).images[0]


image.save("output.png")
步骤六:API服务化部署
使用 vLLM-Omni 进行高性能推理服务部署:


bash
# 安装vLLM-Omni
uv venv
source .venv/bin/activate
uv pip install vllm==0.12.0
uv pip install git+https://github.com/vllm-project/vllm-omni.git


# 启动API服务
vllm serve stabilityai/stable-diffusion-3.5-medium \
  --task image-generation \
  --port 8000
步骤七:LoRA微调与个性化
SD 3.5 Medium 支持通过 sd-scripts 进行 LoRA 微调:


bash
# 安装sd-scripts
git clone https://github.com/kohya-ss/sd-scripts.git
cd sd-scripts
pip install -r requirements.txt


# 训练LoRA(需准备数据集和配置文件)
accelerate launch sdxl_train_network.py \
  --pretrained_model_name_or_path=stabilityai/stable-diffusion-3.5-medium \
  --dataset_config=dataset.toml \
  --output_dir=./output \
  --network_module=networks.lora \
  --network_dim=32
步骤八:监控与调优
关键指标监控:


显存占用:SD 3.5 Medium FP16约8-10GB


生成速度:1024×1024约5-10秒/张(RTX 4070)


GPU利用率:目标>80%


降本策略:对快速原型设计使用 SD 1.5;对高质量专业输出使用 SD 3.5 Large;对端侧和移动场景使用 SD 3.5-Flash(4步推理);对消费级硬件使用 SD 3.5 Medium。


第五部分:不同版本的实践成果
案例一:Mercado Libre GenAds广告自动化(基于Stable Diffusion)
拉丁美洲最大的电商平台 Mercado Libre 与 AWS 合作伙伴 Mutt Data 合作,开发了 GenAds 自动化广告生成系统。该系统利用 Stable Diffusion 模型,结合 Anthropic 的 Claude 3 Sonnet 智能生成图像提示词,将产品与情境相关的背景相结合,自动生成高质量的商品广告图片。


实践成效:在巴西、墨西哥、阿根廷等7个国家,GenAds 已创建超过90,000条商品广告,广告点击率相比传统广告提升25%,展示广告曝光量增长45%。Mercado Libre 预计 GenAds 的采用率将在未来六个月内增长十倍,远超零售媒体行业17.2%的年增长率。这一案例的核心价值在于:Stable Diffusion 的开源特性使 Mercado Libre 能够在 AWS 基础设施上安全地部署和定制模型,为平台上80%的中小企业卖家提供了此前无法企及的专业级广告工具。


案例二:联想设备端AI图像生成(基于SD 3.5-Flash)
联想已从 Stability AI 授权 SD 3.5-Flash 模型,将其集成到即将推出的 Personal Ambient Intelligence 平台 Qira 中。SD 3.5-Flash 的4步推理能力使图像生成完全在设备本地运行,无需依赖云连接,数据不离开用户硬件。


实践成效:SD3.5-Flash 使联想 Yoga 和 IdeaPad 设备能够实现本地、无限量的文本到图像生成。这一合作的核心价值在于隐私保护和能效优化——与传统的云基AI相比,本地推理大幅减少了能源和水资源消耗。萨里大学 SketchX 实验室主任宋一喆教授指出:“SD3.5-Flash 将强大的创意工具直接交到用户手中,同时保护他们的数据隐私并减少与云处理相关的能源需求。AI 不应仅限于数据中心和云基础设施,它应该在人们日常使用的设备上本地运行。”


案例三:遵义酱酒个性化定制包装设计(基于Stable Diffusion + LoRA微调)
遵义市酱酒产业以 Stable Diffusion 为基础模型,采用 LoRA 微调技术,结合自建的384GB高质量白酒包材设计数据集,精调视觉大模型。系统可根据自然语言提示自动生成符合酱酒美学与印刷规范的包装方案,并搭配合规约束机制确保设计符合行业规范。


实践成效:该系统能够根据用户输入的个性化需求(如“茅台镇风格、金色浮雕、龙凤纹样”等),自动生成多套包装设计方案。LoRA微调使模型学习到了酱酒包装特有的美学范式——包括瓶型比例、色彩偏好、书法字体选择等——生成结果可直接用于印刷打样。这一案例代表了Stable Diffusion在传统制造业中的深度应用,展示了开源模型通过LoRA微调适配垂直行业的能力。

版权声明:本平台仅提供信息存储空间服务,用户发布内容不代表本站观点,交易风险自担;侵权违法内容请立即举报(邮箱:37996619@qq.com),本站接通知后先行屏蔽,责任由发布者承担。