← 返回白兔AI博客首页

Stable Diffusion LoRA模型使用教程

白兔AI · Stable Diffusion教程

🐰 关注公众号「白兔AI」

白兔AI公众号二维码

扫码关注公众号,获取更多AI绘画教程和提示词

✨ 白兔去水印小程序

白兔去水印小程序码

免费去水印工具,一键去除图片/视频水印

什么是LoRA模型?

LoRA(Low-Rank Adaptation)是一种轻量级的模型微调技术。在Stable Diffusion中,LoRA模型可以在不修改原始大模型的情况下,为图像生成添加特定的风格、角色或概念。

与完整的大模型(checkpoint)相比,LoRA模型文件体积小(通常10-200MB)、加载快速、可以灵活切换和组合。你可以同时使用多个LoRA模型来实现丰富的风格效果。

LoRA模型的应用场景非常广泛:特定艺术风格、特定角色、特定服装或物品、特定摄影风格、以及特定场景或氛围。

LoRA模型的下载

CivitAI是目前最大的LoRA模型分享社区,提供数以万计的高质量LoRA模型。

在CivitAI上搜索和选择LoRA模型时,需要注意以下几点:模型版本兼容性、模型质量(查看下载量、评分和用户反馈)、触发词(大多数LoRA模型都有特定的触发词)。

下载后的LoRA模型文件(.safetensors格式)需要放入 stable-diffusion-webui/models/Lora/ 目录。

LoRA模型的使用方法

在WebUI中使用LoRA模型非常简单。在txt2img或img2img页面的提示词输入框下方,有一个LoRA选项卡。

使用步骤:在列表中选择你想要使用的LoRA模型;设置LoRA的权重值(通常0.5-1.0);LoRA的触发词会自动添加到提示词中;点击Generate生成图像。

LoRA权重值的含义:0.1-0.3(轻微影响)、0.4-0.6(中等影响)、0.7-1.0(强烈影响)、1.0以上(过强影响,可能导致图像质量下降)。

大多数LoRA模型的最佳权重在0.6-0.8之间。

常见LoRA类型与推荐

画风LoRA:这类LoRA改变图像的整体艺术风格。推荐:Watercolor LoRA、Ink Painting LoRA、Pixel Art LoRA、Anime Style LoRA。

角色LoRA:这类LoRA让AI生成特定角色的图像。使用时需要配合角色描述的提示词。

服装LoRA:这类LoRA添加特定的服装或饰品。例如汉服LoRA、JK制服LoRA、婚纱LoRA等。

摄影风格LoRA:这类LoRA模拟特定的摄影效果。例如胶片摄影LoRA、柔焦LoRA、HDR LoRA等。

细节增强LoRA:这类LoRA提升图像的某些细节质量。例如手部修复LoRA、面部增强LoRA等。

多LoRA组合使用

Stable Diffusion支持同时使用多个LoRA模型,这让你可以组合不同的效果来创造独特的视觉风格。

组合策略:风格加角色、风格加细节、多风格混合。

权重分配原则:当使用多个LoRA时,每个LoRA的权重应该相应降低。同时使用两个LoRA时每个可设为0.5-0.6;使用三个时每个可设为0.4-0.5。总权重建议控制在1.5以下。

需要注意的是,某些LoRA之间可能存在冲突。建议在组合使用时观察效果。

LoRA与基础模型的搭配

LoRA模型的效果受基础模型(checkpoint)的影响很大。不同的基础模型与同一个LoRA搭配,可能产生截然不同的效果。

SD 1.5 LoRA只能与SD 1.5基础模型搭配使用,SDXL LoRA只能与SDXL基础模型搭配。这是最重要的兼容性规则。

写实类LoRA建议搭配写实类基础模型;动漫类LoRA建议搭配动漫类基础模型。

建议为每个常用的LoRA记录最佳的搭配基础模型和权重值。

LoRA的触发词使用

大多数LoRA模型都有特定的触发词(trigger words),这些词需要在提示词中出现才能激活LoRA的效果。

触发词通常在LoRA模型的CivitAI页面中有说明。

有些LoRA的触发词会自动添加到提示词中,但有些需要手动添加。

如果LoRA效果不明显,首先检查触发词是否正确,其次检查权重值是否合适,最后确认基础模型是否兼容。

总结

LoRA模型是Stable Diffusion生态系统中不可或缺的组成部分。通过灵活使用各种LoRA模型,你可以大幅扩展Stable Diffusion的创作能力,实现精确的风格控制和丰富的视觉效果。

掌握LoRA使用的关键在于:选择高质量的模型、使用正确的触发词、设置合适的权重值、以及与基础模型正确搭配。通过持续的实验和积累,你会建立自己的LoRA工具库。

LoRA训练入门

除了使用现成的LoRA模型,你还可以训练自己的LoRA来满足特定的创作需求。LoRA训练不需要大量的计算资源,普通家用电脑的显卡就可以完成。

训练数据准备:收集10-20张高质量的训练图像,图像应该具有统一的风格或一致的角色特征。对于风格LoRA,选择风格特征明显的图像;对于角色LoRA,选择不同角度和表情的角色照片。

训练工具推荐:Kohya_ss是目前最流行的LoRA训练工具,提供了图形界面和详细的参数设置。SD-scripts是另一个选择,更加灵活但需要命令行操作。

训练参数要点:学习率(learning rate)通常设置为1e-4到1e-5;训练步数(steps)根据数据量调整,通常每个图像100-200步;网络维度(network dim)通常设置为16或32,更高的维度可以捕捉更多细节但需要更多训练时间。

训练完成后,将生成的LoRA文件放入models/Lora/目录,就可以像使用其他LoRA一样在WebUI中调用了。