File size: 8,851 Bytes
da4f07e 03ba3fa da4f07e 03ba3fa da4f07e 03ba3fa da4f07e |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 |
### 第九章
## 9.1 Image Conditioning
经过了之前的章节学习之后，相信你已经能够熟练的使用prompt来描述并生成一幅精美的画作了。通常来说，Prompt的准确性越高、描述的越丰富，生成的画作也会越符合你心目中的样子。
然而你也许也注意到了一件事：无论我们再怎么精细的使用prompt来指导Stable diffusion模型，也无法描述清楚人物四肢的角度、背景中物体的位置、每一缕光线照射的角度等等。文字的能力是有极限的！
为了成为一个更加优秀的AI画手，我们需要突破文字提示（Text conditioning），找到一种能够通过图像特征来为扩散模型的生成过程提供更加精细的控制的方式，也就是：图像提示（Image Conditioning）
幸运的是，我们恰好已经有了这样的工具：[ControlNet](https://arxiv.org/abs/2302.05543)
## 9.2 ControlNet的结构与训练过程
ControlNet是一种能够嵌入任意已经训练好的扩散模型中，为这些模型提供更多控制条件的神经网络结构。其基本结构如下图所示：
如图所示，ControlNet的基本结构由一个对应的原本扩散模型的block和两个“零卷积”层组成。在之后的训练过程中，我们会“锁死”原本网络的权重，只更新ControlNet结构中的网路“副本”和零卷积层的权重。
这些可训练的神经网络“副本”将学会如何让模型按照新的控制条件来生成结果，而被“锁死”的网络原本则会保留原先网络已经学会的所有知识。
这样，即使用来训练ControlNet的训练集规模较小，被“锁死”的网络原本的权重也能确保扩散模型本身的生成效果不受影响。
在ControlNet中的这些“零卷积层”则是一些weight和bias权重都被初始化为0的 1×1 卷积层。在训练刚开始的时候，无论新添加的控制条件是什么，这些“零卷积”层都只会输出0，因此ControlNet将不会对扩散模型的生成结果造成任何影响。
而随着训练过程的深入，ControlNet部分将学会逐渐调整扩散模型原本的生成过程，使得生成的图像逐渐向新添加的控制条件靠近。
你也许会问，如果一个卷积层的所有参数都为0，输出结果也为0，那么它怎么才能正常的进行权重的迭代过程呢？为了回答这个问题，我们给出一个简单的数学推导过程:
假设我们有一个简单的神经网络层：
$$y=wx+b$$
那么我们知道：
$$\partial y/\partial w=x, \partial y/\partial x=w, \partial y/\partial b=1$$
假设其中的权重w为0，输入x不为0，那么我们就有：
$$\partial y/\partial w \neq 0, \partial y/\partial x=0, \partial y/\partial b\neq 0$$
这意味着只要输入x不为0，梯度下降的迭代过程就能正常的更新权重w，使其不再为0。那么我们将会得到：
$$\partial y/\partial x\neq 0$$
也就是说，经过若干次迭代步骤以后，这些零卷积将会逐渐变成一个有着正常权重的普通卷积层。
将上面所描述的ControlNet Block堆叠十四次以后，我们就能获得了一个完整的、能够用来对稳定扩散模型添加新的控制的条件的ControlNet：
仔细研究过这个结构以后，你就会发现，Controlnet实际上使用了训练完成的稳定扩散模型的encoder模块，来作为自己的主干网络。而这样的一个稳定而又强力的主干网络，则保证了ControlNet能够学到更多不同的控制图像生成的方法。
训练一个附加在某个稳定扩散模型上的ControlNet的过程大致如下：
1. 收集你所想要的附加控制条件的数据集和对应prompt。假如你想训练一个通过人体关键点来对扩散模型生成的人体进行姿态控制的ControlNet，你需要先收集一批人物的图片，并标注好这些图片的prompt以及对应的人体的关键点的位置。
2. 将prompt输入被“锁死”的稳定扩散模型，将标注好的图像控制条件（例如人体关键点的标注结果）输入ControlNet模型，然后按照稳定扩散模型的训练过程迭代ControlNet模型的权重。
3. 训练过程中会随机的将50%的文字提示替换为空白字符串，这样能够“强迫”网络更多的从图像控制条件中学会更多的语义信息。
4. 训练结束以后，我们就可以使用该ControlNet对应的图像控制条件（例如输入人体骨骼关键点），来控制扩散模型生成符合条件的图像了。
请注意，因为在该训练过程中原本的扩散模型的权重不会产生任何梯度（我们锁死了这一部分！），所以即使我们添加了十四个ControlNet blocks，整个训练过程也不会需要比训练原先扩散模型更多的显存。
## 9.3 ControlNet示例
我们在本章节将展示一些已经训练好的ControlNet的示例，这些图片都来自ControlNet的github repo：https://github.com/lllyasviel/ControlNet。
你可以在HuggingFace上找到这些由ControlNet的原作者提供的模型：https://huggingface.co/lllyasviel/ControlNet。
以下图片中左上角的图像为ControlNet的额外控制条件的输入图像，右侧的图像则为给定条件下稳定扩散模型的生成结果。
### ControlNet 与 Canny Edge
Canny edge 检测器是由 John F. Canny 于1986年发明的一种多阶段的边缘检测算法。该算法可以从不同的视觉对象中提取有用的结构信息，从而显著降低图像处理过程中的数据处理量。
Prompt："bird"
### ControlNet 与 M-LSD Lines
M-LSD Lines 是另外一种轻量化边缘检测算法，比较擅长提取图像中的直线线条。训练在M-LSD Lines上的ControlNet很适合生成室内环境的图片。
Prompt: "room"
### ControlNet 与 HED Boundary
Soft HED Boundary 能够保存输入图片更多的细节，训练在HED Boundary上的ControlNet很适合用来重新上色和风格重构。
Prompt: "oil painting of handsome old man, masterpiece"
### ControlNet 与 涂鸦画
ControlNet 的强大能力甚至不使用任何真实图片提取的信息也能生成高质量的结果。训练在涂鸦数据上的ControlNet能让稳定扩散模型学会如何将儿童涂鸦转绘成高质量的图片。
Prompt: "turtle"
### ControlNet 与 人体关键点
训练在人体关键点数据上的ControlNet，能让扩散模型学会生成指定姿态的人体。
Prompt: "Chief in the kitchen"
### ControlNet 与 语义分割
语义分割模型是一种提取图像中各个区域语义信息的一种模型，常用来对图像中人体、物体、背景的区域进行划分。训练在语义分割数据上的ControlNet适合让稳定扩散模型来生成特定结构的场景图。
Prompt: "House"
此外还有诸如深度图、Normal Map、人脸关键点等等不同的ControlNet可以使用，我们在这里就不再一一列举了，读者可以自行在HuggingFace上寻找开源模型和示例。
## 9.4 ControlNet实战
在本章节中，我们将以Canny Edge为例，展示如何在diffusers中使用 StableDiffusionControlNetPipeline 来生成图像。
首先我们先运行以下代码来安装需要使用的库：
```python
!pip install -q diffusers==0.14.0 transformers xformers git+https://github.com/huggingface/accelerate.git
```
对应选择的ControlNet，我们还需要安装两个依赖库用来对图像进行处理，以提取不同的图像控制条件。
- [OpenCV](https://opencv.org/)
- [controlnet-aux](https://github.com/patrickvonplaten/controlnet_aux#controlnet-auxiliary-models) - 一个简单的ControlNet前处理模型集合
```python
!pip install -q opencv-contrib-python
!pip install -q controlnet_aux
```
让我们来使用这个著名的 ["戴珍珠耳环的少女"](https://en.wikipedia.org/wiki/Girl_with_a_Pearl_Earring) 来做示范:
```python
from diffusers import StableDiffusionControlNetPipeline
from diffusers.utils import load_image
image = load_image(
"https://hf.co/datasets/huggingface/documentation-images/resolve/main/diffusers/input_image_vermeer.png"
)
image
```
首先将这张图像送入Canny Edge 边缘提取器做一下前处理：
```python
import cv2
from PIL import Image
import numpy as np
image = np.array(image)
low_threshold = 100
high_threshold = 200
image = cv2.Canny(image, low_threshold, high_threshold)
image = image[:, :, None]
image = np.concatenate([image, image, image], axis=2)
canny_image = Image.fromarray(image)
canny_image
```
|