File size: 1,293 Bytes
37b29b9
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
34b2c32
37b29b9
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
---
license: cc-by-nc-nd-4.0
datasets:
- TTam115/UIT_SD_LoRA
base_model:
- OnomaAIResearch/Illustrious-xl-early-release-v0
---
---
license: cc-by-nc-nd-4.0
---

# Repo này là sản phẩm demo cho ứng dụng của LoRA (Low-Rank Adapter) vào Stable Diffusion. Gồm thư mục _output_ gồm 5 epochs LoRA.

# Mục tiêu:

- Chứng minh LoRA đã làm thay đổi weight của model gốc, từ đó giải thích thêm về ứng dụng của LoRA

# Kết quả đạt được:

- Fine-tune thành công LoRA về styles của họa sĩ WLOP với 309 hình. Dataset có thể tìm kiếm [tại đây](https://huggingface.co/datasets/TTam115/UIT_SD_LoRA)

# Thông tin và thông số fine-tune parameter:

```
Base-model: Illustrious-XL-v0.1
Activation Tag(s): WLOP
Repeats:1
Epochs:10
Unet_LR:1e-4
Text_encoder_LR:5e-5
lr_scheduler:consine_with_restart
lr_scheduler_number:3
lr_warmup_ratio:5%(0.05)
net_dim:16
net_alpha:8
```

- Thông tin thêm vui lòng coi trong Github

<img src="https://huggingface.co/TTam115/Styles_LoRA_for_Learning_Purpose/resolve/main/Chart/AVG%20loss.png" alt="AVG LOSS" style="max-width:600px"  />

<img src="https://huggingface.co/TTam115/Styles_LoRA_for_Learning_Purpose/resolve/main/Chart/Epochs%20loss.png" alt="AVG LOSS" style="max-width:600px"/>