|
--- |
|
license: cc-by-nc-nd-4.0 |
|
datasets: |
|
- TTam115/UIT_SD_LoRA |
|
base_model: |
|
- OnomaAIResearch/Illustrious-xl-early-release-v0 |
|
--- |
|
--- |
|
license: cc-by-nc-nd-4.0 |
|
--- |
|
|
|
# Repo này là sản phẩm demo cho ứng dụng của LoRA (Low-Rank Adapter) vào Stable Diffusion. Gồm thư mục _output_ gồm 5 epochs LoRA. |
|
|
|
# Mục tiêu: |
|
|
|
- Chứng minh LoRA đã làm thay đổi weight của model gốc, từ đó giải thích thêm về ứng dụng của LoRA |
|
|
|
# Kết quả đạt được: |
|
|
|
- Fine-tune thành công LoRA về styles của họa sĩ WLOP với 309 hình. Dataset có thể tìm kiếm [tại đây](https://huggingface.co/datasets/TTam115/UIT_SD_LoRA) |
|
|
|
# Thông tin và thông số fine-tune parameter: |
|
|
|
``` |
|
Base-model: Illustrious-XL-v0.1 |
|
Activation Tag(s): WLOP |
|
Repeats:1 |
|
Epochs:10 |
|
Unet_LR:1e-4 |
|
Text_encoder_LR:5e-5 |
|
lr_scheduler:consine_with_restart |
|
lr_scheduler_number:3 |
|
lr_warmup_ratio:5%(0.05) |
|
net_dim:16 |
|
net_alpha:8 |
|
``` |
|
|
|
- Thông tin thêm vui lòng coi trong Github |
|
|
|
<img src="https://huggingface.co/TTam115/Styles_LoRA_for_Learning_Purpose/resolve/main/Chart/AVG%20loss.png" alt="AVG LOSS" style="max-width:600px" /> |
|
|
|
<img src="https://huggingface.co/TTam115/Styles_LoRA_for_Learning_Purpose/resolve/main/Chart/Epochs%20loss.png" alt="AVG LOSS" style="max-width:600px"/> |
