๋ณธ๋ฌธ ๋ฐ”๋กœ๊ฐ€๊ธฐ

ํ•™์Šต ๊ธฐ๋ก (Learning Logs)/Today I Learned

์ •ํ•ด์ง„ ์Šคํ† ๋ฆฌ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์›นํˆฐ ํ˜•์‹์˜ ์ปท์„ ์ž๋™์œผ๋กœ ๋งŒ๋“ค์–ด์ฃผ๋Š” AI ํˆด

๐ŸŽจ ๋ชฉํ‘œ:

์ •ํ•ด์ง„ ์Šคํ† ๋ฆฌ๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ ์›นํˆฐ ํ˜•์‹์˜ ์ปท์„ ์ž๋™์œผ๋กœ ๋งŒ๋“ค์–ด์ฃผ๋Š” AI ํˆด

  • โœ… ์Šคํ† ๋ฆฌ๋Š” ๋„ˆ๊ฐ€ ๋ฏธ๋ฆฌ ์ž‘์„ฑํ•ด๋‘ 
  • โœ… ๋Œ€์‚ฌ๋Š” AI๊ฐ€ ๋ฌธ๋งฅ์— ๋งž๊ฒŒ ์ƒ์„ฑ
  • โœ… ์ปท ๊ตฌ์„ฑ ๋ฐ ์ด๋ฏธ์ง€ ์ƒ์„ฑ์€ AI๊ฐ€ ์ˆ˜ํ–‰
  • โœ… "์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด"๋กœ ์บ๋ฆญํ„ฐ/๋ฐฐ๊ฒฝ ์ผ๊ด€์„ฑ ์žˆ๊ฒŒ ์ƒ์„ฑ

๐Ÿง  ์˜ˆ์‹œ ์•„ํ‚คํ…์ฒ˜ ํ๋ฆ„

graph TD
A[์ •ํ•ด์ง„ ์Šคํ† ๋ฆฌ ์ž…๋ ฅ] --> B[์ปท ๋ถ„ํ•  + ๋Œ€์‚ฌ ์ƒ์„ฑ (GPT)]
B --> C[์ปท ์„ค๋ช… + ๋Œ€์‚ฌ → ์ด๋ฏธ์ง€ ์ƒ์„ฑ (Stable Diffusion + LoRA)]
C --> D[์ด๋ฏธ์ง€ + ๋งํ’์„  ํ•ฉ์„ฑ (Pillow or Canvas)]
D --> E[์„ธ๋กœ ์›นํˆฐ ํ˜•์‹์œผ๋กœ ์ถœ๋ ฅ (์›น ํŽ˜์ด์ง€ or ์ด๋ฏธ์ง€ ๋ณ‘ํ•ฉ)]

 


  1. ์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด์˜ ์˜ˆ์‹œ ์ด๋ฏธ์ง€ ๋ชจ์œผ๊ธฐ (10์žฅ ์ด์ƒ)
  2. ์บ๋ฆญํ„ฐ/์Šคํƒ€์ผ LoRA๋ฅผ ํ›ˆ๋ จํ•˜๊ฑฐ๋‚˜ Civitai์—์„œ ๋‹ค์šด๋กœ๋“œ
  3. ๊ฐ„๋‹จํ•œ ์ƒ˜ํ”Œ ์Šคํ† ๋ฆฌ๋กœ GPT์—๊ฒŒ ์ปท + ๋Œ€์‚ฌ ์ƒ์„ฑ ์‹œ์ผœ๋ณด๊ธฐ
  4. SD ๋กœ์ปฌ ์„ค์น˜ ๋˜๋Š” Colab์—์„œ ์ด๋ฏธ์ง€ ์ƒ์„ฑ ํ…Œ์ŠคํŠธ
  5. ๋งํ’์„  ๋ถ™์ด๊ณ , ์ปท ์กฐ๋ฆฝ → ์›นํˆฐ ํ˜•ํƒœ๋กœ ๋งŒ๋“ค๊ธฐ

1๏ธโƒฃ ์Šคํ† ๋ฆฌ → ์ปท ๋‚˜๋ˆ„๊ธฐ + ๋Œ€์‚ฌ ์ƒ์„ฑ

  • ์ž…๋ ฅ: ์—ํ”ผ์†Œ๋“œ ์ „์ฒด ํ…์ŠคํŠธ (ex: "ํ•™๊ต์— ๊ฐ€๋˜ ์ฒ ์ˆ˜๊ฐ€ ๊ดด๋ฌผ๊ณผ ๋งˆ์ฃผ์นœ๋‹ค…")
  • ์ถœ๋ ฅ: ์ปท ๋‹จ์œ„ ํ…์ŠคํŠธ + ๋Œ€์‚ฌ
  • ๊ธฐ์ˆ : GPT-4 or fine-tuned GPT using LangChain
    → ์ž…๋ ฅํ•œ ์Šคํ† ๋ฆฌ๋ฅผ ๋ฌธ๋‹จ/์”ฌ ๊ธฐ์ค€์œผ๋กœ ๋‚˜๋ˆ ์„œ ์ž์—ฐ์Šค๋Ÿฝ๊ฒŒ ๋Œ€์‚ฌ ๋ถ™์ด๊ธฐ
[
  {
    "scene": "์ฒ ์ˆ˜๊ฐ€ ํ•™๊ต์— ๊ฐ„๋‹ค",
    "dialogue": "์˜ค๋Š˜ ์ˆ˜์—… ์ง„์งœ ํ•˜๊ธฐ ์‹ซ๋‹ค…"
  },
  {
    "scene": "๊ดด๋ฌผ๊ณผ ๋งˆ์ฃผ์นœ๋‹ค",
    "dialogue": "์ด๊ฒŒ… ๋ญ์•ผ?!"
  }
]

 

 

 


2๏ธโƒฃ ์ปท๋ณ„ ์ด๋ฏธ์ง€ ์ƒ์„ฑ (์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด๋กœ)

๐Ÿ…ฐ๏ธ LoRA (Low-Rank Adapter)

  • ํŠน์ • ์Šคํƒ€์ผ(์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด)๋กœ ์ด๋ฏธ์ง€๋ฅผ ํ•™์Šต์‹œ์ผœ์„œ ์œ ์ง€
  • LoRA๋กœ ์›ํ•˜๋Š” ์บ๋ฆญํ„ฐ/์Šคํƒ€์ผ์„ ๋ฏธ๋ฆฌ ํ›ˆ๋ จ์‹œ์ผœ์•ผ ํ•จ
  • ํ”Œ๋žซํผ: Civitai์—์„œ ์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด LoRA ์ฐพ๊ธฐ ๊ฐ€๋Šฅ

๐Ÿ…ฑ๏ธ ControlNet

  • ํฌ์ฆˆ ๊ณ ์ •, ๋ฐฐ๊ฒฝ ์กฐ์ ˆ, ๋งํ’์„  ์œ„์น˜ ์ œ์–ด ๋“ฑ fine control ๊ฐ€๋Šฅ
  • ex: ์ฒ ์ˆ˜๊ฐ€ ์†์„ ์˜ฌ๋ฆฌ๋Š” ํฌ์ฆˆ + ๋†€๋ผ๋Š” ์–ผ๊ตด → ์›ํ•˜๋Š” ํ˜•ํƒœ๋กœ ์ƒ์„ฑ

๐Ÿ’ก ์ถ”์ฒœ ๋ชจ๋ธ:

  • Stable Diffusion 1.5 or SDXL
  • LoRA + ControlNet ์กฐํ•ฉ
  • Prompt Example: 1boy, school uniform, shocked expression, comic panel style, full body

 

 

 

 


3๏ธโƒฃ ์ปท + ๋งํ’์„  ์ž๋™ ์กฐํ•ฉ

  • HTML5 Canvas, Figma Plugin, ํ˜น์€ Python PIL ๋“ฑ์œผ๋กœ ์ด๋ฏธ์ง€ + ๋Œ€์‚ฌ ํ•ฉ์„ฑ
  • ๋งํ’์„  ์œ„์น˜๋Š” GPT์—๊ฒŒ ์ถ”์ฒœ๋ฐ›์•„๋„ ๋˜๊ณ , ๋žœ๋ค ์ขŒํ‘œ์—์„œ ํŠœ๋‹ ๊ฐ€๋Šฅ

 

 

 


 

4๏ธโƒฃ ์ „์ฒด ์›นํˆฐ ํ•ฉ์น˜๊ธฐ (์„ธ๋กœ ์Šคํฌ๋กค ํ˜•์‹)

  • ๊ฐ ์ปท ์ด๋ฏธ์ง€๋ฅผ ํ•œ ์žฅ์”ฉ ์ด์–ด ๋ถ™์ด๊ฑฐ๋‚˜
  • ์›น ํŽ˜์ด์ง€(Canvas/HTML)๋กœ ์„ธ๋กœ ๋ฐฐ์น˜ํ•˜์—ฌ ๋ฏธ๋ฆฌ๋ณด๊ธฐ ์ œ๊ณต
  • ์ถ”ํ›„ ๋‹ค์šด๋กœ๋“œ ๊ธฐ๋Šฅ๋„ ์ถ”๊ฐ€ ๊ฐ€๋Šฅ (PDF, PNG ๋“ฑ)

 

 

 

 


 

๐Ÿค– LoRA๋ž€?

Stable Diffusion ๊ฐ™์€ ๋Œ€ํ˜• ๋ชจ๋ธ์„ "๋‚ด ์Šคํƒ€์ผ"๋กœ ๋น ๋ฅด๊ฒŒ ํ•™์Šต์‹œํ‚ค๋Š” ๊ฒฝ๋Ÿ‰ ํ•™์Šต ๊ธฐ๋ฒ•์ด์•ผ.


๊ธฐ์กด์—๋Š” AI ๊ทธ๋ฆผ์ฒด๋ฅผ ๋ฐ”๊พธ๋ ค๋ฉด ๋ชจ๋ธ ์ „์ฒด๋ฅผ ์žฌํ•™์Šต(์ˆ˜๋ฐฑ GB, ์ˆ˜์ผ ์†Œ์š”)ํ•ด์•ผ ํ–ˆ๋Š”๋ฐ,
**LoRA๋Š” ํŠน์ • ์Šคํƒ€์ผ(์บ๋ฆญํ„ฐ, ๊ทธ๋ฆผ์ฒด ๋“ฑ)**๋งŒ ๊ฐ€๋ณ๊ฒŒ ํ•™์Šตํ•ด์„œ
์ž‘์€ ํŒŒ์ผ(๋ช‡ MB)๋งŒ์œผ๋กœ๋„ "์›ํ•˜๋Š” ์Šคํƒ€์ผ"๋กœ ์ด๋ฏธ์ง€ ์ƒ์„ฑ์ด ๊ฐ€๋Šฅํ•ด์ ธ.

 

civita์— ์žˆ๋Š” ๋ชจ๋ธ์„ ๋งŒ๋“œ๋Š” ๊ฒƒ์ด LoRA

 

 

๐Ÿง  ๋น„์œ ๋กœ ์ดํ•ดํ•ด๋ณผ๊นŒ?

Stable Diffusion์€ **๋ชจ๋“  ๊ฑธ ๊ทธ๋ฆด ์ˆ˜ ์žˆ๋Š” '๋งŒ๋Šฅ ํ™”๊ฐ€'**์•ผ.
๊ทผ๋ฐ ๊ทธ ํ™”๊ฐ€ํ•œํ…Œ “๋„ˆ๋Š” ์ด์ œ๋ถ€ํ„ฐ ๋‚ด ์›นํˆฐ ์บ๋ฆญํ„ฐ ์Šคํƒ€์ผ๋กœ๋งŒ ๊ทธ๋ ค”๋ผ๊ณ  ์•Œ๋ ค์ฃผ๋ ค๋ฉด?

  • ์˜ˆ์ „์—”: ํ™”๊ฐ€๋ฅผ ์ฒ˜์Œ๋ถ€ํ„ฐ ์žฌ๊ต์œกํ•ด์•ผ ํ–ˆ์–ด (์‹œ๊ฐ„ ์˜ค๋ž˜ ๊ฑธ๋ฆผ)
  • LoRA: "์Šคํƒ€์ผ ์š”์•ฝ ๋ฉ”๋ชจ"๋งŒ ๋”ฐ๋กœ ๋งŒ๋“ค์–ด์„œ ๋ถ™์ด๋Š” ๊ฑฐ์•ผ

๐Ÿ“ LoRA ํŒŒ์ผ์€ ๊ทธ ์Šคํƒ€์ผ๋งŒ ๋‹ด์€ ์ถ”๊ฐ€ ๋ณด์กฐ ํŒŒ์ผ์ด๋ผ ๋ณด๋ฉด ๋ผ.

 

 

โœจ LoRA ์žฅ์ 

๊ธฐ์กด ํ•™์Šต LoRA
์ˆ˜์‹ญ GB ํ•™์Šต ์ˆ˜ MB๋งŒ ํ•™์Šต
๋ชจ๋ธ ์ „์ฒด ์žฌํ›ˆ๋ จ ์›ํ•˜๋Š” ์Šคํƒ€์ผ๋งŒ ์ถ”๊ฐ€ ํ›ˆ๋ จ
์˜ค๋ž˜ ๊ฑธ๋ฆผ ๋ช‡ ๋ถ„~๋ช‡ ์‹œ๊ฐ„
์žฅ๋น„๋„ ๊ณ ์‚ฌ์–‘ ํ•„์š” ์ €์‚ฌ์–‘ GPU/Colab๋„ ๊ฐ€๋Šฅ

 

 

๐ŸŽจ LoRA๋กœ ํ•  ์ˆ˜ ์žˆ๋Š” ๊ฒƒ๋“ค

  • ํŠน์ • ์บ๋ฆญํ„ฐ ํ•™์Šต (ex. ์›นํˆฐ ์ฃผ์ธ๊ณต ์–ผ๊ตด/๋จธ๋ฆฌ์นด๋ฝ/์˜์ƒ)
  • ํŠน์ • ์ž‘๊ฐ€ ์Šคํƒ€์ผ (ex. ๊น€์ •๊ธฐ ๋А๋‚Œ, ์ง€๋ธŒ๋ฆฌ ๋А๋‚Œ)
  • ์žฅ๋ฅด๋ณ„ LoRA (ex. ์†Œ๋…€๋งŒํ™”์ฒด, ํ”ฝ์‚ฌํ’, ํ˜„์‹คํ’, ์• ๋‹ˆํ’)

๐Ÿ‘‰ Civitai์—์„œ ๊ณต๊ฐœ๋œ LoRA ์ˆ˜์ฒœ ๊ฐœ ๋‹ค์šด๋กœ๋“œ ๊ฐ€๋Šฅ

 

 

๐Ÿ“ฆ ์‚ฌ์šฉ ์˜ˆ์‹œ (Web UI์—์„œ LoRA ์ ์šฉ)

  1. Stable Diffusion WebUI ์„ค์น˜ (AUTOMATIC1111)
  2. models/Lora/ ํด๋”์— .safetensors ํŒŒ์ผ ๋„ฃ๊ธฐ
  3. ํ”„๋กฌํ”„ํŠธ์— ์•„๋ž˜์ฒ˜๋Ÿผ ์ถ”๊ฐ€
<lora:my-character-style:0.8>
1girl, school uniform, smiling
๋”๋ณด๊ธฐ
https://www.youtube.com/watch?v=0lf3CUlUQtA

 



 

 

ํฐ๋ชจ๋ธ์„ ํŒŒ์ธํŠœ๋‹ํ•˜๋ฉด.. ๋„ˆ๋ฌด ๋А๋ฆฌ๊ณ .. ํ•™์Šต์‹œ๊ฐ„๋„ ๋งŽ์ด ๋“ค๊ณ .. 


Civitai

AI ์ด๋ฏธ์ง€ ์ƒ์„ฑ ๋ชจ๋ธ์„ ๊ณต์œ ํ•˜๊ณ  ๋‹ค์šด๋กœ๋“œํ•  ์ˆ˜ ์žˆ๋Š” ํ”Œ๋žซํผ

์›ํ•˜๋Š” ๊ทธ๋ฆผ์ฒด์˜ ๋ชจ๋ธ์„ ์ฐพ์•„ ์›นํˆฐ ์ œ์ž‘์— ํ™œ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค.

 

 

๋‚จ์ด ํ•™์Šต์‹œ์ผœ๋†“์€ ๊ทธ๋ฆผ ๋ชจ๋ธ ๊ทธ๋ฆผ์„ ๊ฐ€์ ธ์˜ฌ ์ˆ˜ ์žˆ๋‹ค.

๊ทธ ๋ชจ๋ธ๋กœ ๊ทธ๋ฆผ์„ ๋งŒ๋“ค๋ฉด ๋œ๋‹ค.

 

https://civitai.com/models/308147/fantasy-wizard-and-witches

 

Fantasy Wizard & Witches - Flux V2 | Flux LoRA | Civitai

Fantasy Wizard & Witches Hello friends! Flux version 2 is now out with more magical images!! This model works good with my other fantasy model ...

civitai.com

 

๋ชจ๋ธ ์ƒ์„ธ ์ •๋ณด ํ™•์ธ

  • ๋ชจ๋ธ ์ธ๋„ค์ผ์„ ํด๋ฆญํ•˜๋ฉด ์ƒ์„ธ ํŽ˜์ด์ง€๋กœ ์ด๋™ํ•ฉ๋‹ˆ๋‹ค.โ€‹์˜ค๋Š˜๋„ ๋ฐฐ์›€
  • ๋ชจ๋ธ์„ ์‚ฌ์šฉํ•œ ์˜ˆ์‹œ ์ด๋ฏธ์ง€์™€ ํ•จ๊ป˜ ์‚ฌ์šฉ๋œ ํ”„๋กฌํ”„ํŠธ, ๋„ค๊ฑฐํ‹ฐ๋ธŒ ํ”„๋กฌํ”„ํŠธ, ์ƒ˜ํ”Œ๋Ÿฌ, CFG ์Šค์ผ€์ผ ๋“ฑ์˜ ์ •๋ณด๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.โ€‹Velog
  • Download ๋ฒ„ํŠผ์„ ํด๋ฆญํ•˜์—ฌ ๋ชจ๋ธ ํŒŒ์ผ์„ ๋‹ค์šด๋กœ๋“œํ•ฉ๋‹ˆ๋‹ค.

 

๋ชจ๋ธ ์ ์šฉ ๋ฐ ์ด๋ฏธ์ง€ ์ƒ์„ฑ

  • ๋‹ค์šด๋กœ๋“œํ•œ ๋ชจ๋ธ ํŒŒ์ผ์„ Stable Diffusion WebUI์˜ ํ•ด๋‹น ํด๋”์— ๋„ฃ์Šต๋‹ˆ๋‹ค.โ€‹์˜ค๋Š˜๋„ ๋ฐฐ์›€
  • WebUI์—์„œ ๋ชจ๋ธ์„ ์„ ํƒํ•œ ํ›„, ํ”„๋กฌํ”„ํŠธ์™€ ์„ค์ •๊ฐ’์„ ์ž…๋ ฅํ•˜์—ฌ ์ด๋ฏธ์ง€๋ฅผ ์ƒ์„ฑํ•ฉ๋‹ˆ๋‹ค.โ€‹
  • Civitai์—์„œ ์ œ๊ณตํ•˜๋Š” ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ฐธ๊ณ ํ•˜์—ฌ ์›ํ•˜๋Š” ์Šคํƒ€์ผ์˜ ์ด๋ฏธ์ง€๋ฅผ ๋งŒ๋“ค์–ด๋ณด์„ธ์š”.โ€‹

 

https://youtu.be/bCgEaSkPJB0

 

 


https://www.youtube.com/watch?v=KQfvy-0cwMo

 

git repository ๋‹ค์šด ๋ฐ›์•„์„œ

lora ํ•™์Šต ์ด๋ฏธ์ง€๋ฅผ ์ ์šฉํ•ด์„œ, ํ”„๋กฌํ”„ํŠธ์— ์นดํŽ˜์— ์žˆ๋Š” ์—ฌ๋Œ€์ƒํ•˜๋ฉด ์ด๋ฏธ์ง€ ์ƒ์„ฑํ•ด์คŒ