์˜ฌํ•ด ์ดˆ ์ฒ˜์Œ ํ…Œ๋ฌด์—์„œ ์‹คํ—˜์‚ผ์•„ ๊ฐ€๋ฐฉ๊ณผ ๋ฌด์„  ์ด์–ดํฐ์„ ์ƒ€๋‹ค.

 

 

๋ชจ๋‹ˆํ„ฐ ํ™”๋ฉด์œผ๋กœ๋Š” ๊ทธ๋Ÿด๋“ฏํ–ˆ์œผ๋‚˜ ์‹ค์ œ๋กœ ๋ฐ›์•„๋ณด๋‹ˆ ์žฌ์งˆ์ด ์ด์ƒํ–ˆ๋‹ค. ๋ถ€์Šค๋Ÿญ ๊ฑฐ๋ฆฌ๋Š” ๋น„๋‹๊ฐ™์•˜๋‹ค. ๊ทธ๋ฆฌ๊ณ  ๋„ˆ๋ฌด๋‚˜ ๊ฐ€๋ฒผ์› ๋‹ค. ๊ทธ๋ƒฅ ๋ณด๊ธฐ์—๋„ ์‹ผํ‹ฐ ์ž‘๋ ฌ์ด์—ˆ๋‹ค. ์‹ค์ œ๋กœ๋„ ์ŒŒ์œผ๋‹ˆ ํ• ๋ง์€ ์—†์—ˆ๋‹ค.

๋ฌด์„ ์ด์–ดํฐ์€ ์ถฉ์ „๋‹จ์ž๊ฐ€ micro usb ์˜›๋‚  ๋ฐฉ์‹์ด์—ˆ๋‹ค. ์†Œ๋ฆฌ๋Š” ๋‚˜์˜์ง€ ์•Š์•˜์ง€๋งŒ ๊ธฐ๋Šฅ์— ๋ฌธ์ œ๊ฐ€ ๋งŽ์•˜๋‹ค. ์ด์–ดํฐ์„ ๊ท€์—์„œ ์ œ๊ฑฐํ•˜๊ณ  ์ผ€์ด์Šค์— ๋„ฃ์–ด๋„ ์Œ์•…์ด ๊ณ„์† ํ˜๋Ÿฌ๋‚˜์™”๋‹ค. ํœด๋Œ€ํฐ๊ณผ ์ด์–ดํฐ์˜ ์—ฐ๊ฒฐ์ด ์ž๋™์œผ๋กœ ๋Š์–ด์ง€์ง€ ์•Š์•˜๋‹ค. ํœด๋Œ€ํฐ์—์„œ ์ง์ ‘ ์Œ์•…์„ ๋ฉˆ์ถฐ์•ผ๋งŒ ์ด์–ดํฐ์—์„œ ๋‚˜์˜ค๋˜ ์†Œ๋ฆฌ๊ฐ€ ๋ฉˆ์ท„๋‹ค. ํœด๋Œ€ํฐ์—์„œ ๋ธ”๋ฃจํˆฌ์Šค ์ ‘์†์„ ์ง์ ‘ ๋Š์–ด์ค˜์•ผ๋งŒ ํ–ˆ๋‹ค.

 

ํ•œ๋งˆ๋””๋กœ ์“ฐ๋ ˆ๊ธฐ์˜€๋‹ค.

 

๋‹น์‹œ ํ…Œ๋ฌด์—์„œ ๊ฒฐ์ œ ์ •๋ณด๋ฅผ ๋นผ๊ฐ„๋‹ค๋Š” ์†Œ๋ฌธ๋„ ๋‚˜๋Œ์•˜๋‹ค. ๋ฐ”๋กœ ์นด๋“œ์ •๋ณด๋ฅผ ์‚ญ์ œํ•˜๊ณ  ์•ฑ๋„ ์ง€์› ๋‹ค.

๋‚ด๊ฐ€ ๋‹ค์‹œ ํ…Œ๋ฌด๋กœ ๋Œ์•„์˜จ๊ฑด ์–ด์ด์—†๊ฒŒ๋„ ์นจ์ฐฉ๋งจ์˜ ํ…Œ๋ฌด๊นก ์˜์ƒ ๋•Œ๋ฌธ์ด์—ˆ๋‹ค.

 

๊ตฌ๋…ํ•˜์ง€๋„ ์•Š๋Š” ์‚ฌ๋žŒ์˜ ์˜์ƒ์ด ์ถ”์ฒœ์œผ๋กœ ๋œฌ ์ด์œ ๋Š” ์•„๋งˆ๋„ ์ธ๊ธฐ๊ธ‰์ƒ์Šน ๋™์˜์ƒ์ด์—ˆ๊ธฐ ๋•Œ๋ฌธ์ด๊ฒ ์ง€๋งŒ ์–ด์จŒ๋“  ์ € ์˜์ƒ์„ ๋ณด๊ณ  ํ…Œ๋ฌด์—์„œ์„œ ๋ฌด์—‡์„ ์‚ฌ๊ณ  ๋ฌด์—‡์„ ์‚ฌ์ง€ ๋ง์•„์•ผํ• ์ง€ ๊ฐ์„ ์žก์„ ์ˆ˜ ์žˆ์—ˆ๋‹ค.

 

ํ…Œ๋ฌด์—์„œ ์‚ฌ์ง€ ๋ง์•„์•ผ ํ• ๊ฒƒ - ์‹ ๋ฐœ์ด๋‚˜ ๊ฐ€๋ฐฉ์ฒ˜๋Ÿผ ๊ธฐ๋Šฅ๊ณผ ํ’ˆ์งˆ์ด ์ค‘์š”ํ•œ ์ œํ’ˆ๋“ค, ํ™”ํ•™์  ์ž‘์šฉ์ด ๋“ค์–ด๊ฐ€๋Š” ๋ชจ๋“  ์ œํ’ˆ๋“ค

 

ํ…Œ๋ฌด์—์„œ ์‚ฌ๋ฉด ๊ดœ์ฐฎ์€ ๊ฒƒ - ์ผ๋ฐ˜ ์˜๋ฅ˜๋‚˜ ๋ชจ์ž์ฒ˜๋Ÿผ ํ•œ๋ฒˆ ๋นจ๊ณ  ์ž…์œผ๋ฉด ๋˜๋Š” ์˜ท๋“ค, ํ•œ๊ตญ์—์„œ ์‚ฌ๊ธฐ ์–ด๋ ค์šด ๋””์ž์ธ์˜ ์˜ท๋“ค, ์˜จ๊ฐ– ์ข…๋ฅ˜์˜ ์ผ€์ด์Šค๋‚˜ ์‹œ๊ณ„์ค„, ๋ฒจํŠธ, ์Šคํ‹ฐ์ปค ๊ฐ™์€ ๊ฐ’์‹ผ ์•…์„ธ์„œ๋ฆฌ๋“ค,

 

ํ…Œ๋ฌด์—์„œ ์‚ฌ๋ฉด ์•„์ฃผ ์ข‹์€ ๊ฒƒ - ํ•œ๊ตญ์—์„œ ์‚ฌ๊ธฐ ์–ด๋ ต๊ฑฐ๋‚˜ ์‚ฌ๋ฉด ๋ฐ”๊ฐ€์ง€ ์“ฐ๋Š” ์ „์ž์ œํ’ˆ๋“ค, ์ŠคํŽ™์ด ํ™•์‹คํžˆ ์ •ํ•ด์ ธ์žˆ๋Š” ๊ฐ’์‹ผ ์ „์ž์ œํ’ˆ๋“ค. ์˜ˆ๋ฅผ๋“ค์–ด, sd card adapter, hdmi dummy(์ด 2๊ฐœ๋Š” ํ•œ๊ตญ์—์„œ ๋„์ €ํžˆ ์‚ด์ˆ˜๊ฐ€ ์—†์—ˆ๋‹ค), ์ž…๋ฌธ์ž์šฉ ๋“œ๋ก ์ด๋‚˜ rc car, ์Šค๋งˆํŠธ ์‹œ๊ณ„(์ด 3๊ฐ€์ง€๋Š” ์ค‘๊ตญ์ด ์›”๋“œ ๋„˜๋ฒ„์›์ธ๊ฑฐ ๊ฐ™๋‹ค), ์˜จ๋„/์Šต๋„๊ณ„, dp cable์ฒ˜๋Ÿผ ์ŠคํŽ™์ด ํ™•์‹คํ•œ ์ „์ž์ œํ’ˆ๋“ค

 

์‚ด๋•Œ ์ฃผ์˜ํ•ดํ•  ๊ฒƒ๋“ค - ์žฌ์งˆ๊ณผ ์ŠคํŽ™. ๊ฐœ์ธ์ ์œผ๋กœ ๋ฉด์„ ์ข‹์•„ํ•˜๋Š”๋ฐ ์˜๋ฅ˜ ์ค‘์— ์ƒ๋‹น์ˆ˜๊ฐ€ ์•„๋ž˜์™€ ๊ฐ™์ด ํด๋ฆฌ์—์Šคํ…Œ๋ฅด์˜€๋‹ค. ๋””์ž์ธ๋งŒ ๋ณด๊ณ  ์ด๋ป์„œ ์ƒ€๋‹ค๊ฐ€ ๋‚˜์ค‘์— ํ›„ํšŒํ–ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋ฆฌ๋ทฐ๋ฅผ ๋ณด๋ฉด ์ด ์žฌ์งˆ์„ ์ข‹์•„ํ•˜๋Š” ์‚ฌ๋žŒ๋“ค๋„ ๊ฝค ์žˆ๋Š”๊ฑฐ ๊ฐ™๊ธดํ•˜๋‹ค.

์ŠคํŽ™๋„ ์œ ์˜ํ•ด์„œ ๋ด์•ผํ•œ๋‹ค. ์ถฉ์ „๋ฐฉ์‹์ด ์–ด๋–ค์ง€, ๋ฐฐํ„ฐ๋ฆฌ๊ฐ€ ์–ผ๋งˆ๋‚˜ ๊ฐ€๋Š”์ง€ ๋“ฑ๋“ฑ ๋””ํ…Œ์ผํ•œ ์‚ฌํ•ญ๋“ค์ด ๋ณด์ด์ง€ ์•Š๋Š”๋‹ค๋ฉด ์ผ๋‹จ ์˜์‹ฌ์„ ํ•ด์•ผํ•œ๋‹ค. ์˜›๋‚  ๊ทœ๊ฒฉ์ผ์ˆ˜์žˆ๋‹ค.

 

 

> ๊ฒฐ๋ก 

1. ๊ฐ€๊ฒฉ์„ ์ฟ ํŒก๊ณผ ๋น„๊ตํ•ด๋„ ์–ด๋–ค๊ฑด ์ ˆ๋ฐ˜์ด๊ณ  ์ƒ๋‹น์ˆ˜๋Š” 1/4 ๊ฐ€๊ฒฉ์ด๋‹ค.

2. ํ’ˆ์งˆ์€ ์ฟ ํŒก๊ณผ ๋˜์ด๋˜์ดํ•˜๋‹ค. ๋ฐฐ์†ก๊ธฐ๊ฐ„๋งŒ ํ•œ~์ฐธ ์ฐจ์ด๋‚  ๋ฟ์ด๋‹ค.

3. ๋‚˜์ค‘์—๋ณด๋ฉด ๋‚ด๊ฐ€ ์‚ฐ ์ œํ’ˆ์˜ ๊ฐ€๊ฒฉ์ด ์ ˆ๋ฐ˜์œผ๋กœ ๋–จ์–ด์ ธ ์žˆ์„ ๋•Œ๊ฐ€ ์žˆ๋Š”๋ฐ ์ด๋•Œ๋Š” ๊ฐ€๊ฒฉ ์žฌ์กฐ์ • ์‹ ์ฒญํ•˜๋ฉด ๋œ๋‹ค.

- ์ด๊ฒŒ ์ œ์ผ ์‹ ๊ธฐํ–ˆ๋‹ค. ๊ตฌ์ž…ํ•œ์ง€ ๊ฝค ์˜ค๋žœ ์‹œ๊ฐ„์ด ์ง€๋‚œ ์ œํ’ˆ๋„ ๊ฐ€๊ฒฉ์กฐ์ •์ด ๊ฐ€๋Šฅํ–ˆ๋‹ค.

- ๋‚ด์ฃผ๋ฌธ์— ๋“ค์–ด๊ฐ€๋ฉด ์•„๋ž˜ ์Šค์ƒท์ฒ˜๋Ÿผ '๊ฐ€๊ฒฉ์กฐ์ •' ๋ฒ„ํŠผ์ด ๋ณด์ผ๊ฒƒ์ด๋‹ค. ์ด๊ฒŒ ๋ญ”๊ฐ€ ์‹ถ์–ด ๋ˆŒ๋Ÿฌ๋ดค๋”๋‹ˆ ๋‚ด๊ฐ€ ๊ตฌ๋งคํ•œ ๊ฐ€๊ฒฉ๊ณผ ํ˜„์žฌ ํŒ๋งค์ค‘์ธ ๊ฐ€๊ฒฉ๊ณผ ๋น„๊ตํ•ด์„œ ๊ทธ ์ฐจ์ต๋งŒํผ ๋ฐ”๋กœ ํฌ๋ ˆ๋”ง์œผ๋กœ ๋ณด์ƒํ•ด์ฃผ์—ˆ๋‹ค. ๋‹ค๋งŒ ํ•œ๋ฒˆ๋งŒ ๋œ๋‹คใ…‹

- ์ด๊ฑด ์ •๋ง '์‹ ๋ขฐ'๋ฅผ ์ฃผ๋Š” ๊ธฐ๋Šฅ์ด๋ผ๊ณ  ์ƒ๊ฐํ•œ๋‹ค. ์‚ฌ์—…์ ์œผ๋กœ๋‚˜ ๊ฐœ๋ฐœ์ ์œผ๋กœ๋‚˜ ๋„์ž…ํ•˜๊ธฐ ์–ด๋ ค์šด ๊ธฐ๋Šฅ์ธ๋ฐ ๊ฐ„๋‹จํ•˜๊ฒŒ ์ž˜ ์ ์šฉ๋˜์–ด์žˆ๋‹ค.

4. ํ˜น์‹œ๋‚˜ํ•ด์„œ ๊ตฌ์ž… ํ›„ ๋ฐ”๋กœ ํ™˜๋ถˆ๋„ ํ•ด๋ณด๊ณ  3์ผ ํ›„ ํ™˜๋ถˆ๋„ ํ•ด๋ดค๋Š”๋ฐ ๋ชจ๋‘ ์ž˜ ๋˜์—ˆ๋‹ค.

5. ํ†ต๊ด€์— ๊ณ„์† ๋ฌถ์—ฌ์žˆ๊ธฐ์— as์ƒ๋‹ด๋„ ํ•ด๋ณด์•˜๋Š”๋ฐ ๊ฝค ํ™•์‹คํ•˜๊ฒŒ ์ผ์ฒ˜๋ฆฌ๋ฅผ ํ•ด์คฌ๋‹ค. ๋‚ด ๋ฌผ๊ฑด์ด ํ˜„์žฌ ์–ด๋””์— ์žˆ๊ณ  ์–ธ์ œ ์ฒ˜๋ฆฌ๋ ์ง€๋„ ์•Œ๋ ค์ฃผ์—ˆ๋‹ค.

6. ํ…Œ๋ฌด์—์„œ ์ „์„ธ๊ณ„์ธ๋“ค์˜ ๋ฆฌ๋ทฐ๋ฅผ ์ฝ๋Š”๊ฒƒ๋„ ๊ฝค ์žฌ๋ฏธ์žˆ๋‹ค.

7. ๋ชจ๋“  ์ œํ’ˆ์ด ๊ตฌ๊ฒจ์ ธ์„œ ์˜จ๋‹ค. ๊ตฌ๊ฒจ์ง€๋ฉด ์•ˆ๋˜๋Š” ๋ฌผ๊ฑด์€ ์‚ฌ์ง€ ์•Š๋Š”๋‹ค.

8. ๊ฐ€์žฅ ๋งŒ์กฑ์Šค๋Ÿฌ์› ๋˜ ๋ฌผ๊ฑด์€ ๋“œ๋ก ๊ณผ ์Šค๋งˆํŠธ ์›Œ์น˜์˜€๋‹ค. ๋‘˜ ํ•ฉ์ณ๋„ 3๋งŒ์› ์ฆˆ์Œ์ด์—ˆ๋Š”๋ฐ ์„ฑ๋Šฅ์€ ์ถฉ๊ฒฉ์ ์œผ๋กœ ์ข‹์•˜๋‹ค. 

9. ๋‚ด ๊ฐœ์ธ์ •๋ณด์•ผ ๋ญ, ์ด๋ฏธ ๋Œ€ํ•œ๋ฏผ๊ตญ์˜ ๋Œ€๊ธฐ์—…๋“ค์ด ์ „์„ธ๊ณ„์— ๊ณต์œ ํ•œ ์ •๋ณด์ด๋‹ˆ ์ด์— ๋Œ€ํ•ด์„  ๋งˆ์Œ์„ ๋น„์› ๋‹ค.

- ์ง€๋‚œ๋ฒˆ ํ‹ฐ๋ชฌ์—์„œ ์ „๊ธฐ์ž์ „๊ฑฐ ์‚ฌ๊ธฐ๋ฅผ ๋‹นํ•œ ํ›„ 'ํŒ๋งค์ž๊ฐ€ ์—ฐ๋ฝ์ด ๋˜์ง€ ์•Š์•„ ํ™˜๋ถˆ ๋ถˆ๊ฐ€'๋ผ๋Š” ํฌ๋Œ€์˜ ํ•‘๊ณ„๋ฅผ ๋“ฃ๊ณ ๋Š” ์˜ค๋งŒ์ •์ด ๋–จ์–ด์กŒ๋‹ค. ์‹ฌ์ง€์–ด ์†Œ๋น„์ž๋ณดํ˜ธ์› ๋‹ด๋‹น์ž๋ถ„๋„ ๋˜‘๊ฐ™์ด ์ด์•ผ๊ธฐํ–ˆ๋‹ค. ํ‹ฐ๋ชฌ์€ ํ•ญ์ƒ ์ด๋ ‡๊ฒŒ ๋‚˜์˜ค๋Š”๋ฐ ๋ฒ•์ ์œผ๋กœ ์–ด๋–ป๊ฒŒ ํ• ์ˆ˜๊ฐ€ ์—†๋‹ค๊ณ . ์—ํœด, ์ ์–ด๋„ ํ‹ฐ๋ชฌ๋ณด๋‹จ ํ…Œ๋ฌด๊ฐ€ ํ›จ์”ฌ ๋” ์‹ ๋ขฐ๊ฐ€ ๊ฐ„๋‹ค.

 

์•ž์œผ๋กœ๋„ ๊ณ„์† ์‚ฌ์šฉํ• ๊ฑฐ๋‹ค. ๋ชจ๋‘๊ฐ€ ์š•ํ•ด๋„ ๋‚˜๋Š” ํ…Œ๋ฌด๊ฐ€ ์ข‹๋‹ค.

 

โ— ๋™๊ธฐ

AI์ž‘์—…์„ ํ•˜๋‹ค๋ณด๋ฉด 4090์˜ 24GB vram์ด ๊ฐ„๋‹น๊ฐ„๋‹น ํ• ๋•Œ๊ฐ€ ์žˆ๋‹ค.

๋ณดํ†ต llama2 13b ๋ชจ๋ธ์ด๋‚˜ Mixtral์˜ 8x7B ๋ชจ๋ธ์€ ์–‘์žํ™” ์‹œ์ผœ ๋Œ๋ฆด ์ˆ˜ ์žˆ์ง€๋งŒ max length ์กฐ์ ˆ์„ ์„ฌ์„ธ?ํ•˜๊ฒŒ ํ•ด์•ผํ•œ๋‹ค.

 

yanolja-eeve์˜ ๊ฒฝ์šฐ๋„ ๋งˆ์ฐฌ๊ฐ€์ง€๋‹ค. ๋ฉ”๋ชจ๋ฆฌ 100๋ฉ”๊ฐ€ ์ฐจ์ด๋กœ ๊ฐ€๋”์”ฉ out of memory ๋ฉ”์‹œ์ง€๋ฅผ ํ† ํ•ด๋‚ผ๋•Œ๊ฐ€ ์žˆ๋‹ค.

์ด๋•Œ๋Š” ๋ฉ”๋ชจ๋ฆฌ 100, 200๋ฉ”๊ฐ€๋„ ์†Œ์ค‘ํ•œ๋ฐ ์ด ๊ฒฝ์šฐ ๋ชจ๋‹ˆํ„ฐ ์ถœ๋ ฅ์— ์‚ฌ์šฉํ•˜๋Š” ๋ฉ”๋ชจ๋ฆฌ๋งŒ ์ค„์—ฌ๋„ ํฐ ๋„์›€์ด ๋œ๋‹ค. ๋‚ด ๋ชจ๋‹ˆํ„ฐ์˜ ๊ฒฝ์šฐ ๋Œ€๋žต 300๋ฉ”๊ฐ€ ์ด์ƒ์„ ๋จน๋Š”๋‹ค. 

 

๊ทธ๋ž˜์„œ ์ปดํ“จํ„ฐ๋ฅผ ์•ž์— ๋‘๊ณ ๋„ ์ง์ ‘ ์ ‘์†ํ•˜์ง€ ์•Š๊ณ 

hdmi ๋”๋ฏธ ํ”Œ๋Ÿฌ๊ทธ๋ฅผ ์ด์šฉํ•œ ๊ฐ€์ƒ์˜ ๋ชจ๋‹ˆํ„ฐ์— ssh๋กœ ์›๊ฒฉ์ ‘์†ํ•ด vram์„ ์•„๊ปด์“ฐ๊ธฐ๋„ ํ–ˆ๋‹ค.

 

์ž ์‹œ๋งˆ๋‚˜ ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ์„ ์ด์šฉํ•˜์ž๋Š” ์ƒ๊ฐ๋„ ํ–ˆ์—ˆ์ง€๋งŒ

๋‹น์‹œ hp์—์„œ ๊ตฌ์ž…ํ•œ ์˜ค๋ฉ˜pc์˜ ๋‚ด๋ถ€ ๋ชจ๋‹ˆํ„ฐ dp๋‹จ์ž๋Š” ์•„์˜ˆ ๋ง‰ํ˜€์„œ ์ถœ๊ณ ๊ฐ€ ๋˜์–ด ์ด๊ฑธ ๋นผ๋‚ด๋Š” ๊ฒƒ๋„ ๊ท€์ฐฎ์€ ์ผ์ด์–ด์„œ ๋ฏธ๋ฃจ๊ณ  ์žˆ์—ˆ๋‹ค.

 

ํ•˜์ง€๋งŒ ์š”์ƒˆ ๋‚ ์”จ๊ฐ€ ๋”์›Œ์ ธ ์‚ฌ๋ฌด์‹ค ์ฐฝ๋ฌธ์— ๋…ธ์ถœ๋˜์–ด ์žˆ๋Š” ๋ฐ”๊นฅ ํŒŒํ‹ฐ์…˜์€ ์‚ฌ์šฉํ•˜๊ธฐ ํž˜๋“ค์–ด์กŒ๋‹ค. ์—ฌ๊ธฐ๋Š” ์—์–ด์ปจ ๋ฐ”๋žŒ๋„ ๋ง‰ํ˜€์žˆ๋‹ค. ์„ ํ’๊ธฐ ๋งŒ์œผ๋ก  4090์—์„œ ๋ฟœ์–ด๋‚ด๋Š” ์—ด๊ธฐ๋ฅผ ๊ฐ๋‹นํ• ์ˆ˜ ์—†์—ˆ๋‹ค. ๊ทธ๋ž˜์„œ ๋Œ€๋Œ€์ ์œผ๋กœ ์‚ฌ๋ฌด์‹ค ๊ตฌ์กฐ๋ฅผ ๋ฐ”๊พธ๋ฉฐ ์ด๋ฒˆ ๊ธฐํšŒ์— ๋ฏธ๋ค„๋’€๋˜ ์ž‘์—…์„ ์ง„ํ–‰ํ•˜๊ธฐ๋กœ ํ–ˆ๋‹ค.

 

โ— ์ƒํƒœ

1. ์„œ๋ฒ„PC์—์„œ ํ•ญ์ƒ ์‚ฌ์šฉํ•˜๋Š” ๋ชจ๋‹ˆํ„ฐ๋ฅผ 4090 ๋ฐ์Šคํฌํƒ‘์—์„œ๋„ ๋ณด์กฐ ๋ชจ๋‹ˆํ„ฐ๋กœ ์‚ฌ์šฉํ•˜๊ณ  ๋งฅ๋ถ์—์„œ๋„ ๋ณด์กฐ๋ชจ๋‹ˆํ„ฐ๋กœ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๊ฒŒ, ์ฆ‰ 3๊ฐœ์˜ ์ปดํ“จํ„ฐ๊ฐ€ ํ•˜๋‚˜์˜ ๋ชจ๋‹ˆํ„ฐ๋ฅผ ๋ชจ๋‘ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๊ฒŒ ๊ตฌ์กฐ๋ฅผ ์—ฎ์—ˆ๋‹ค. ์–ด์ฐจํ”ผ ์„œ๋ฒ„๋Š” ๋ชจ๋‹ˆํ„ฐ๊ฐ€ ๊ฑฐ์˜ ํ•„์š”ํ•˜์ง€ ์•Š๊ณ  ํ•„์š”ํ•˜๋‹ค ํ•ด๋„ ์›๊ฒฉ์œผ๋กœ ๋ถ™์–ด ์‚ฌ์šฉํ•˜๋Š” ๊ฒฝ์šฐ๊ฐ€ ํ›จ์”ฌ ๋” ๋งŽ๊ธฐ ๋•Œ๋ฌธ์ด์—ˆ๋‹ค.

2. 4090pc์—๋Š” ์œˆ๋„์šฐ์™€ ์šฐ๋ถ„ํˆฌ๊ฐ€ ํ•จ๊ป˜ ๊น”๋ ค ์žˆ๊ณ  ์ฒ˜์Œ ๋ถ€ํŒ…์‹œ grub์—์„œ os๋ฅผ ์„ ํƒํ•ด ์‹คํ–‰ํ•œ๋‹ค.

 

3. 4090 PC์˜ ๊ฒฝ์šฐ. ์ด์ œ๊นŒ์ง„ 5120x1440 ๋ชจ๋‹ˆํ„ฐ ํ•˜๋‚˜๋งŒ ์ผ๋Š”๋ฐ ๋ณด์กฐ ๋ชจ๋‹ˆํ„ฐ ํ•˜๋‚˜๊ฐ€ ๋” ์ƒ๊ธฐ๋‹ˆ ์ด๋ ‡๊ฒŒ ํŽธํ•  ์ˆ˜๊ฐ€ ์—†์—ˆ๋‹ค.  stable diffusion์€ ์œˆ๋„์šฐ ๊ธฐ๋ฐ˜์œผ๋กœ ๋Œ๋ฆฌ๊ธฐ ๋•Œ๋ฌธ์— - ์œˆ๋„์šฐ๊ฐ€ ๋ฐ”๋กœ ํŽธ์ง‘ํ•  ์ˆ˜ ์žˆ์–ด ์šฐ๋ถ„ํˆฌ ํ™˜๊ฒฝ๋ณด๋‹ค ํ›จ์”ฌ ๋‚ซ๋‹ค - ๊ทธ๋Ÿฐ๋ฐ ์œˆ๋„์šฐ๋Š” ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ ์นด๋“œ๋ฅผ ์ž๋™์œผ๋กœ ์ธ์‹ํ•˜์ง€๋งŒ ์šฐ๋ถ„ํˆฌ๋Š” ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ ์นด๋“œ๋ฅผ ์ธ์‹ํ•˜์ง€ ๋ชปํ–ˆ๋‹ค.

4. ๋Œ€๋ถ€๋ถ„์˜ ai๊ฐœ๋ฐœ์ด๋‚˜ llm์€ ๋ชจ๋‘ ์šฐ๋ถ„ํˆฌ ๊ธฐ๋ฐ˜์œผ๋กœ ๋Œ๋ฆฌ๊ธฐ ๋•Œ๋ฌธ์— ์ด๋Š” ์‹ฌ๊ฐํ•œ ๋ฌธ์ œ์˜€๋‹ค.

 

 

โ— ํ•ด๊ฒฐ

์•„๋ž˜ ๋งํฌ๋ฅผ ํ†ตํ•ด ํ•ด๊ฒฐํ–ˆ๋‹ค.

 

Ubuntu, intel ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ ์‚ฌ์šฉํ•˜๊ธฐ

nvidia ์™ธ์žฅ ๊ทธ๋ž˜ํ”ฝ์นด๋“œ๊ฐ€ ๋‹ฌ๋ฆฐ Ubuntu 20.04 ์—์„œ ์ž‘์—… ์„ ํ–‰์กฐ๊ฑด: 1. ๋‚ด์žฅ ๊ทธ๋ž˜ํ”ฝ์ด ํฌํ•จ๋œ intel CPU ์‚ฌ์šฉ 2. motherboard์—์„œ ๋‚ด์žฅ GPU ์‚ฌ์šฉ enable 3. ๋ชจ๋‹ˆํ„ฐ ์ถœ๋ ฅ ์ผ€์ด๋ธ” ๋˜๋Š” ๋”๋ฏธ ํ”Œ๋Ÿฌ๊ทธ๊ฐ€ ๊ทธ๋ž˜ํ”ฝ์นด๋“œ๊ฐ€ ์•„

honbul.tistory.com

 

์„ธ์ƒ์—! ๋ณดํ†ต ์ด๋Ÿฐ ๊ฒฝ์šฐ ์™ธ๊ตญ์‚ฌ์ดํŠธ๋ฅผ ์ˆ˜๋„์—†์ด ๋“ค๋ฝ๋‚ ๋ฝ ๊ฑฐ๋ฆฌ๋ฉฐ ํ•œ์ฐธ ๊ณ ์ƒํ•ด์•ผํ•˜๋Š”๋ฐ ์œ„ ํ•œ๊ตญ๋ถ„์ด ์•„์ฃผ ์นœ์ ˆํ•˜๊ณ  ์ƒ์„ธํ•˜๊ฒŒ ์ด๋ฏธ ์ •๋ฆฌํ•ด ๋†“์œผ์…”์„œ ์•„๋ฌด ๊ณ ์ƒ๋„ ํ•˜์ง€ ์•Š์•˜๋‹ค.

 

์†”์งํžˆ ์šฐ๋ถ„ํˆฌ์— ๊ด€ํ•œ ๋Œ€๋ถ€๋ถ„์˜ ํ•œ๊ตญ ์ •๋ณด๋Š” '์ž˜๋ชป๋œ' ๊ฒฝ์šฐ๊ฐ€ ๋งŽ์•„ ๋ฐ˜์‹ ๋ฐ˜์˜ํ•˜๋ฉด์„œ ์ž‘์—…ํ–ˆ๋Š”๋ฐ

๋„ˆ๋ฌด ๋‚˜์ด์Šคํ•˜๊ฒŒ working์ด ๋˜์—ˆ๋‹ค. ํŠน๋ณ„ํžˆ ๋” ๊ฐ์‚ฌํ•œ ๋งˆ์Œ์ด ๋“ค์–ด ์ด๋ ‡๊ฒŒ ๊ธ€์„ ์ •๋ฆฌํ•œ๋‹ค.

๋“œ๋””์–ด ํ•œ์คŒ์˜ vram์„ ์•„๋‚„์ˆ˜ ์žˆ๊ฒŒ ๋˜์—ˆ๋‹ค.

์˜ค๋žœ๋งŒ์— stable diffusion webui์— ์ ‘์†ํ–ˆ๋”๋‹ˆ, ์•„์˜ˆ ๋Œ์•„๊ฐ€์ง€๊ฐ€ ์•Š์•˜๋‹ค.

์ฒดํฌํฌ์ธํŠธ๋ฅผ ์ถ”๊ฐ€ํ•˜๊ณ  ํ”„๋กฌํ”„ํŠธ๋ฅผ ๋„ฃ๊ณ  ์ƒ์„ฑ๋ฒ„ํŠผ์„ ํด๋ฆญํ•ด๋„ ์ด๋ฏธ์ง€ ์ž์ฒด๊ฐ€ ์ƒ์„ฑ๋˜์ง€ ์•Š์•˜๋‹ค.

 

* xformers์—์„œ ์ง€์›ํ•˜๋Š” ํ† ์น˜ ๋ฒ„์ „ ๋ฌธ์ œ

xformer๋Š” ์ด๋ฏธ์ง€ ์ƒ์„ฑ ๊ฐ€์†ํ™” ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋‹ค. ์—…๋ฐ์ดํŠธ ๋˜๋ฉด์„œ torch 2.1.2๋ฒ„์ „์„ ์š”๊ตฌํ–ˆ๋‹ค. ํ•˜์ง€๋งŒ ๋‚ด torch๋ฒ„์ „์€ 2.0.1์ด์—ˆ๋‹ค. ์—…๊ทธ๋ ˆ์ด๋“œ ๋ฐฉ๋ฒ•์€ ๊ฐ„๋‹จํ•˜๋‹ค.

1. webui-user.bat ํŒŒ์ผ์„ ์—ฐ๋‹ค. 

set COMMANDLINE_ARGS=--reinstall-xformers --medvram --xformers --reinstall-torch

2. ์œ„์ฒ˜๋Ÿผ --reinstall-torch ์ธ์ž๋ฅผ ์ถ”๊ฐ€ํ•œํ›„ ์ €์žฅํ•˜๊ณ  ๋‹ค์‹œ webui-user.bat์„ ๋‹ค์‹œ ์‹œ์ž‘ํ•œ๋‹ค.

3. ๊ทธ๋Ÿฌ๋ฉด ์•Œ์•„์„œ ๋ฒ„์ „์„ torch๋ฒ„์ „์„ ์—…๊ทธ๋ ˆ์ด๋“œํ•œ๋‹ค.

4. ์„ค์น˜๊ฐ€ ์™„๋ฃŒ๋˜๋ฉด ์œ„  --reinstall-torch ๋Š” ์ œ๊ฑฐํ•˜๊ณ  ์›๋ž˜๋Œ€๋กœ ์ธ์ž๋“ค์„ ๋˜๋Œ๋ฆฐ๋‹ค.

5. ํ•ด๊ฒฐ

 

 

์ด์ œ ์ด๋ฏธ์ง€๋Š” ์ƒ์„ฑ์ด ๋˜๋Š”๋ฐ controlnet ์ด ๋ง์ฝ์ด์—ˆ๋‹ค. 

Error running process:  E:\Libraries\stable-diff-sdxl\models\Stable-diffusion\extensions\sd-webui-controlnet\scripts\controlnet.py

Traceback (most recent call last):

* controlnet ์„ ๋‹ค์‹œ ์„ค์น˜ํ•˜๋ฉด ๋œ๋‹ค

https://www.reddit.com/r/StableDiffusion/comments/11dba9p/controlnet_error_after_update/

๋ ˆ๋”ง์— ๋‚˜์˜จ ๋ฐฉ๋ฒ•๋Œ€๋กœ ํ•˜๋‹ˆ ํ•ด๊ฒฐ์ด ๋œ๋‹ค.

1. ๋จผ์ € extensions\sd-webui-controlnet\models ์•ˆ์— ์žˆ๋Š” ๊ธฐ์กด ๋ชจ๋ธ ํŒŒ์ผ๋“ค์„ ๋‹ค๋ฅธ ๊ณณ์œผ๋กœ ์ด๋™์‹œ์ผœ๋†“๋Š”๋‹ค.

2. ๋‹ค์Œ extensions\sd-webui-controlnet\ ๋ฅผ ์‚ญ์ œํ•œ๋‹ค.

3. ๋‹ค์Œ Extensions > Installed์— ๋“ค์–ด๊ฐ€ controlnet ์˜ ์ฒดํฌ๋ฅผ ํ’€๊ณ  Apply and restart UI๋ฅผ ํด๋ฆญํ•œ๋‹ค.

4. cmd ์ฐฝ์„ ๋‹ซ๊ณ  ๋‹ค์‹œ ์‹œ์ž‘ํ•œ๋‹ค. (๊ผญ ํ•ด์•ผํ•˜๋‚˜ ์‹ถ๊ธดํ•œ๋ฐ ๋‚˜๋Š” ํ–ˆ๋‹ค)

5. Install from URLํƒญ์œผ๋กœ ์ด๋™ํ•ด ๋‹ค์‹œ controlnet์„ ์ถ”๊ฐ€ํ•œ๋‹ค. 

https://github.com/Mikubill/sd-webui-controlnet

 

6. restart UIํ•˜๋‹ˆ ์—๋Ÿฌ์—†์ด ์ปจํŠธ๋กค ๋„ท์ด ์ž˜ ๋Œ์•„๊ฐ„๋‹ค. 

7. ํ™•์žฅํƒญ์— ๋“ค์–ด์˜จ ๊น€์— Check for updates ํ›„ ๋‹ค์‹œ restart UI๋ฅผ ํ•ด์„œ ๋ชจ๋“  ๋ชจ๋“ˆ๋“ค์„ ์ตœ์‹ ์œผ๋กœ ์—…๋ฐ์ดํŠธ ํ–ˆ๋‹ค.

8. ํ•ด๊ฒฐ

 

 

๊ทธ๋Ÿผ์—๋„ ์˜ค๋ฅ˜๋“ค์ด ์Ÿ์•„์กŒ๋‹ค. ํ•˜๋‚˜์”ฉ ํ•ด๊ฒฐํ•ด๋ณธ๋‹ค.

* Error loading script: m2m_ui.py ์˜ค๋ฅ˜

- https://github.com/Scholar01/sd-webui-mov2mov/issues/146

1. ์œ„ ๊นƒํ—™ ์ด์Šˆ๋ฅผ ํ†ตํ•ด ํ•ด๊ฒฐํ–ˆ๋‹ค. ๋จผ์ € modules/ui.py ํŒŒ์ผ์„ ์—ฐ๋‹ค. 

2. ์•„๋ž˜ ํ•จ์ˆ˜๋ฅผ ์ถ”๊ฐ€ํ•˜๊ณ  ์ €์žฅํ•œ๋‹ค.

def create_sampler_and_steps_selection(choices, tabname):
    return scripts.scripts_txt2img.script('Sampler').steps, scripts.scripts_txt2img.script('Sampler').sampler_name

3. ๋‹ค์‹œ ์‹คํ–‰ํ•˜๋ฉด ํ•ด๋‹น ์—๋Ÿฌ ๋ฉ”์‹œ์ง€๊ฐ€ ์‚ฌ๋ผ์ง„๋‹ค. ์—…๋ฐ์ดํŠธ ์ค‘ ํ•จ์ˆ˜ ๋ˆ„๋ฝ์ด ์žˆ์—ˆ๋‚˜๋ณด๋‹ค.

4. ํ•ด๊ฒฐ

 

 

ํ•˜์ง€๋งŒ ๊ทธ๋Ÿผ์—๋„ ์—๋Ÿฌ๊ฐ€ ์•„์ง ๋‚จ์•„์žˆ๋‹ค.

* activating extra network lora: TypeError ์˜ค๋ฅ˜

- https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/13561

 

[Bug]: activating extra network lora: TypeError · Issue #13561 · AUTOMATIC1111/stable-diffusion-webui

Is there an existing issue for this? I have searched the existing issues and checked the recent builds/commits What happened? activating extra network lora: TypeError Traceback (most recent call la...

github.com

 

1. ์œ„ ๊นƒํ—™ ์ด์Šˆ์—์„œ ํ•ด๊ฒฐํ–ˆ๋‹ค.

2. ์„ธ์ƒ์—, ๊ฐ€์žฅ ๋ณ„๊ฑฐ ์•„๋‹Œ ์˜ค๋ฅ˜์˜€๋‹ค.

3. ์•„๋ž˜์ฒ˜๋Ÿผ Add network to prompt๋ฅผ none์œผ๋กœ ํ•˜๊ณ  ์žฌ์‹œ์ž‘ํ•˜๋‹ˆ ์‚ฌ๋ผ์กŒ๋‹ค.

 

 

* No module named 'basicsr' ์˜ค๋ฅ˜

*** Error loading script: main.py
    Traceback (most recent call last):
      File "E:\AI\stable-diffusion-webui-master\modules\scripts.py", line 527, in load_scripts
        script_module = script_loading.load_module(scriptfile.path)
      File "E:\AI\stable-diffusion-webui-master\modules\script_loading.py", line 10, in load_module
        module_spec.loader.exec_module(module)
      File "<frozen importlib._bootstrap_external>", line 883, in exec_module
      File "<frozen importlib._bootstrap>", line 241, in _call_with_frames_removed
      File "E:\AI\stable-diffusion-webui-master\extensions\openpose-editor\scripts\main.py", line 14, in <module>
        from basicsr.utils.download_util import load_file_from_url
    ModuleNotFoundError: No module named 'basicsr'

- open pose๋ฅผ ์•„๋ฌด๋ฆฌ ๋‹ค์‹œ ๊น”์•„๋„ ํ•ด๊ฒฐ์ด ์•ˆ๋˜์—ˆ๋‹ค
- https://github.com/AUTOMATIC1111/stable-diffusion-webui/issues/15094 ์ด ์ด์Šˆ์—์„œ ํ•ด๊ฒฐํ–ˆ๋‹ค.

1. ๋จผ์ € sd ๊ธฐ๋ณธ ๋ฃจํŠธ ํด๋”์—์„œ ์•„๋ž˜ ์ˆœ์„œ๋Œ€๋กœ ํ•˜๋‚˜์”ฉ ํ„ฐ๋ฏธ๋„์— ์‹คํ–‰ํ•˜๋ฉด ๋œ๋‹ค.

- ํŒŒ์ด์ฌ ๊ฐ€์ƒ๋กœ์ปฌํ™˜๊ฒฝ์œผ๋กœ ๊ฐ€์„œ basicsr๋ฅผ ์„ค์น˜ํ•˜๊ณ  ๋‹ค์‹œ ๋กœ์ปฌํ™˜๊ฒฝ์„ ๋‚˜์˜ค๋Š” ์Šคํฌ๋ฆฝํŠธ๋‹ค.

venv\scripts\activate.bat
pip install basicsr
venv\scripts\deactivate.bat

 

* ๋ชจ๋‘ ํ•ด๊ฒฐ

์—๋Ÿฌ ๋ฉ”์‹œ์ง€ ์—†์ด ์•„๋ฆ„๋‹ต๊ฒŒ ๋กœ๋”ฉ๋œ๋‹ค. 

 

sd3๊ฐ€ ๋‚˜๋ฝ์œผ๋กœ ๊ฐ€๊ณ  stable diffusion ์ƒํƒœ๊ณ„๊ฐ€ ์˜คํ”ˆ์†Œ์Šค์— ์ง‘์ค‘ํ•˜๋ฉฐ ์ž์ฒด ์„ฑ์žฅํ•˜๋‹ค๋ณด๋‹ˆ ์ •์‹ ์—†๋Š” ๋ฐฉํ–ฅ์œผ๋กœ ๋ฐœ์ „ํ•˜๋Š”๊ฑฐ ๊ฐ™๋‹ค. text generation webui๋„ ๊ทธ๋ ‡๊ณ  ์ด์ชฝ์€ ํ•œ๋‹ฌ๋งŒ ์ง€๋‚˜๋„ ๋Œ๋ฆฌ๋ฉด ์—๋Ÿฌ๊ฐ€ 'ํƒ„์ƒ'ํ•œ๋‹ค.

 

๊ทธ๋ž˜์„œ ๋„ˆ๋ฌด ์ข‹๋‹ค. ์—๋Ÿฌ๊ฐ€ ๋‚œ๋‹ค๋Š”๊ฑด ๋ฌด์–ธ๊ฐ€ ํ•˜๊ณ  ์žˆ๋‹ค๋Š” ๋œป์ด๋‹ˆ ๋ง์ด๋‹ค.

๋„๋‹ค๋ฆฌ ๊ณ ๊ธ‰ ๋ฒˆ์—ญ์ด ์–ด๋Š์ •๋„ ์•ˆ์ •๋จ์— ๋”ฐ๋ผ ์ฝ”๋“œ ๊ณต๊ฐœ๋ฅผ ๊ฒฐ์ •ํ–ˆ์Šต๋‹ˆ๋‹ค.

  1. vram์ด 23์ด์ƒ์ผ๋•Œ ์•ผ๋†€์ž ๋ชจ๋ธ์‚ฌ์šฉ ๊ฐ€๋Šฅ
  2. ์šด์˜์ฒด์ œ๊ฐ€ ๋ฆฌ๋ˆ…์Šค์ผ ๊ฒฝ์šฐ vllm(AI ๊ฐ€์† ๋ชจ๋“ˆ) ์‚ฌ์šฉ ๊ฐ€๋Šฅ
  3. ๋ฒˆ์—ญ ํ”„๋กฌํ”„ํŠธ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•
  4. ํ•„ํ„ฐ ๋ฌธ๊ตฌ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•

ํ˜„์žฌ ์ฝ”๋“œ๋Š” ๊ฐœ๋ฐœ์ž์ธ ์ €์—๊ฒŒ๋งŒ ๋งž์ถฐ์ ธ ์žˆ์–ด ๋นˆํ‹ˆ์ด ๋งŽ์Šต๋‹ˆ๋‹ค.

๋ชจ๋‘๊ฐ€ ์“ธ์ˆ˜ ์žˆ๊ฒŒ ๋ฐ”๊พธ๋Š”๋ฐ์—๋Š” ์‹œ๊ฐ„์ด ์ข€ ๊ฑธ๋ฆด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.

 

์†Œ์Šค์ฝ”๋“œ ์ „๋ฉด ๊ณต๊ฐœ ํ›„ ๋‹ค์‹œ ๊ณต์ง€ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค!


ํ˜„์žฌ(24.07.19) eeve(๊ณ ๊ธ‰๋ฒˆ์—ญ)๋ชจ๋ธ์„ ํŒŒ์ธํŠœ๋‹ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

์—ฌ๋Ÿฌ๋ฐฉ์‹์œผ๋กœ ์ „์ฒ˜๋ฆฌ, ํ›„์ฒ˜๋ฆฌ, ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง์„ ํ…Œ์ŠคํŠธ ํ•ด๋ณด์•˜์ง€๋งŒ

๋ฒˆ์—ญ ์ถœ๋ ฅ์‹œ ๋ฐœ์ƒํ•˜๋Š” ํ™˜๊ฐํ˜„์ƒ์„ ์ œ๊ฑฐํ•˜๊ธฐ ์–ด๋ ค์› ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค.

 

์˜ค๋Š˜ 3์ฐจ ํŒŒ์ธํŠœ๋‹ ๊ฒฐ๊ณผ๋ฌผ์„ ์ด์šฉํ•ด ํ…Œ์ŠคํŠธ๋ฅผ ํ•˜๊ณ  ์žˆ๋Š”๋ฐ ์ง€๊ธˆ๊นŒ์ง€๋Š” ๊ฒฐ๊ณผ๊ฐ€ ํฌ๋ง์ ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹ค. => ๋‹ค์‹œ ๋น„๊ด€์ ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹ค

gguf๋ชจ๋ธ๋„ ํ•จ๊ป˜ ๋งŒ๋“ค๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ฒฝ์šฐ cpu๋ฅผ ์ด์šฉํ•ด ๊ตฌ๋™์‹œํ‚ฌ์ˆ˜๋„ ์žˆ์Šต๋‹ˆ๋‹ค.

 

๋ณด๋‹ค ๋งŽ์€ ๋ถ„๋“ค์ด ๋„๋‹ค๋ฆฌ ๊ณ ๊ธ‰๋ชจ๋ธ์„ ์‚ฌ์šฉํ•ด ๋ณด์‹ค์ˆ˜ ์žˆ๊ฒŒ ์ตœ๋Œ€ํ•œ ๋นจ๋ฆฌ ์ž‘์—…ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.


์˜ค๋Š˜(24.07.21) ํ…Œ์ŠคํŠธ์—์„œ ๋งŒ์กฑํ• ๋งŒํ•œ ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์™”์Šต๋‹ˆ๋‹ค.

๊ทธ๋ž˜์„œ ์ง€๊ธˆ ๊ธฐ๋ถ„์ด ์ข‹์Šต๋‹ˆ๋‹คใ…‹ ์—ฌ๋Ÿฌ๊ฐ€์ง€ ํ…Œ์ŠคํŠธ๋ฅผ ์กฐ๊ธˆ ๋” ์ง„ํ–‰ํ•œ ํ›„ ์™„์„ฑ๋œ eeve-dodari๋ชจ๋ธ๊ณผ gguf๋ฒ„์ „์˜ ํ—ˆ๊น…์ŠคํŽ˜์ด์Šค ์ฃผ์†Œ๋ฅผ ๊ณต์œ ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค!


์ง€๊ธˆ์ด 24.07.21 ์ผ์š”์ผ ์ƒˆ๋ฒฝ 3์‹œ 30๋ถ„.

ํŒŒ์ธํŠœ๋‹์ด ์„ฑ๊ณต์ ์œผ๋กœ ๋œ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. 

์‹ฌ์ง€์–ด ํ›„์ฒ˜๋ฆฌ๋ฅผ ํ•˜์ง€ ์•Š์•„๋„ ๋ฉ๋‹ˆ๋‹ค. - ๊ทธ๋™์•ˆ ai์˜ ํ™˜๊ฐํ˜„์ƒ ๋•Œ๋ฌธ์— ์—„์ฒญ๋‚œ ํ›„์ฒ˜๋ฆฌ๋ฅผ ํ•ด์•ผ๋งŒ ํ–ˆ๊ณ  ๊ทธ๋ ‡๊ฒŒ ํ–ˆ์–ด๋„ ์—ฌ์ „ํžˆ ๋งŽ์€ ํ™˜๊ฐ๋ฌธ๊ตฌ๋“ค์„ ํ•ด๊ฒฐํ•˜์ง€ ๋ชปํ•˜๊ณ  ์žˆ์—ˆ์Šต๋‹ˆ๋‹ค - ๋งˆ์น˜ transformer์˜ pipeline์—์„œ translation์„ ์‚ฌ์šฉํ•œ ๊ฒƒ๊ณผ ๊ฐ™์€ ์ฒ˜๋ฆฌ๊ฐ€ ๋ฉ๋‹ˆ๋‹ค.

์ด๋ ‡๊ฒŒ ๊ฐ„๋‹จํ•œ ๋ฐ์ดํ„ฐ์…‹์œผ๋กœ ์ด๋ฆฌ๋„ ๊น”๋”ํ•˜๊ฒŒ ํ•ด๊ฒฐ๋ ์ค„์€ ๋ชฐ๋ž๋„ค์š”. 

 

 

* ํ—ˆ๊น…์ŠคํŽ˜์ด์Šค eeve-dodari ๋ชจ๋ธ ๋งํฌ

https://huggingface.co/blueflag/eeve-yanolja-dodari

 

* eeve-dodari-gguf ๋ชจ๋ธ ๋งํฌ (8bit์–‘์žํ™”)

https://huggingface.co/blueflag/eeve-yanolja-dodari_gguf

 

* basic template

prompt = f'''
Translate Human sentences into {์–ธ์–ด์„ค์ •. Korean or English} in short. Do not add anything else.\nHuman: {๋ฒˆ์—ญํ•  ๋ฌธ๊ตฌ}\nAssistant:\n
'''

 

* ์ง์ ‘ ๋ชจ๋ธ ๋กœ๋”ฉํ•˜์—ฌ ์‚ฌ์šฉํ•˜์‹ค ๋ถ„๋“ค์—๊ฒŒ

์œ„ ๋ชจ๋ธ์„ ๋‹ค์šด๋กœ๋“œ ๋ฐ›์œผ์‹  ํ›„ prompt๋ฅผ ์œ„์™€ ๊ฐ™์€ ํ˜•์‹์œผ๋กœ ๋ฒˆ์—ญ์š”์ฒญํ•˜์‹œ๋ฉด ์•„์ฃผ ๊น”๋”ํ•œ ๊ฒฐ๊ณผ๋ฅผ ๋ณด์‹ค์ˆ˜ ์žˆ์„ ๊ฒ๋‹ˆ๋‹ค.

 

 

์ด๋ฒˆ ํŒŒ์ธํŠœ๋‹ ์ž‘์—…์— ๋ฐ€๋ ค ๋„๋‹ค๋ฆฌ ๊ณ ๊ธ‰๋ชจ๋ธ ์ฝ”๋“œ ๊ณต๊ฐœ๊ฐ€ ๋”์šฑ ๋Šฆ์–ด์กŒ๋„ค์š”. ํ•˜์ง€๋งŒ ์ด๋ฒˆ ํŒŒ์ธํŠœ๋‹ ์„ฑ๊ณผ๊ฐ€ ์ข‹์€ ๋งŒํผ ์ฝ”๋“œ๋“ค์„ ๋”์šฑ ๋‹ค๋“ฌ์–ด ๊ณต๊ฐœํ•˜๋„๋ก ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค.

 

* ๋„ค์ด๋ฒ„ ์Šค๋งˆํŠธ ์Šคํ† ์–ด๋ฅผ ํ†ตํ•ด ๋„๋‹ค๋ฆฌ๋ฅผ ์ด์šฉํ•˜์‹ค์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

1. ๋„๋‹ค๋ฆฌ ํ…์ŠคํŠธ txt ๊ณ ๊ธ‰ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ
2. ๋„๋‹ค๋ฆฌ ์ „์ž์ฑ… epub ๊ณ ๊ธ‰ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ
3. ๋„๋ผ๋ฆฌ 70๋ถ„ ์ž์œ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ

+ Recent posts