ํ‹ฐ์Šคํ† ๋ฆฌ

Wookang makes AI
๊ฒ€์ƒ‰ํ•˜๊ธฐ

๋ธ”๋กœ๊ทธ ํ™ˆ

Wookang makes AI

blog.himion.com/m

1. ์ž์—ฐ์–ด 2. ๋น„์ „ 3. ๊ฒŒ์ž„

๊ตฌ๋…์ž
1
๋ฐฉ๋ช…๋ก ๋ฐฉ๋ฌธํ•˜๊ธฐ
๊ณต์ง€ 2025๋…„ ๋งค์ผ ๊ธฐ๋ก ๋ชจ๋‘๋ณด๊ธฐ

์ฃผ์š” ๊ธ€ ๋ชฉ๋ก

  • ๋„๋‹ค๋ฆฌ ๊ณ ๊ธ‰๋ฒˆ์—ญ - ์•ผ๋†€์ž ๋ชจ๋ธ - ๊ณต๊ฐœ ์˜ˆ์ • ๋„๋‹ค๋ฆฌ ๊ณ ๊ธ‰ ๋ฒˆ์—ญ์ด ์–ด๋Š์ •๋„ ์•ˆ์ •๋จ์— ๋”ฐ๋ผ ์ฝ”๋“œ ๊ณต๊ฐœ๋ฅผ ๊ฒฐ์ •ํ–ˆ์Šต๋‹ˆ๋‹ค.vram์ด 23์ด์ƒ์ผ๋•Œ ์•ผ๋†€์ž ๋ชจ๋ธ์‚ฌ์šฉ ๊ฐ€๋Šฅ์šด์˜์ฒด์ œ๊ฐ€ ๋ฆฌ๋ˆ…์Šค์ผ ๊ฒฝ์šฐ vllm(AI ๊ฐ€์† ๋ชจ๋“ˆ) ์‚ฌ์šฉ ๊ฐ€๋Šฅ๋ฒˆ์—ญ ํ”„๋กฌํ”„ํŠธ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•ํ•„ํ„ฐ ๋ฌธ๊ตฌ ์ปค์Šคํ„ฐ๋งˆ์ด์ง•ํ˜„์žฌ ์ฝ”๋“œ๋Š” ๊ฐœ๋ฐœ์ž์ธ ์ €์—๊ฒŒ๋งŒ ๋งž์ถฐ์ ธ ์žˆ์–ด ๋นˆํ‹ˆ์ด ๋งŽ์Šต๋‹ˆ๋‹ค.๋ชจ๋‘๊ฐ€ ์“ธ์ˆ˜ ์žˆ๊ฒŒ ๋ฐ”๊พธ๋Š”๋ฐ์—๋Š” ์‹œ๊ฐ„์ด ์ข€ ๊ฑธ๋ฆด ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์†Œ์Šค์ฝ”๋“œ ์ „๋ฉด ๊ณต๊ฐœ ํ›„ ๋‹ค์‹œ ๊ณต์ง€ํ•˜๊ฒ ์Šต๋‹ˆ๋‹ค!ํ˜„์žฌ(24.07.19) eeve(๊ณ ๊ธ‰๋ฒˆ์—ญ)๋ชจ๋ธ์„ ํŒŒ์ธํŠœ๋‹ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.์—ฌ๋Ÿฌ๋ฐฉ์‹์œผ๋กœ ์ „์ฒ˜๋ฆฌ, ํ›„์ฒ˜๋ฆฌ, ํ”„๋กฌํ”„ํŠธ ์—”์ง€๋‹ˆ์–ด๋ง์„ ํ…Œ์ŠคํŠธ ํ•ด๋ณด์•˜์ง€๋งŒ๋ฒˆ์—ญ ์ถœ๋ ฅ์‹œ ๋ฐœ์ƒํ•˜๋Š” ํ™˜๊ฐํ˜„์ƒ์„ ์ œ๊ฑฐํ•˜๊ธฐ ์–ด๋ ค์› ๊ธฐ ๋•Œ๋ฌธ์ž…๋‹ˆ๋‹ค. ์˜ค๋Š˜ 3์ฐจ ํŒŒ์ธํŠœ๋‹ ๊ฒฐ๊ณผ๋ฌผ์„ ์ด์šฉํ•ด ํ…Œ์ŠคํŠธ๋ฅผ ํ•˜๊ณ  ์žˆ๋Š”๋ฐ ์ง€๊ธˆ๊นŒ์ง€๋Š” ๊ฒฐ๊ณผ๊ฐ€ ํฌ๋ง์ ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹ค. => ๋‹ค์‹œ ๋น„๊ด€์ ์œผ๋กœ ๋ณด์ž…๋‹ˆ๋‹คggu.. ๊ณต๊ฐ์ˆ˜ 0 ๋Œ“๊ธ€์ˆ˜ 0 2024. 6. 19.
  • ๋„๋‹ค๋ฆฌ AI๋กœ ์ดˆ๋ฒŒ๋ฒˆ์—ญํ•˜๊ธฐ * ๋„ค์ด๋ฒ„ ์Šค๋งˆํŠธ ์Šคํ† ์–ด๋ฅผ ํ†ตํ•ด ๋„๋‹ค๋ฆฌ๋ฅผ ์ด์šฉํ•˜์‹ค์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.1. ๋„๋‹ค๋ฆฌ ํ…์ŠคํŠธ txt ๊ณ ๊ธ‰ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ2. ๋„๋‹ค๋ฆฌ ์ „์ž์ฑ… epub ๊ณ ๊ธ‰ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ3. ๋„๋ผ๋ฆฌ 70๋ถ„ ์ž์œ ๋ฒˆ์—ญํ•˜๋Ÿฌ ๊ฐ€๊ธฐ ๊ณต๊ฐ์ˆ˜ 0 ๋Œ“๊ธ€์ˆ˜ 0 2024. 6. 14.
  • AI๋ฒˆ์—ญ๊ธฐ ๋„๋‹ค๋ฆฌ, ์ž๋ง‰(srt)๋ฒˆ์—ญ ์ถ”๊ฐ€ * ๋™๊ธฐ1. ๊ธฐ์ˆ ๊ด€๋ จ ์˜์ƒ์€ ์ž๋™์ƒ์„ฑ ์ž๋ง‰์ด๋ผ๋„ ์–ด์ฐŒ์–ด์ฐŒ ํ•ด๋ณผ๋งŒํ•˜์ง€๋งŒ ๋‹คํ๋ฉ˜ํ„ฐ๋ฆฌ๋‚˜ ์ธํ„ฐ๋ทฐ ์˜์ƒ์˜ ๊ฒฝ์šฐ ๋„์ €ํžˆ ํ™”๋ฉด์„ ๋”ฐ๋ผ๊ฐˆ์ˆ˜ ์—†์—ˆ๋‹ค.2. ๋†’์€ ์ˆ˜์ค€์ด ์•„๋‹ˆ์–ด๋„ ์ข‹์œผ๋‹ˆ ๋‚ด์šฉ์„ ์–ด๋Š ์ •๋„๋Š” ๋”ฐ๋ผ๊ฐ€๊ฒŒ ํ•ด์ค„ ๋ฒˆ์—ญ์ด ํ•„์š”ํ–ˆ๋‹ค. * ๊ธฐ๋Šฅ1. ์ด์— ๋„๋‹ค๋ฆฌ ์— ์ž๋ง‰๋ฒˆ์—ญ(srtํŒŒ์ผ) ๊ธฐ๋Šฅ์„ ์ถ”๊ฐ€ํ–ˆ๋‹ค.2. smi ๋ฒˆ์—ญ๋„ ์ถ”๊ฐ€ํ• ๊นŒํ•ด์„œ ์•Œ์•„๋ณด๋‹ˆ ์ด๊ฑด ํ•œ๊ตญ์—์„œ๋งŒ ์‚ฌ์šฉํ•˜๋Š” ํŒŒ์ผํ˜•์‹์ด๋ผ ํ•œ๋‹ค. ๊ทธ๋ž˜์„œ ๋นผ๋ฒ„๋ ธ๋‹ค.3. ์‚ฌ์šฉ๋ฒ•์€ ๋‹ค๋ฅธ ๋ฒˆ์—ญ๊ณผ ์™„์ „ํžˆ ๋™์ผํ•˜๋‹ค. srtํŒŒ์ผ์„ ๋“œ๋ž˜๊ทธ ํ•˜์—ฌ ์ฒจ๋ถ€ํ•œ ํ›„ ๋ฒˆ์—ญ๋ฒ„ํŠผ์„ ๋ˆ„๋ฅด๋ฉด ๋œ๋‹ค. * ์œ ํŠœ๋ธŒ ์˜์ƒ์— ๋Œ€ํ•˜์—ฌ1. ์‚ฌ์‹ค ์œ ํŠœ๋ธŒ ์ฃผ์†Œ๋งŒ ๋„ฃ์œผ๋ฉด ์˜์ƒ๊ณผ ์ž๋ง‰์„ ์ž๋™์œผ๋กœ ๋ฐ›๊ณ  ๋ฒˆ์—ญ๊นŒ์ง€ ํ•˜๋Š”๊ฑธ ์ด๋ฏธ ๊ฐœ๋ฐœํ–ˆ๋‹ค.2. ๊ทธ๋Ÿฐ๋ฐ ๋น„์Šทํ•œ ๊ธฐ๋Šฅ์„ ๊ฐ€์ง„ ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ whisper-webui ๊ฐ€ ์ด๋ฏธ ์žˆ๋‹ค.3. ๋‹ค๋ฅธ ์ ์ด๋ผ๋ฉด wh.. ๊ณต๊ฐ์ˆ˜ 0 ๋Œ“๊ธ€์ˆ˜ 0 2024. 5. 24.
  • [Text-Generative-Diffusion] WSL์— ์„ค์น˜ํ•˜๊ธฐ ์ฝ˜๋‹ค๋กœ ์ƒˆ๋กœ์šด ๊ฐ€์ƒํ™˜๊ฒฝ ๋งŒ๋“ค์–ด์ค€๋‹ค conda create -n textgen python=3.10 ์ด ํ™˜๊ฒฝ ์•„๋ž˜์— ์„ค์น˜ํ•œ ํ›„ ํ™œ์„ฑํ™”ํ•˜๊ธฐ conda activate textgen ๋ผ์ด๋ธŒ๋Ÿฌ๋ฆฌ๋“ค์„ ์„ค์น˜ํ•œ๋‹ค conda install cuda pytorch torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia/label/cuda-11.7.0 ์ด์ œ ๊นƒํ—™์—์„œ ๋ฐ›์•„์˜ค์ž git clone https://github.com/oobabooga/text-generation-webui.git pip install ninja cd text-generation-webui pip install -r requirements.txt ์œ„์™€ ๊ฐ™์€ ์—๋Ÿฌ๊ฐ€ ๋œฌ๋‹ค. ํ•œ๋ฒˆ ์žก์•„๋ณด์ž. htt.. ๊ณต๊ฐ์ˆ˜ 0 ๋Œ“๊ธ€์ˆ˜ 0 2023. 6. 17.
    ๋ฌธ์˜์•ˆ๋‚ด
    • ํ‹ฐ์Šคํ† ๋ฆฌ
    • ๋กœ๊ทธ์ธ
    • ๊ณ ๊ฐ์„ผํ„ฐ

    ํ‹ฐ์Šคํ† ๋ฆฌ๋Š” ์นด์นด์˜ค์—์„œ ์‚ฌ๋ž‘์„ ๋‹ด์•„ ๋งŒ๋“ญ๋‹ˆ๋‹ค.

    ยฉ Kakao Corp.