Wookang makes AI

지금은 새벽 1시가 넘은 시간. 못해도 2시간은 더 있다가 잠들텐데,

배가 고프다.

도무지 일이 손에 잡히지 않는다. 고양이 똥을 치우고 모래를 청소하고 이불을 펼치면서 계속 배가 고프다 소리를 내뱉고 있다.

하지만 이 배고픔은 거짓이다.

나는 지난 이틀간 평소보다 1kg가 더 찐 상태로 있었다. 정말 내 몸이 음식을 원한다면 그 1kg를 사용하면 될 것이다.

오늘 배고픔을 참아내지 못하면 내일은 더 힘들어질 것이다.

...

그럼에도 끝내 견디지 못하고 고구마라떼를 한봉 탔다.

나처럼 표준 체중에 근육이 많고 식욕이 약한사람도 배고픔을 견뎌내는건 힘들일이다.

그러니 일반적인 식욕의 다른 사람들은 얼마나 힘들까.

최대한 빨리 1kg만 빼자.

그러면 전처럼 마음놓고 먹어도 된다.

고무마라떼 한봉을 먹고 나니 다시 마음이 여유로워졌다.

참으로 신기하다. 

eeve 파인튜닝은 잘되고 있다. 내일 오후쯤에는 결과를 확인해볼수 있지 않을까.

오늘의 복기 24.07.22

당시 10킬로를 달려 0.8kg를 뺐었으나 술을 먹자마자 1.5kg가 쪄서 오히려 더 엉망이 되었다. 밥을 먹어도 최대 0.5kg이상 쪄본적이 없었는데 1.5kg은 정말이지 충격이었다.

전기자전거를 모터없이 허벅기엔진으로 30km를 타보았지만 역시나 별 효과가 없었다.

어제 저녁 10시, 다행이 비가 오지 않기에 다시 달리기를 했다.

러닝머신이 아닌 도로주행?은 실로 오랜만이라 살살달렸는데도 근육컨트롤이 잘 안되었다.

사무실에 도착하자마자 몸무게를 쟤보니 1.2kg 삭제. 간단히 식사를 하고 뛰었기에 포만감도 여전한 상태여서 이대로 수면에 들어갈수가 있었다.

최종, 2kg감량. 자면서 0.8kg이 더 빠졌다. 원래의 루틴으로 돌아온거다.

방금 점심을 먹었는데도 겨우 0.3kg만 늘었다. 지금 이 구간이 살이찌면 얼굴만 찌는 구간인지라 얼굴이 다시 날렵하게 돌아왔다.

이제 한동안 몸무게 걱정없이 살수있다.

* 결론

1. 술을 마시면 엄청나게 찐다. 그러니 일주일에 한번 이상은 안된다.

2. 달리기를 하면 엄청나게 뺄수있다. 다만 저번주처럼 40km 씩 뛰는 건 발바닥에 부담이 간다. 20km 내외만 뛰어도 몸무게가 유지될수 있는 생활습관을 유지하자. 남들이 보면 우습게 생각하겠지만 개인적으로 이번의 다이어트가 가장 힘들었다. 

파인튜닝 데이터를 만들던 중 아래처럼 영단어와 뜻으로 구성된 json파일이 필요했다. 대략 500개정도 있으면 충분할 거 같았다.

{
    "plain": "솔직한",
    "parallel": "평행한",
    "crack": "금이 가다",
    "Red": "빨간색",
    "deal": "거래",
    "size": "크기",
}

혹시나해서 chatgpt에게 물어보니 바로 만들어줬다. 그런데 단지 결과만 알려준게 아니라 파이썬 코드도 함께 알려줬다.

나는 코드를 요구한적도 없었는데 말이다. (아마도 이전 대화기록을 바탕으로 추론했을것이다)

더구나 나는 코드로 이런걸 만들어내는수가 있을거라 생각한적도 없었다.

코드를 보니 ntlk라는 라이브러리 안에 영어사전이 있고 이것을 가져와 구글 번역 api로 번역을 하는 것 같다.

막상 코드를 돌려보니 사람들이 거의 사용하지 않는 단어들을 무작위로 500개 가져오기에

한번 더 chatgpt의 힘을 빌려 코드를 보강했다.

기능은 아래와 같다.

1. 생성하고자 하는 영단어 수를 입력하면(아래 주석부분을 수정)
2. 상위빈도 5000개의 단어를 먼저 가져와(물론 이것도 아래 코드에서 5000을 원하는 값으로 수정하면된다)
3. 그 중 명사와 동사만 추려낸 후
4. 랜덤하게 500개만 json형식으로 파일로 저장하는 것이다.

* 이제 돌려보자

1. 먼저 설치할게 하나있다

pip install nltk googletrans==4.0.0-rc1

2. 다음 아래 코드를 그냥 붙여넣기하고 돌리면 된다.

- 처음에는 사전을 다운로드 하는데 시간이 좀 걸린다

import random, time
import nltk
from nltk.corpus import words, brown
from collections import Counter
from googletrans import Translator
import json

# NLTK 데이터 다운로드 (한번만 실행하면 됩니다)
nltk.download('words')
nltk.download('brown')
nltk.download('averaged_perceptron_tagger')

# 생성하고자 하는 영단어 개수를 입력
word_count = 500

# 모든 영어 단어 목록
word_list = words.words()

# Brown 코퍼스의 단어 목록과 빈도 계산
brown_words = brown.words()
word_freq = Counter(brown_words)

# 빈도가 높은 상위 단어 5000개 선택
common_words = {word for word, freq in word_freq.most_common(5000)}

# word_list에서 상위 빈도 단어만 선택
filtered_word_list = [word for word in word_list if word.lower() in common_words]

# 품사 태깅하여 명사와 동사만 필터링
tagged_words = nltk.pos_tag(filtered_word_list)

# 명사와 동사 품사 태그 목록
noun_tags = {'NN', 'NNS', 'NNP', 'NNPS'}
verb_tags = {'VB', 'VBD', 'VBG', 'VBN', 'VBP', 'VBZ'}

# 명사와 동사만 필터링
filtered_nouns_and_verbs = [word for word, tag in tagged_words if tag in noun_tags or tag in verb_tags]

# 그 중 랜덤하게 500개의 단어를 선택합니다.
random_words = random.sample(filtered_nouns_and_verbs, word_count)
# Google Translate API를 사용하여 번역합니다.
translator = Translator()
translated_dict = {}

def save():
    with open('translated_words.json', 'w', encoding='utf-8') as f:
        json.dump(translated_dict, f, ensure_ascii=False, indent=4)

for idx, word in enumerate(random_words):
    try:
        translated_word = translator.translate(word, src='en', dest='ko').text
        print(idx+1, word, translated_word)
        translated_dict[word] = translated_word
        time.sleep(1)
    except:
        print('중간에 오류발생. 지금까지 작업한 것들 저장함')
        save()
        
    
# JSON 파일로 저장합니다.
save()

print(f"{len(random_words)}개의 단어가 번역되고 JSON 파일로 저장되었습니다.")

위 코드를 돌리면 아래 파일과 같은 결과를 얻을 수 있다.

거의 100% chatgpt가 코딩한 결과이고 나는 편의를 위한 사소한 수정과 코드 조합만 했다.

이쪽 분야에 있으면서도 새삼 놀라운 세상임을 느낀 하루였다.

안양천을 돌다가 갑자기 궁금해져서 올라갔다.

해발고도 481m, 전기자전거 배터리가 한칸밖에 남지 않았는데 왜 이리도 가파르고 험난한건지 허벅지 근육이 터지는거 같았다. 너무 힘들어 중간에 포기하고 어디까지 왔나 스샷을 찍으며 잠깐 쉬었더니 힘이 재충전되어 다시 올라갈수 있었다. 하지만 중간중간 여러번 쉬면서 올라가야 했다. 해발 300m 쯤부터는 올라가는 사람도 내려가는 사람도 아무도 없었다. 회색구름과 짙은 그늘 그리고 나 뿐이었다.

막상 최정상까지 올라가보니 KT중계기가 길을 막고 있었다. 

이렇게 고생하며 올라갔는데 이런 결말이라니..

아래의 이미지를 영상으로 바꿔보고 싶었다.

1. svd로 여러 설정을 바꿔가며 영상을 만들어봤지만 하나같이 움직임이 없었다.

2. 단순히 확대만 하거나 왼쪽에서 오른쪽으로만 움직였다. 이미지는 그대로였다.

3. 아무래도 낯선 괴물이다보니 fragment로 쪼개지를 못하는 거 같았다. 그런데 파도도 움직이지 못하는건 좀 서운했다.

혹시나 해서 런웨이(https://app.runwayml.com/video-tools/teams/virlitinc/dashboard)로 영상을 만들어봤다. 그래서 나온게 아래 영상이다.

이 역동성이 대단하지 않은가?

영상 생성분야는 각 fragment를 인식하고 그 요소가 어떻게 움직이는지 학습이 되어 있어야 위와 같은 움직임을 만들어낼수 있다. svd에 촉수를 가진 바다괴물의 움직임이 선학습되었기를 기대하는건 무리가 있겠지만 이미 gen-2는 그것을 보여주고 있다. gen-3는 더욱 대단하지 않을까.

(여러 괴물이미지로 다른 영상들도 만들어봤는데 사실 runway도 다른 괴물들은 잘 인식하지 못했다. 아래와 비슷하게 나온다)

fragment인식의 차이는 아닌것으로 보인다. 어떤 것을 어떻게 얼마만큼 움직여야 하는지의 학습의 차이로 보인다. 확실히 이 분야는 '돈'싸움이 될 것같다. svd의 한계가 너무 명확해 보여 '매우' 아쉽다.

* 동기

forge가 뭔지도 몰랐는데  아래 영상 덕분에 알게 되었다. 말그대로 webUI의 강화버전으로 보였다.

특히 SVD를 webUI에서 사용할 수 있다는 것이 마음에 들었다. 

* 설치하기

- 나처럼 개발좀 안다고 기존 webUI에 git branch를 바꿔서 설치하지 마라. 그 동안 내가 커스터 마이징해왔던 파일들 때문에 merge가 곤란해진다. 설령 백업후 discard한다해도 requirements 라이브러리가 달라 계속 꼬인다. 그냥 새로 설치하자.

1. webUI 설치와 동일하게 하면 된다.
git clone https://github.com/lllyasviel/stable-diffusion-webui-forge.git sd-forge
cd sd-forge

실행하기 전에 기존 webUI의 모듈을 가져다 쓰기 위해 설정을 먼저 해준다
2. webui-user.bat 파일을 연후 아래와 같이 편집하자. 

@echo off
set COMMANDLINE_ARGS=
@REM Uncomment following code to reference an existing A1111 checkout.
set A1111_HOME=E:/Libraries/stable-diffusion-sdxl

@REM set VENV_DIR=%A1111_HOME%/venv
set COMMANDLINE_ARGS=%COMMANDLINE_ARGS% ^
 --ckpt-dir %A1111_HOME%/models/Stable-diffusion ^
 --hypernetwork-dir %A1111_HOME%/models/hypernetworks ^
 --embeddings-dir %A1111_HOME%/embeddings ^
 --lora-dir %A1111_HOME%/models/Lora ^
 --vae-dir %A1111_HOME%/models/VAE

call webui.bat

3. A1111_HOME= 에 webUI의 폴더위치를 넣고 - 다만 꼭 \ 를 / 로 모두 바꿔줘야한다. 그래야만 인식한다.

4.  나머지는 기존 주석을 풀어만 주면된다(@Rem을 모두 지워주면 주석이 풀린다)
5. 실행시 추가하고픈 사항이 있다면 상단의 COMMANDLINE_ARGS=에 넣어주면된다.

- venv는 계속 주석을 유지한다. 주석을 풀어보니 webUI에서 사용하는 라이브러리들과 forge에서 사용하는 라이브러리가 달라 에러가 발생하기 때문이다. 그냥 forge용 라이브러리를 추가로 설치하자.
- 위 유튜브와 설명이 다를꺼다. webui-user.bat 설정하는 부분은 내 방식을 따르는게 편하고 빠르다.

6. 루트폴더 있는 style.csv 파일을 복사해서 같은 위치에 넣어주자. 이 파일안에는 내가 설정해 놓은 프롬프트들이 설정들이 모두 들어가 있다.

7. 이제 webui-user.bat를 실행해보자.

잘된다. svd와 z123탭이 추가된 것을 확인할수 있다. 이외 설치사항은 위 유튜브를 참고하자.

출력도 좋다

* 동기

이미지를 움직여보고 싶었다. 최근 유튜브 준비를 하고 있는데 내가 뭐 멋진 영상을 찍고 끝내주는 편집을 하고 그러지 못하기에 sd로 뽑은 멋진 이미지들을 움직여 조금이라도 영상에 적합한 소스를 만들어보고 싶었다.

Runway가 가장 유명해서 사용해봤는데 확실히 쉽고 빨랐다. (아래 영상)

- 하지만 무료버전은 이미지 해상도가 뭉개지고 오른쪽 하단에 워터마크가 크게 나온다. 저 3개의 원은 계속 움직이며 시선을 끈다.

- 유료버전의 credit도 어떤 방식으로 소비되는지 복잡하게 되어있다. 월 12달러에 625크레딧을 주는데 이게 무슨 의미인지 이걸로 몇개의 영상을 만들 수 있는지 감이 오지 않았다.

- 뭔가 새로운 움직임에 대한 기대감이 적었다. 움직이고자 하는 objects를 선택할수 있는건 좋았지만 그게 체감되진 않았다.

- comfyUI를 새로 익혀야 한다는 부담감이 있었지만 그럼에도 역시, 직접 만드는게 좋아보였다.

* 설치

1. 먼저 comfyUI를 설치해야한다. stable diffusion webui와 똑같지만 ui가 다르다. 언리얼처럼 노드를 연결해 사용하는 툴이다.

• https://github.com/comfyanonymous/ComfyUI?tab=readme-ov-file#installing
• 압축파일을 다운로드 받아서 압축을 풀면 된다. 추가 설치가 없었다. 아주 빠르게 실행된다.

2. 기존 스테이블디퓨전의 모델들을 함께 사용하기 위해서는 설정이 필요하다. 폴더 안으로 들어가서 extra_model_paths.yaml.example 파일을 연다. 

• 먼저 파일명 끝에 .example을 제거한다.

a111:

    base_path: E:\Libraries\stable-diff-sdxl

    checkpoints: checkpoints: models/svd

    controlnet: extensions\sd-webui-controlnet\models

• base_path에 기존 stable diffusion 폴더로 넣는다. 이렇게 하면 기존의 stable diffusion의 모든 모델과 vae, lora등을 함께 쓸 수 있다.
• controlnet의 경우 경로가 잘못되어 있다. 위와같이 바꿔주자
• run_nvidia_gpu.bat 를 실행시시면 8188포트로 창이 열린다.

3. 매니저도 꼭 설치해야한단다. 설치하면 아래 스샷처럼 manager버튼이 나타난다.

• ComfyUI\custom_nodes 안으로 이동한다.

E:\Libraries\ComfyUI_windows_portable\ComfyUI\custom_nodes 

• git clone https://github.com/ltdrdata/ComfyUI-Manager.git
• 설치후 ComfyUI를 재시작한다. 아래와 같이 Manager탭이 추가된다.

4. 허깅스페이스에서 모델들을 다운받는다. 일반 모델 2개와 xt 모델 2개를 받는다. 나처럼 xt만 쓸사람은 xt만 2개 받아도 된다.

• https://huggingface.co/stabilityai/stable-video-diffusion-img2vid/tree/main
• https://huggingface.co/stabilityai/stable-video-diffusion-img2vid-xt/tree/main

• 이걸 sd의 체크포인트를 넣는곳에 E:\Libraries\stable-diff-sdxl\models\svd 붙여넣는다. 

5. 워크플로우 가져오기

• https://comfyanonymous.github.io/ComfyUI_examples/video/
• 위 사이트로 들어가서 아래 이미지를 드래그하여 화면위에 드랍하면 워크플로우가 가져와진다. 이건 좀 신기하다.

• 저기서 맨 끝의 SaveAnimateWEBP는 지운다. 그리고 다음 6번을 따라가자

6. Manager버튼을 클릭한후

• 맨위의 Custom Nodes Manager 버튼을 클릭

• 그리고 vhs를 검색하여 나온 ComfyUI-VideoHelperSuite를 install 한다

• 또 ComfyUI Frame Interpolation 를 검색해서 설치한다

• 다시 재시작
• 바탕 더블클릭하여 vfi를 검색한 후 RIFE를 추가 - 이건 프레임마다 중간 보간을 해주는 역할을 한다

• 다시 vhs 검색한 후 추가해준다

7. 이제 모두 연결해준다

* 실행

• 사이즈는 16:9가 기본이라고 한다. 하지만 업로드 이미지 크기를 맞춰주는게 좋았다.
• svd_xt는 frame을 25로 할수 있다. 기본은 10이다
• 변화량을 결정하는 건 motion_bucket_id와 augmentation_level 이라고 한다.
• 해보니 augmentation은 바꾸지 않는게 나은거 같다. 올리면 노이즈가 많이 생긴다. 약간만 올려도 변화가 크다. 0.05가 좋았다. 0.1만 돼도 노이즈가 커진다.
• motion_bucket_id는 전체적인 이미지 변화량이다. 1로 하면 카메라도 거의 변하지 않는다. 127이 기본값이다. 200까지는 해볼만한거 같다.
• fps는 30으로 맞춰줬다. 
• step 30 정도로 품질을 올려준다. cfg는 2.5가 기본이다. 낮추면 매우 이상한 이미지들이 나온다. 

• sampler는 이미지에 맞춰 선택하는게 좋다. euler로 만든 이미지라면 euler을 선택하는게 가장 자연스럽다. 선명하게 뽑고 싶다면 dpmpp_3m_sde_gpu가 가장 좋고 그나마 변화가 있다. 2m은 이미지 변화 없이 안정적으로 카메라 연출만 들어가는 거 같다. 
• scheduler는 normal일 경우 필터 효가가 거의 없이 이미지 그대로 들어가고 ddm_uniform으로 할경우 파란색 필터가 들어간다. 이 정도 변화가 좋아서 현재는 ddm_uniform을 쓰고 있다.

• Video Combine 탭에서 이미지를 출력한다.
• frame_rate는 영상의 길이를 결정한다. 6으로 하면 5~7초 정도가 출력되고 이걸 30으로 하면 1초만 출력된다. 
• 여기서 출력 포맷도 gif등으로 바꿔 출력할수있다.

* 결론

위 이미지를 돌려서 아래의 영상을 만들었다.

• 크기를 키우면 속도가 느려지긴 하지만 충분히 빠르다. 4090에서 5초 영상 만드는데 2분 10초가 걸렸다. 보통은 2분이내 이고 512x512처럼 작은 사이즈는 15초정도 걸린다. 매우 마음에 든다.
• 카메라 컨트롤을 해보려고 하는데 아직 방법을 못찾고 있다. - 여기저기 알아보며 며칠간 더 만져봤는데 컨트롤이 불가능한거 같다.
• 어쩔때는 전혀 생각지 못한 사진 너머의 모습을 보여준다. 여행을 떠나는 기분이었다.
• 아주 만족스럽다.

* 서비스를 사용할지 결정하기

1. '말하는 AI 아바타'를 내 PC에서 직접 만드는 방법은 현재(24.07.01)까지 stable diffusion webui에서 sadtalker를 이용하는 것 외에 찾아내지 못했다.

2. sadtalker(https://github.com/OpenTalker/SadTalker)는 마지막 업데이트가 9개월 전이고 이제 더이상 업데이트를 기대할수 없는 dead 상태이다. 상업화된 서비스는 많은데 오픈된 서비스가 없다는 건 그만큼 시장성이 없다는 뜻일지 모르겠다.

3. 그럼에도 sadtalker의 품질은 괜찮아 보인다. coqui tts와 함께 쓰면 나쁘지 않을 거 같다.

* 설치 상황

1. 윈도우 버전을 설치한다.

2. stable diffusion webui 1.7이하 버전에서만 정상적으로 돌아간다. 현재 최신버전인 1.94에서는 설치에러가 난다.

3. https://github.com/OpenTalker/SadTalker/issues/822#issuecomment-2053857698 에 여러 방법들이 나와있는데 모두 해보았지만 not working이었다.

4. 그렇다고 최신버전을 1.7로 낮추면 안된다. 1.8부터 바뀐사항이 많아 기본 이미지 생성부터 에러가 난다.

5. 최종 결정. sadtalker만을 위한 새로운 1.7버전을 만든다. 즉 최신버전 sd와 1.7버전 sd로 이원화 한다.

- sadtalker는 생각보다 가볍고 다른 체크포인트나 로라같은 걸 공통 사용하지 않기 때문에 부담이 없다. 1.8이상부터 이전 버전과 호환되지 않는 것들이 꽤 많은데 이런것들은 모두 여기서 돌린다.

* 설치하기

1. stable diffusion webui 새로 설치하기

git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git

2. sd 폴더 안에 들어간 후 아래의 git명령으로 1.7버전으로 돌린다.

git reset --hard cf2772f 

3. webui-user.bat 로 설치를 시작한다.

4. 설치 후 sd를 실행하고 

Extentions 탭 > Available > Load from클릭 > sad로 검색해서 설치
https://github.com/OpenTalker/SadTalker.git 

5.ffmpeg 설치 후 환경변수 설정
아래 링크에서 윈도우용 다운로드 받고 
https://www.ffmpeg.org/download.html#build-windows

파일이 압축되어 있다. 압축을 푼 후 bin폴더 안에 아래 3개 파일 모두를 path설정을 원하는 곳에 이동시킨후

아래처럼 설정해준다. 나는 c:\Program files안에 새로 폴더를 만들어 붙여넣었다.

이렇게 어디서든 저 3파일을 실행시킬 수 있게 path설정을 해줘야한다. 안하면 에러난다.

6. 체크포인트 다운로드
https://github.com/OpenTalker/SadTalker/releases/tag/v0.0.2-rc

안에 들어가서 하단의 4개 파일을 다운로드 받는다.

이 4개의 파일 모두, stable diffusion폴더 > extensions > checkpoints(폴더 새로 생성) 후 이 아래에 붙여넣는다.

7. 실행

- webui-user.bat를 더블클릭해서 실행. 사용법이 간단해서 좋다.

- 아래 순서대로 하면된다.

- 생성 버튼 위에 있는 GFPGAN as Face enhancer는 보간법을 이용해 얼굴의 품질을 올려주는 옵션인데 시간이 너무 많이 걸려 - 체크 하지 않을때와 비교해 10배가 넘게 걸리는 거 같다 - 테스트를 많이 못했다. 좋은 품질이 더욱 중요하다면 체크하는 것도 좋을것이다.

8. 결론

- 여러 테스트를 해봤는데 사람얼굴은 인식을 잘하지만 조금만 사람같지 않아도? 인식을 못하고 에러가 난다. 이게 좀 아쉽다.

- 생성시간이 매우 짧다. 4090에서는 한클립에 5,6초 걸리는거 같다. 이 정도면 실제로 사용가능한 수준이다.

- 음성쪽은 llm에 비해 오픈소스 기반이 많이 약하다. 나부터도 이쪽은 잘 모른다. 하지만 실제의 쓰임은 글자보다 오히려 음성이 더 클것이다. 좀 더 팔로우할 생각이다.

xtts-webui는 자연스러운 음성생성 xtts를 사용하기 쉽게 만든 라이브러리다.

https://github.com/daswer123/xtts-webui.git

*  윈도우에 설치 하기

- 깃헙에 설명된대로 아주 간단하게 설치된다. 개발자가 배치파일을 잘 만들었다.

1. git clone https://github.com/daswer123/xtts-webui.git xtts
2. cd xtts
3. 'install.bat' 실행
- 한참을 설치한다.
4. 'start_xtts_webui.bat' 실행
마찬가지로 한참을 설치한다.
5. 부드럽게 실행된다. 웹페이지가 뜬다.

사용법은 다음 포스팅에 정리한다.

올해 초 처음 테무에서 실험삼아 가방과 무선 이어폰을 샀다.

모니터 화면으로는 그럴듯했으나 실제로 받아보니 재질이 이상했다. 부스럭 거리는 비닐같았다. 그리고 너무나 가벼웠다. 그냥 보기에도 싼티 작렬이었다. 실제로도 쌌으니 할말은 없었다.

무선이어폰은 충전단자가 micro usb 옛날 방식이었다. 소리는 나쁘지 않았지만 기능에 문제가 많았다. 이어폰을 귀에서 제거하고 케이스에 넣어도 음악이 계속 흘러나왔다. 휴대폰과 이어폰의 연결이 자동으로 끊어지지 않았다. 휴대폰에서 직접 음악을 멈춰야만 이어폰에서 나오던 소리가 멈췄다. 휴대폰에서 블루투스 접속을 직접 끊어줘야만 했다.

한마디로 쓰레기였다.

당시 테무에서 결제 정보를 빼간다는 소문도 나돌았다. 바로 카드정보를 삭제하고 앱도 지웠다.

내가 다시 테무로 돌아온건 어이없게도 침착맨의 테무깡 영상 때문이었다.

구독하지도 않는 사람의 영상이 추천으로 뜬 이유는 아마도 인기급상승 동영상이었기 때문이겠지만 어쨌든 저 영상을 보고 테무에서서 무엇을 사고 무엇을 사지 말아야할지 감을 잡을 수 있었다.

테무에서 사지 말아야 할것 - 신발이나 가방처럼 기능과 품질이 중요한 제품들, 화학적 작용이 들어가는 모든 제품들

테무에서 사면 괜찮은 것 - 일반 의류나 모자처럼 한번 빨고 입으면 되는 옷들, 한국에서 사기 어려운 디자인의 옷들, 온갖 종류의 케이스나 시계줄, 벨트, 스티커 같은 값싼 악세서리들,

테무에서 사면 아주 좋은 것 - 한국에서 사기 어렵거나 사면 바가지 쓰는 전자제품들, 스펙이 확실히 정해져있는 값싼 전자제품들. 예를들어, sd card adapter, hdmi dummy(이 2개는 한국에서 도저히 살수가 없었다), 입문자용 드론이나 rc car, 스마트 시계(이 3가지는 중국이 월드 넘버원인거 같다), 온도/습도계, dp cable처럼 스펙이 확실한 전자제품들

살때 주의해할 것들 - 재질과 스펙. 개인적으로 면을 좋아하는데 의류 중에 상당수가 아래와 같이 폴리에스테르였다. 디자인만 보고 이뻐서 샀다가 나중에 후회했다. 하지만 리뷰를 보면 이 재질을 좋아하는 사람들도 꽤 있는거 같긴하다.

스펙도 유의해서 봐야한다. 충전방식이 어떤지, 배터리가 얼마나 가는지 등등 디테일한 사항들이 보이지 않는다면 일단 의심을 해야한다. 옛날 규격일수있다.

> 결론

1. 가격을 쿠팡과 비교해도 어떤건 절반이고 상당수는 1/4 가격이다.

2. 품질은 쿠팡과 또이또이하다. 배송기간만 한~참 차이날 뿐이다.

3. 나중에보면 내가 산 제품의 가격이 절반으로 떨어져 있을 때가 있는데 이때는 가격 재조정 신청하면 된다.

- 이게 제일 신기했다. 구입한지 꽤 오랜 시간이 지난 제품도 가격조정이 가능했다.

- 내주문에 들어가면 아래 스샷처럼 '가격조정' 버튼이 보일것이다. 이게 뭔가 싶어 눌러봤더니 내가 구매한 가격과 현재 판매중인 가격과 비교해서 그 차익만큼 바로 크레딧으로 보상해주었다. 다만 한번만 된다ㅋ

- 이건 정말 '신뢰'를 주는 기능이라고 생각한다. 사업적으로나 개발적으로나 도입하기 어려운 기능인데 간단하게 잘 적용되어있다.

4. 혹시나해서 구입 후 바로 환불도 해보고 3일 후 환불도 해봤는데 모두 잘 되었다.

5. 통관에 계속 묶여있기에 as상담도 해보았는데 꽤 확실하게 일처리를 해줬다. 내 물건이 현재 어디에 있고 언제 처리될지도 알려주었다.

6. 테무에서 전세계인들의 리뷰를 읽는것도 꽤 재미있다.

7. 모든 제품이 구겨져서 온다. 구겨지면 안되는 물건은 사지 않는다.

8. 가장 만족스러웠던 물건은 드론과 스마트 워치였다. 둘 합쳐도 3만원 즈음이었는데 성능은 충격적으로 좋았다. 

9. 내 개인정보야 뭐, 이미 대한민국의 대기업들이 전세계에 공유한 정보이니 이에 대해선 마음을 비웠다.

- 지난번 티몬에서 전기자전거 사기를 당한 후 '판매자가 연락이 되지 않아 환불 불가'라는 희대의 핑계를 듣고는 오만정이 떨어졌다. 심지어 소비자보호원 담당자분도 똑같이 이야기했다. 티몬은 항상 이렇게 나오는데 법적으로 어떻게 할수가 없다고. 에휴, 적어도 티몬보단 테무가 훨씬 더 신뢰가 간다.

앞으로도 계속 사용할거다. 모두가 욕해도 나는 테무가 좋다.

● 동기

AI작업을 하다보면 4090의 24GB vram이 간당간당 할때가 있다.

보통 llama2 13b 모델이나 Mixtral의 8x7B 모델은 양자화 시켜 돌릴 수 있지만 max length 조절을 섬세?하게 해야한다.

yanolja-eeve의 경우도 마찬가지다. 메모리 100메가 차이로 가끔씩 out of memory 메시지를 토해낼때가 있다.

이때는 메모리 100, 200메가도 소중한데 이 경우 모니터 출력에 사용하는 메모리만 줄여도 큰 도움이 된다. 내 모니터의 경우 대략 300메가 이상을 먹는다. 

그래서 컴퓨터를 앞에 두고도 직접 접속하지 않고

hdmi 더미 플러그를 이용한 가상의 모니터에 ssh로 원격접속해 vram을 아껴쓰기도 했다.

잠시마나 내장 그래픽을 이용하자는 생각도 했었지만

당시 hp에서 구입한 오멘pc의 내부 모니터 dp단자는 아예 막혀서 출고가 되어 이걸 빼내는 것도 귀찮은 일이어서 미루고 있었다.

하지만 요새 날씨가 더워져 사무실 창문에 노출되어 있는 바깥 파티션은 사용하기 힘들어졌다. 여기는 에어컨 바람도 막혀있다. 선풍기 만으론 4090에서 뿜어내는 열기를 감당할수 없었다. 그래서 대대적으로 사무실 구조를 바꾸며 이번 기회에 미뤄뒀던 작업을 진행하기로 했다.

● 상태

1. 서버PC에서 항상 사용하는 모니터를 4090 데스크탑에서도 보조 모니터로 사용하고 맥북에서도 보조모니터로 사용할 수 있게, 즉 3개의 컴퓨터가 하나의 모니터를 모두 사용할 수 있게 구조를 엮었다. 어차피 서버는 모니터가 거의 필요하지 않고 필요하다 해도 원격으로 붙어 사용하는 경우가 훨씬 더 많기 때문이었다.

2. 4090pc에는 윈도우와 우분투가 함께 깔려 있고 처음 부팅시 grub에서 os를 선택해 실행한다.

3. 4090 PC의 경우. 이제까진 5120x1440 모니터 하나만 썼는데 보조 모니터 하나가 더 생기니 이렇게 편할 수가 없었다.  stable diffusion은 윈도우 기반으로 돌리기 때문에 - 윈도우가 바로 편집할 수 있어 우분투 환경보다 훨씬 낫다 - 그런데 윈도우는 내장 그래픽 카드를 자동으로 인식하지만 우분투는 내장 그래픽 카드를 인식하지 못했다.

4. 대부분의 ai개발이나 llm은 모두 우분투 기반으로 돌리기 때문에 이는 심각한 문제였다.

● 해결

아래 링크를 통해 해결했다.

세상에! 보통 이런 경우 외국사이트를 수도없이 들락날락 거리며 한참 고생해야하는데 위 한국분이 아주 친절하고 상세하게 이미 정리해 놓으셔서 아무 고생도 하지 않았다.

솔직히 우분투에 관한 대부분의 한국 정보는 '잘못된' 경우가 많아 반신반의하면서 작업했는데

너무 나이스하게 working이 되었다. 특별히 더 감사한 마음이 들어 이렇게 글을 정리한다.

드디어 한줌의 vram을 아낄수 있게 되었다.