Wookang makes AI

한번도 도박을 해본적 없으면서 시작했던 해외축구 베팅 서비스. 모든 것이 서툴고 힘들었다. 사업을 진행할수록 계속 이더리움을 잃었다. 이더리움을 딴 사람들은 계속 방문했고 잃은 사람들은 다시 오지 않았다.

블록체인 판은 사기꾼 천지였다. 서버를 해킹당하고 홍보를 미끼로 여기저기서 사기를 당했다. 게다가 이더리움 가스비는 매일 출렁거렸다. 어느 날은 30원이었고 어느 날은 1300원이었다.

서비스를 진행했던 6개월간 거의 잠을 자지 못했다. 부모님은 항상 걱정하셨다. 붉은 눈과 늘어진 다크서클이 너무 진하게 각인되어 영원히 없어질 것 같지 않았다. 그리고 코로나로 모든 축구 리그가 중지되었다.

서비스도 중지되었다. 적자 1억. 그 1년이 아마도 내 인생에서 가장 믿을 수 없을만큼 세상에 무언가를 빌드했던 시기였다. 아쉬운건 그것이 겨우 도박 사이트였다는 것이다. 다시는 그런것에 내 인생을 걸지 않을 것이다. 그런 의미로 이 서비스를 완전 공개한다.

https://github.com/vEduardovich/whitebetting

* Whisper-WebUI 설치 및 실행

- Whisper-webui는 openAI의 whisper(https://github.com/openai/whisper)를 쓰기 쉽도록 webUI로 wrapping한 라이브러리다.

- 굉장히 탁월한 성능을 발휘한다. 자막이 없는 영화나 내용이 궁금했던 일본 야동, 외국 유튜브 영상들의 자막을 영어나 일어로 먼저 생성한 후, 이걸 다시 한국어로 바꾸면 된다 - 바로 한글로 생성도 되지만 몇번해보니 퀄러티가 떨어졌다.

- max_length가 200으로 제한되어 있어서 한번에 장문의 글을 번역하지 못한다. 번역 모델은 facebook/nllb-200이다.

- 한번에 대량의 번역을 하기위해선 따로 스크립트를 만들어 200이내로 문장을 끊어서 전달해야 한다. 이건 다음에 만들어 공유할 계획이다.

1. 코덱 설치

• https://www.gyan.dev/ffmpeg/builds/
• zip파일을 받고 압축 푼다

2. 설치

• git clone https://github.com/jhj0517/Whisper-WebUI.git
• 안에 들어가서 위에서 압축 푼 코덱 폴더 전체를 붙여넣고 해당 경로를 path 걸어준다

3. install.bat실행 - 한참 받는다
4. start-webui.bat 실행

* 실행

1. 먼저 Youtube 탭으로 가서 주소를 붙여넣고 generate해보자

2. 현재(23.06.26) 아래와 같은 에러가 뜬다.

pytube.exceptions.RegexMatchError: get_throttling_function_name: could not find match for multiple

3. 해결을 위해 구글링을 한다.

https://github.com/pytube/pytube/issues/1684

이틀전에 나온 해결책이다. 유튜브 패턴들이 자주 바뀌어서 업데이트가 미쳐 못따라가는 것 같다.

function_patterns = [
    # https://github.com/ytdl-org/youtube-dl/issues/29326#issuecomment-865985377
    # https://github.com/yt-dlp/yt-dlp/commit/48416bc4a8f1d5ff07d5977659cb8ece7640dcd8
    # var Bpa = [iha];
    # ...
    # a.C && (b = a.get("n")) && (b = Bpa[0](b), a.set("n", b),
    # Bpa.length || iha("")) }};
    # In the above case, `iha` is the relevant function name
    r'a\.[a-zA-Z]\s*&&\s*\([a-z]\s*=\s*a\.get\("n"\)\)\s*&&.*?\|\|\s*([a-z]+)',
    r'\([a-z]\s*=\s*([a-zA-Z0-9$]+)(\[\d+\])?\([a-z]\)',
]

아래와 같이 Whisper-WebUI\venv\Lib\site-packages\pytube 폴더로 이동후 cipher.py 파일을 연후

기존에 있던 아래 코드를

r'a\.[a-zA-Z]\s*&&\s*\([a-z]\s*=\s*a\.get\("n"\)\)\s*&&\s*'

새로운 아래 코드로 바꿔 붙여넣기하자.

r'a\.[a-zA-Z]\s*&&\s*\([a-z]\s*=\s*a\.get\("n"\)\)\s*&&.*?\|\|\s*([a-z]+)',

이제 유튜브 주소를 다시 넣고 generate하면 오류없이 잘된다.

디자이너가 아닌 사람에게 bi나 ci를 만드는 일은 언제나 곤욕이다.

어쩌면 디자이너에게도 쉬운일은 아닐것이다.

가장 큰 문제는 나조차 내가 원하는게 무엇인지 모른다는 것인데 이 문제는 스테이블 디퓨전으로 깔끔하게 해결된다. 컨셉을 주고 체크포인트와 프롬프트를 바꿔가며 300개 정도 뽑아보니 마음에 드는 것만 수십개가 나온다.

lora 는 코랩으로 만들어도 좋고 나처럼 kohya_gui로 만들어도 좋다.

https://github.com/bmaltais/kohya_ss

1. kohya를 설치한 후

2. https://blog.himion.com/175 나 https://blog.himion.com/176 의 스크립트를 이용해 네이버와 구글에서 bi 이미지들을 수집한다. 

3. 그 중 퀄러티가 괜찮은 것들만 추린다. 나는 100개 정도만 사용했다.

4. kohya의 Utilies > Captioning > BLIP Captioning - 구글의 비전을 사용한다. 이미지에 캡션을 모두 달고 kohya 내부에 폴더를 하나 만들어 넣는다.

5. kohya의 Dreambooth LoRA를 이용해 로라를 만든다. 나는 4090 덕분에 batch size를 8로 키우고 Epoch을 1로 줄여도 퀄리 좋게 나왔다. 약 100장으로 bi 로라를 만드는데 1시간 15분이 걸렸다.

6. 프롬프트를 아래와 같이 만든 후 300백장 정도 뽑았다.

Model: 2dn_1, Version: v1.2.1
positive
<lora:brand_identity:1>, logo, bi, ci, brand, text, "Wendy", beyond the world, dimly ufo of ghost, (moon:0.3), sky, <lora:weird:0.4>
Negative prompt: easynegative, ng_deepnegative_v1_75t, ((worst quality)), ((low quality)), easynegative,
Steps: 20, Sampler: Euler a, CFG scale: 4.5, Seed: 366227024, Size: 512x512, 

> 결론

1. 내가 상상도 못했던 다양한 분위기의 bi들이 뽑인다.

2. 체크포인트에 따라 분위기가 더욱 다양해진다.

3. Sampler는 처리가 단순한게 좋다. 실사 이미지를 뽑는게 아니니까.

4. 텍스트는 정확한 삽입이 어렵다. 텍스트 중심 로고는 좀 더 고민해야 할 것 같다.

5. 기본적인 포토샵, 일러가 가능한 사람은 찍어내듯 만들어낼수도 있겠다. 환상적이다.

11시에 일어났다.

계속 중얼대고 있었다.

성공하는 창업가라면 어떻게 행동했을지에 생각이 미쳤다.

너무 늦다. 늦어도 너무 늦다.

어쩌면 모두가 그런 낌새를 눈치챘는지 모른다.

그래서 다들 그랬는지 모른다..(분명 그랬을 것이다)

싱크대에 쌓인 식기들을 닦으며

깨끗히 준비가 완료되었다는 걸 알았다. 나는 늦을 이유가 없었다.

자꾸 늦으니까 내 심장조차 두근거리지 않는 것이었다.

성공하는 창업가라면 어떻게 행동했을지 생각했다.

그들은 새벽 5시에 잤다는 이유를 핑계로 대지 않았을 것이다.

성공한 적이 없어서 확실하진 않지만 이대로 성공할 수 없다는 건 성공한 적이 없는 나도 알 수 있다.

늦음은 납득 가능하다.

하지만 내 꿈은 납득 가능한 것이 아니다.

말이 되지 않는 것을 말이 되게 이뤄낼 수는 없다.

속도를 높여야 한다.

* 브라우저를 띄우지 않고 메모리에만 selenium을 띄워 크롤링하기

1. 기존 코드( https://blog.himion.com/176 )와 거의 유사하다.
2. headlessDriver() 함수가 추가되었다

'''
* 구글 이미지 가져오기 ver. Headless
'''

import os
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
import undetected_chromedriver as uc

import urllib
import time, datetime

ITEM_LIST = [ "Keith Thompson", "Zdzislaw Beksinski", "dariusz zawadzki"] # 1번
FOLDER = 'google' # 2번
IMG_XPATH = '//*[@id="Sva75c"]/div[2]/div/div[2]/div[2]/div[2]/c-wiz/div/div/div/div[3]/div[1]/a/img[1]' # 3번
SIGNINURL = 'https://accounts.google.com/signin/v2/identifier?hl=ko&passive=true&continue=https%3A%2F%2Fwww.google.com%2F&ec=GAZAmgQ&flowName=GlifWebSignIn&flowEntry=ServiceLogin'
ID = 'xxxx@gmail.com' # 4번
PASSWORD = 'xxxx' # 5번

def main():
  start = check_start() # 시간 측정 시작
  driver = headlessDriver()# headless를 적용하고 싶을때
  driver.get(SIGNINURL)
  googleSignIn(driver)# 구글로그인하고
  
  for searchItem in ITEM_LIST:
    saveDir = makeFolder(searchItem)
    
    url = makeUrl(searchItem)# 검색할 url 가져와서
    driver.get(url)# 이미지 검색으로 가서
    maximizeWindow(driver)# 창최대화
    scrollToEnd(driver)

    forbiddenCount = saveImgs(driver, saveDir, start)# 모든 상세 이미지 src들을 가져온다
    sec = check_time(start)
    print(f'실패수{str(forbiddenCount)}, {sec}, {datetime.datetime.now().time()}')
  time.sleep(10)
  driver.quit() 
  
def headlessDriver():
  options = uc.ChromeOptions()
  options.headless=True
  options.add_argument('--headless=new')
  driver = uc.Chrome(options=options)
  return driver

# 구글 로그인
def googleSignIn(driver):
  idBtn = driver.find_element(By.XPATH,'//*[@id="identifierId"]')# id 입력칸
  idBtn.send_keys(ID)
  nextBtn = driver.find_element(By.XPATH,'//*[@id="identifierNext"]/div/button')
  nextBtn.click()# 다음 버튼 클릭

  # 아래 코드는 비밀번호 요소가 화면에 나타날때가지 10초간 기다리는 코드이나
  # 비번의 경우 not interactive elem라서 에러가 뜬다. 하지만 돌아가는 코드이니 기다림이 필요할때 쓰자.
  try:
    passwordBtn = WebDriverWait(driver, timeout=10).until(EC.presence_of_element_located( (By.XPATH,'//*[@id="password"]/div[1]/div/div[1]/input') ))
    time.sleep(4)
    passwordBtn = driver.find_element(By.XPATH,'//*[@id="password"]/div[1]/div/div[1]/input')# 비밀번호 입력칸
    passwordBtn.send_keys(PASSWORD)
    passwordNextBtn = driver.find_element(By.XPATH,'//*[@id="passwordNext"]/div/button')
    passwordNextBtn.click()# 비밀번호 다음 버튼
    print('구글 로그인 성공')
    # driver.implicitly_wait(10)
  except OSError as e:
    print(e)
    
  time.sleep(20)# 휴대폰 본인 인증등의 시간이 충분히 필요하다


# 구글 이미지 검색 url 만들기
def makeUrl(searchItem):
  url = 'https://www.google.com/search'
  params ={# q와 tbm이 필수
    'q'     : searchItem,
    'tbm'   : 'isch',
  }
  url = url + '?' + urllib.parse.urlencode(params)
  return url


# 폴더 생성
def makeFolder(searchItem):
  saveDir = os.path.join(os.getcwd(), 'data', f'{FOLDER}_{searchItem}')
  try:
    if not(os.path.isdir(saveDir)): # 해당 폴더가 없다면
      os.makedirs(os.path.join(saveDir)) # 만들어라
    return saveDir
  except OSError as e:
    print(e+'폴더 생성 실패')

# 창 최대화
def maximizeWindow(driver):
  driver.maximize_window()

# 모든 이미지 목록을 가져오기 위해 무한 스크롤 다운
def scrollToEnd(driver):
  prev_height = driver.execute_script('return document.body.scrollHeight')
  print(f'prev_height: {prev_height}')
  
  while True:
    time.sleep(1) #네이버는 sleep없이 이동할 경우 무한로딩에 걸린다.
    driver.execute_script('window.scrollTo(0, document.body.scrollHeight)')
    time.sleep(3)
    
    cur_height = driver.execute_script('return document.body.scrollHeight')
    print(f'cur_height: {cur_height}')
    if cur_height == prev_height:
      print('높이가 같아짐')
      break
    prev_height = cur_height
  # 페이지를 모두 로딩한 후에는 최상단으로 다시 올라가기
  driver.execute_script('window.scrollTo(0, 0)')

# 모든 이미지들을 저장한다
def saveImgs(driver, saveDir, start):
  time.sleep(1)
  forbiddenCount = 0
  imgs = driver.find_elements(By.CSS_SELECTOR, '.rg_i.Q4LuWd')
  img_count = len(imgs)
  print(f'전체 이미지수 : {img_count}')
  # 하나씩 클릭해가며 저장
  for imgNum, img in enumerate(imgs): # imgNum에 이미지번호가 0부터 들어간다
    try:
      img.click()
      time.sleep(3)
      
      # 아래의 xPath는 자주 바뀌는 것 같다. 나머지는 고정인거 같으니 이것만 가끔 확인해주자
      bigImg = driver.find_element(By.XPATH, IMG_XPATH)
      src = bigImg.get_attribute('src')
      urllib.request.urlretrieve(src, saveDir + '/' + str(imgNum) + '.jpg')
      sec = check_time(start)
      print(f'{imgNum+1}/{img_count} saved {sec}')

    except Exception as e:
      print(e)
      forbiddenCount += 1# 저장 실패한 개수. forbidden이나 파일에러도 꽤 많다
      continue
  return forbiddenCount


# 시간 측정
def check_start():
    start_time = time.time()
    print("Start! now.." + str(start_time))
    return start_time
def check_time(start):
    end = time.time()
    during = end - start
    sec = str(datetime.timedelta(seconds=during)).split('.')[0]
    return sec
main()