우분투에서 인텔 내장 그래픽 카드 사용하기

 

● 동기

AI작업을 하다보면 4090의 24GB vram이 간당간당 할때가 있다.

보통 llama2 13b 모델이나 Mixtral의 8x7B 모델은 양자화 시켜 돌릴 수 있지만 max length 조절을 섬세?하게 해야한다.

 

yanolja-eeve의 경우도 마찬가지다. 메모리 100메가 차이로 가끔씩 out of memory 메시지를 토해낼때가 있다.

이때는 메모리 100, 200메가도 소중한데 이 경우 모니터 출력에 사용하는 메모리만 줄여도 큰 도움이 된다. 내 모니터의 경우 대략 300메가 이상을 먹는다. 

 

그래서 컴퓨터를 앞에 두고도 직접 접속하지 않고

hdmi 더미 플러그를 이용한 가상의 모니터에 ssh로 원격접속해 vram을 아껴쓰기도 했다.

 

잠시마나 내장 그래픽을 이용하자는 생각도 했었지만

당시 hp에서 구입한 오멘pc의 내부 모니터 dp단자는 아예 막혀서 출고가 되어 이걸 빼내는 것도 귀찮은 일이어서 미루고 있었다.

 

하지만 요새 날씨가 더워져 사무실 창문에 노출되어 있는 바깥 파티션은 사용하기 힘들어졌다. 여기는 에어컨 바람도 막혀있다. 선풍기 만으론 4090에서 뿜어내는 열기를 감당할수 없었다. 그래서 대대적으로 사무실 구조를 바꾸며 이번 기회에 미뤄뒀던 작업을 진행하기로 했다.

 

● 상태

1. 서버PC에서 항상 사용하는 모니터를 4090 데스크탑에서도 보조 모니터로 사용하고 맥북에서도 보조모니터로 사용할 수 있게, 즉 3개의 컴퓨터가 하나의 모니터를 모두 사용할 수 있게 구조를 엮었다. 어차피 서버는 모니터가 거의 필요하지 않고 필요하다 해도 원격으로 붙어 사용하는 경우가 훨씬 더 많기 때문이었다.

2. 4090pc에는 윈도우와 우분투가 함께 깔려 있고 처음 부팅시 grub에서 os를 선택해 실행한다.

 

3. 4090 PC의 경우. 이제까진 5120x1440 모니터 하나만 썼는데 보조 모니터 하나가 더 생기니 이렇게 편할 수가 없었다.  stable diffusion은 윈도우 기반으로 돌리기 때문에 - 윈도우가 바로 편집할 수 있어 우분투 환경보다 훨씬 낫다 - 그런데 윈도우는 내장 그래픽 카드를 자동으로 인식하지만 우분투는 내장 그래픽 카드를 인식하지 못했다.

4. 대부분의 ai개발이나 llm은 모두 우분투 기반으로 돌리기 때문에 이는 심각한 문제였다.

 

 

● 해결

아래 링크를 통해 해결했다.

Ubuntu, intel 내장 그래픽 사용하기

 

세상에! 보통 이런 경우 외국사이트를 수도없이 들락날락 거리며 한참 고생해야하는데 위 한국분이 아주 친절하고 상세하게 이미 정리해 놓으셔서 아무 고생도 하지 않았다.

 

솔직히 우분투에 관한 대부분의 한국 정보는 '잘못된' 경우가 많아 반신반의하면서 작업했는데

너무 나이스하게 working이 되었다. 특별히 더 감사한 마음이 들어 이렇게 글을 정리한다.

드디어 한줌의 vram을 아낄수 있게 되었다.