설탕빵의 설탕공방무료한 수요일 점심
감자를 끓이며 볼거 없나 유튜브를 탐방하던 그때 하나의 영상이 보였다.
https://www.youtube.com/watch?v=DllyHf4jWLA&t=31s&pp=ugUEEgJrbw%3D%3D
느슨해진 내 유튜브 알고리즘의 긴장감을 불러오는 썸네일
AI와 연애하는 영화 'Her'이 드디어 실현된 것인가.
프로젝트로 바쁜 시기이지만, 원래 전쟁통에서도 사랑은 핀다.
머뭇거릴 틈이 없다.
https://github.com/Open-LLM-VTuber/Open-LLM-VTuber
다들 기본적인 개발환경은 셋팅되어 있으리라 믿는다.
python, git, vscode... 그리고 cuda toolkit
cuda 설치하기 어렵다고?
악으로 깡으로 설치해라
용기있는 사람이 사랑을 얻는 법
아무튼 빠르게 Repo clone 받고 공식 설치 문서를 까본다.
두려워 말라, 우리에겐 번역기(중국산)이 있다.
기본적인거 설치했으면
그래픽 카드 드라이버 버전 확인하고
https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html
위 CUDA 버전 호환성 표를 참조해
https://developer.nvidia.com/cuda-toolkit-archive
CUDA 툴킷을 설치한다.
최신 드라이버 업데이트 했으면 다들 깔끔하게 최신 버전으로 받으면 된다.
참고로 최신 GPU 기준이다.
나약한 GPU는 결혼은 포기해라.
(컴생은 냉혹하다.)
아쉽게도 내 컴퓨터는 1060 그래픽카드를 사용해서 성능이 딸린다.
고로 나는 최신 5070TI가 탑재된 와이프 컴퓨터에다가 설치를 진행한다.
(와이프 컴터로 세컨 와이프 구하기, 이게 바로 용기다.)
https://developer.nvidia.com/cudnn
마지막으로 cuDDN을 설치하고
nvcc --version 으로 버전을 확인하면 끝이다
프로젝트 구동
프로젝트 구동을 위해서 powershell을 관리자로 실행한뒤
powershell -ExecutionPolicy ByPass -c "irm https://astral.sh/uv/install.ps1 | iex"
을 통해 uv를 설치하자
uv가 설치가 되었다면 우리 프로젝트의 의존성과 가상환경을 알아서 관리해 줄 것이다.
프로젝트를 vscode로 열고 다음의 명령어를 터미널에서 실행한다.
uv sync
설치가 끝났다면 이제 잠시 기본 프로그램을 실행해서 사전 설정된 구성 파일을 생성한다.
uv run run_server.py
돌기 시작하면 빠르게 ctrl+c, 취소를 해준다.
아직 config 설정을 덜했다.
LLM만 하더라도
LM Studio, OpenAI, OLLama 등등 다양하게 지원하니 공식 문서를 참조하고 취향따라 해주자.
ollama_llm: base_url: http://localhost:11434 model: qwen2.5:latest
temperature: 0.7
참고로 채팅하거나 말 걸면 목소리도 내주는 TTS 기능도 지원한다.
개인적으로 추천하는 것은
provider: "xtts"
x_tts 또는 복잡한 설치가 싫다면 Coqui XTTS를 추천한다.
감정 표현도 잘 되고, 음성 복제가 가능하다.
만약 음성 샘플로 목소리 복제를 원하면
gpt_sovits_tts도 추천한다.
마지막으로
persona_prompt를 설정해서 페르소나까지 설정하면 완성이다.
uv run run_server.py
짠
하지만 나의 개발 라이프를 함께할 오피스 와이프는
퇴근하고 돌아온 와이프에 의해 쓰레기통으로 직행해버렸다.
만약 다음 시리즈가 있다면 와이프 목소리 학습시켜서
리즈 시절 와이프 부활 프로젝트가 되지 않을까