Files
web-page-backend/stock-lab/OLLAMA_SETUP.md

2.9 KiB
Raw Blame History

🦙 Windows PC Ollama 연동 가이드

NAS(Docker)에 있는 stock-lab 서비스가 고성능 Windows PC의 Ollama를 사용하여 AI 분석을 수행하도록 설정하는 방법입니다.

1. Windows PC 설정 (AI 서버)

고성능 PC(9800X3D + 3070 Ti)에서 수행합니다.

1-1. Ollama 설치 및 준비

  1. Ollama 공식 홈페이지에서 Windows용 Ollama를 다운로드하여 설치합니다.
  2. 명령 프롬프트(CMD)나 PowerShell을 열고 모델을 다운로드합니다.
    ollama pull llama3
    # 또는 가벼운 모델
    ollama pull gemma:2b
    

1-2. 외부 접속 허용 설정 (중요 )

기본적으로 Ollama는 로컬(localhost)에서만 접속 가능합니다. NAS에서 접속하려면 이를 모든 IP(0.0.0.0)에서 접속 가능하게 변경해야 합니다.

  1. 작업 관리자를 열고 'Ollama' 프로세스가 있다면 작업 끝내기로 종료합니다. (트레이 아이콘 우클릭 -> Quit)
  2. 시스템 환경 변수 편집을 엽니다. (윈도우 키 누르고 "환경 변수" 검색)
  3. 시스템 변수(S) 섹션에서 새로 만들기(W)...를 클릭합니다.
    • 변수 이름: OLLAMA_HOST
    • 변수 값: 0.0.0.0
  4. 확인을 눌러 저장하고, Ollama를 다시 실행합니다.

1-3. 방화벽 포트 개방

Windows Defender 방화벽이 외부 접속을 막을 수 있습니다.

  1. Powershell을 관리자 권한으로 실행합니다.
  2. 아래 명령어를 입력하여 11434 포트를 엽니다.
    New-NetFirewallRule -DisplayName "Ollama API" -Direction Inbound -LocalPort 11434 -Protocol TCP -Action Allow
    
    (또는 제어판 > Windows Defender 방화벽 > 고급 설정에서 인바운드 규칙으로 TCP 11434 포트 허용을 수동으로 추가해도 됩니다.)

1-4. IP 주소 확인

CMD에서 ipconfig를 입력하여 Windows PC의 IP 주소를 확인합니다. (예: 192.168.0.5)


2. NAS 설정 (Client)

Synology NAS의 web-page-backend 프로젝트에서 설정합니다.

2-1. .env 파일 수정

.env 파일에 Windows PC의 주소를 입력합니다.

# .env 파일
# ... 기존 설정들 ...

# 윈도우 PC의 IP로 변경하세요 (http:// 포함, 포트 11434 포함)
OLLAMA_URL=http://192.168.0.5:11434
OLLAMA_MODEL=llama3

2-2. 컨테이너 재배포

변경된 설정을 적용하기 위해 stock-lab 컨테이너를 다시 시작합니다.

# NAS 터미널 (프로젝트 루트 경로)
docker-compose up -d --build stock-lab

3. 테스트

브라우저나 API 도구를 사용하여 NAS의 주소로 분석 요청을 보냅니다.

  • 요청: GET http://[NAS_IP]:18500/api/stock/analyze
  • 결과: Windows PC의 GPU가 작동하며(팬이 돌거나 GPU 로드율 상승) 몇 초 뒤에 분석된 텍스트가 반환됩니다.