Ollama 설치

Ollama는 로컬에서 LLM을 실행할 때 사용하는 런타임입니다.

사전 준비

Ollama 설치 스크립트 실행

curl -fsSL https://ollama.com/install.sh | sh

서비스 상태 확인

systemctl status ollama --no-pager

서비스가 비활성 상태라면 아래 명령어를 실행하세요.

sudo systemctl enable --now ollama

모델 다운로드 및 실행

ollama pull llama3.1:8b
ollama run llama3.1:8b

ollama --version
ollama list