Ollama

Rocky Linux에 Ollama를 설치하려면 약간의 우회가 필요합니다. Ollama는 기본적으로 Ubuntu와 macOS에서 설치하도록 안내되어 있지만, Rocky Linux (RHEL 계열)에서도 설치할 수 있습니다. 아래는 일반적인 설치 절차입니다.

---

✅ 1. 필수 요구사항 확인

Ollama는 현재 x86_64 CPU 및 Linux 커널 5.10 이상, 그리고 CUDA 지원 GPU (선택 사항) 을 요구합니다.

---

✅ 2. Docker를 사용하는 방법 (권장)

Rocky Linux에서는 Docker를 이용해 Ollama를 사용하는 것이 가장 간단하고 안정적입니다.

1) Docker 설치

sudo dnf install -y dnf-utils device-mapper-persistent-data lvm2
sudo dnf config-manager --add-repo=https://download.docker.com/linux/centos/docker-ce.repo
sudo dnf install -y docker-ce docker-ce-cli containerd.io
sudo systemctl start docker
sudo systemctl enable docker

2) Ollama Docker 이미지 실행

docker run -d --name ollama -p 11434:11434 ollama/ollama

이 명령은 Ollama를 백그라운드에서 실행하고 포트 11434를 노출합니다.

---

✅ 3. 바이너리 직접 설치 (비공식, 수동 방식)

공식 사이트에서 Ubuntu .deb 패키지를 받아 압축을 풀고 실행 파일을 옮겨서 사용하는 방법도 있습니다.

1) deb 패키지 다운로드

wget https://ollama.com/download/Ollama-linux.deb -O ollama.deb

2) ar로 압축 풀기 (ar 패키지가 필요함)

sudo dnf install -y binutils
ar x ollama.deb

3) data.tar.xz 압축 해제

tar -xf data.tar.xz

4) 바이너리 이동

sudo cp -r usr/* /usr/

5) 확인

ollama --version

---

✅ 4. 방화벽/포트 허용 (필요 시)

sudo firewall-cmd --permanent --add-port=11434/tcp
sudo firewall-cmd --reload

---

✅ 5. 모델 실행 예시

ollama run llama2

---

필요하다면 Docker Compose나 systemd로 서비스화도 가능합니다.

---

설치 중 문제가 생기면 어떤 방식으로 진행 중인지 (Docker / 수동) 알려주세요. 거기에 맞춰 도와드릴게요!