Einführung in Ollama auf Linux: Ein umfassender Installations- und Konfigurationsleitfaden

Ollama bietet eine robuste Lösung für Linux-Nutzer, die eine effiziente Softwareüberwachung und -management benötigen. Dieser Leitfaden führt Sie durch den vollständigen Prozess der Installation, Konfiguration und Wartung von Ollama unter Linux.

Installation von Ollama auf Linux

Automatische Installation

Starten Sie die Installation mit einem einfachen Einzeiler im Terminal:

curl -fsSL https://ollama.com/install.sh | sh

Dieser Befehl lädt das Installationsskript von der Ollama-Website herunter und führt es aus, um die neueste Version automatisch zu installieren.

Unterstützung für AMD Radeon GPU

AMD Radeon GPUs benötigen den amdgpu Treiber für optimale Leistung. Folgen Sie diesen Schritten, um den aktuellen Treiber zu installieren:

1. Besuchen Sie die AMD-Website, um den neuesten Treiber herunterzuladen: AMD Linux-Treiber herunterladen.
2. Wählen Sie Ihr Betriebssystem und die entsprechende GPU-Serie aus.
3. Laden Sie das Treiberpaket herunter und folgen Sie den Installationsanweisungen auf der AMD-Website.

Manuelle Installation und Konfiguration

Download und Installation des Ollama-Binaries

1. Öffnen Sie ein Terminal und geben Sie folgenden Befehl ein, um das Ollama-Binary herunterzuladen:

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama

2. Geben Sie dem heruntergeladenen Binary Ausführungsrechte:

sudo chmod +x /usr/bin/ollama

Einrichtung von Ollama als Systemdienst

1. Erstellen Sie einen Benutzer speziell für Ollama:

sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

2. Erstellen Sie eine neue Service-Datei unter /etc/systemd/system/ollama.service mit dem folgenden Inhalt:

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3

[Install]
WantedBy=default.target

3. Aktivieren Sie den Dienst, sodass er beim Systemstart geladen wird:

sudo systemctl daemon-reload
sudo systemctl enable ollama

4. Starten Sie den Dienst:

sudo systemctl start ollama

Aktualisierung und Wartung von Ollama

Ollama aktualisieren

Um Ollama auf die neueste Version zu aktualisieren, führen Sie erneut das Installationsskript aus:

curl -fsSL https://ollama.com/install.sh | sh

Oder aktualisieren Sie das Binary direkt:

sudo curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/bin/ollama
sudo chmod +x /usr/bin/ollama

Protokollierung und Fehlerbehebung

Um Systemprotokolle von Ollama zu überprüfen, verwenden Sie:

journalctl -u ollama

Deinstallation von Ollama

Folgen Sie diesen Schritten, um Ollama komplett zu entfernen:

1. Stoppen Sie den Ollama-Dienst:

sudo systemctl stop ollama
sudo systemctl disable ollama

2. Entfernen Sie das Binary:

sudo rm $(which ollama)

3. Entfernen Sie den Benutzer und die Gruppe:

sudo userdel -r ollama
sudo groupdel ollama

4. Löschen Sie die Service-Datei:

sudo rm /etc/systemd/system/ollama.service
sudo systemctl daemon-reload