DeepSeek AI ist ein fortschrittliches offenes KI-Modell, das seine Aufgaben auch ohne GPU hervorragend bewältigt. Zusammen mit Ollama lässt sich die KI lokal betreiben, sodass Sie Leistung und Datenschutz vollständig selbst in der Hand haben.
Wenn DeepSeek auf Ihrem eigenen Server läuft, ist die Sicherheit hoch, weil das Risiko entfällt, dass Daten über die API abgefangen werden. Da die offiziellen DeepSeek-Server häufig überlastet sind, nutzen Sie mit einer lokalen Installation ausschließlich Ihre eigenen Rechenressourcen und teilen sie mit niemandem.
Welche Ressourcen brauchen wir?
Sehen wir uns die Modelle mit ihren unterschiedlichen Systemanforderungen im Vergleich an. Alle Modelle sind sowohl für den Betrieb auf der CPU als auch auf der GPU ausgelegt. Da die Installation jedoch auf einem Server erfolgt, liegt der Schwerpunkt dieses Artikels auf der Einrichtung und dem Betrieb des Modells mit der Rechenleistung des Prozessors.
| Modellversion | Größe | RAM | Passender Tarif | |
|---|---|---|---|---|
| deepseek-r1:1.5b | 1.1 GB | ab 4 GB | DE-RZ9-2 | Einfache Aufgaben, ideal für Tests und erste Versuche. |
| deepseek-r1:7b | 4.7 GB | ab 8 GB | DE-RZ9-4 | Texte schreiben und übersetzen. Einfachen Code entwickeln. |
| deepseek-r1:8b | 5.2 GB | ab 8 GB | DE-RZ9-4 | Aktualisierte Version, die Ollama standardmäßig installiert, wenn Sie keine Modellgröße angeben. |
| deepseek-r1:14b | 9 GB | ab 16 GB | DE-RZ9-8 | Erweiterte Möglichkeiten bei Entwicklung und Copywriting. Ein sehr gutes Gleichgewicht aus Geschwindigkeit und Funktionsumfang. |
| deepseek-r1:32b | 20 GB | ab 32 GB | DE-RZ9-16 | Laut Tests der Entwickler mit OpenAI o1-mini vergleichbar. Vertiefte Datenanalyse. Antwortet auf dem Prozessor langsam. |
| deepseek-r1:70b | 43 GB | ab 64 GB | Dedizierter Server (bald verfügbar) | Anspruchsvolle Berechnungen für Geschäftsaufgaben. Tiefgehende Datenanalyse und komplexe Entwicklung. |
| deepseek-r1:671b | 404 GB | ab 512 GB | Individuelle Konfiguration (bald verfügbar) | Das vollständige Modell DeepSeek R1, das leistungsstärkste der Reihe. Es braucht einen leistungsstarken dedizierten Server mit NVMe-Laufwerken. |
DeepSeek 14B Schritt für Schritt auf dem Server installieren
Als Beispiel installieren wir das Modell 14B, das ein optimales Verhältnis von Leistung und Ressourcenverbrauch bietet. Die Anleitung gilt für jedes Modell aus der Liste, sodass Sie bei Bedarf auch eine andere Version installieren können.
WARNING
Für die Installation verwenden wir den Tarif DE-RZ9-16 (16 vCPU, 32 GB RAM) mit dem Betriebssystem Ubuntu 22.04 – seine Ressourcen reichen für das Modell 14B mehr als aus.
Aktualisieren Sie die Paketquellen und Pakete des Systems:
sudo apt update && sudo apt upgrade -yInstallieren Sie Ollama, den Manager, mit dem DeepSeek bereitgestellt wird:
curl -fsSL https://ollama.com/install.sh | sh && sudo systemctl start ollamaLaden Sie das gewählte DeepSeek-Modell herunter:
ollama pull deepseek-r1:14bINFO
Sie können deepseek-r1:14b durch eine andere Version aus der Tabelle ersetzen, zum Beispiel deepseek-r1:32b. Das Modell 14B ist etwa 9 GB groß und ist über eine Anbindung mit 1 Gbit/s in wenigen Minuten heruntergeladen.
Starten Sie das DeepSeek-Modell:
ollama run deepseek-r1:14bNach diesem Befehl erscheint eine Eingabezeile für Nachrichten, und Sie können den Dialog mit der künstlichen Intelligenz beginnen.
.png)
Weitere Befehle
Sie können auch eine einzelne Anfrage senden:
ollama run deepseek-r1:14b "What is heavier: 1 kg of iron or 1 kg of feathers?".png)
Nach der Installation läuft Ollama sofort als Dienst, und seine API ist auf dem Server selbst unter http://127.0.0.1:11434 erreichbar. Sie müssen ollama serve nicht von Hand starten. Ein Beispiel für eine Anfrage an die API:
curl http://127.0.0.1:11434/api/generate -d '{"model": "deepseek-r1:14b", "prompt": "Hallo!", "stream": false}'WARNING
Die API von Ollama hat kein Passwort. Öffnen Sie Port 11434 nicht ins Internet – wenn Sie von außen zugreifen müssen, verbinden Sie sich über einen SSH-Tunnel oder schützen Sie die API mit einem Webserver mit Authentifizierung.
So prüfen Sie, welche Modelle installiert sind:
ollama list.png)
Empfehlungen zur Serverwahl
Für einen stabilen Betrieb der Modelle DeepSeek R1 empfehlen wir Server mit ausreichend Arbeitsspeicher (am besten mit etwas Reserve) und schnellen NVMe-Laufwerken. Der Arbeitsspeicher muss größer sein als das Modell selbst, denn zu seiner Größe kommen 2–4 GB für das System und den Gesprächskontext hinzu.
Ohne Grafikkarte laufen die Modelle auf dem Prozessor. Die Versionen 1.5B–8B antworten schnell, 14B deutlich langsamer, und 32B schafft nur wenige Wörter pro Sekunde.
Unsere Ressourcen
Telegram-Kanal: https://t.me/f3cloud_news
Hosting-Website: https://f3cloud.com