Zum Inhalt

Gruppe: Ki-inferenz

Verfügbare Werkzeuge

Werkzeug Zweck Reifegrad Technische Schulden Erwartetes Lebensende Link
Ollama Ollama ist ein leichtgewichtiges Framework zum lokalen Ausführen von großen Stabil (Aktiv gewartet, v0.20.7 Stand April 2026) Gering Kein EOL bekannt ollama/README.md
Vllm vLLM ist eine hocheffiziente Bibliothek für die Inferenz und das Serving von Stabil (Aktiv gewartet, v0.19.0 Stand April 2026) Gering Kein EOL bekannt vllm/README.md