Gruppe: Ki-inferenz
Verfügbare Werkzeuge
| Werkzeug | Zweck | Reifegrad | Technische Schulden | Erwartetes Lebensende | Link |
|---|---|---|---|---|---|
| Ollama | Ollama ist ein leichtgewichtiges Framework zum lokalen Ausführen von großen | Stabil (Aktiv gewartet, v0.20.7 Stand April 2026) | Gering | Kein EOL bekannt | ollama/README.md |
| Vllm | vLLM ist eine hocheffiziente Bibliothek für die Inferenz und das Serving von | Stabil (Aktiv gewartet, v0.19.0 Stand April 2026) | Gering | Kein EOL bekannt | vllm/README.md |