Blog
Technische Einordnungen vom prokube Team zu Kubernetes, MLOps, LLMs, Agentic AI und den Infrastrukturmustern hinter produktiven KI-Systemen.
Neuester Beitrag
A complete KServe setup for Qwen3.8 27B, including a reusable vLLM runtime, BF16 and FP8 deployment settings, H100 NVL validation, and the most important tuning knobs.
Dieser Beitrag ist aktuell nur auf Englisch verfügbar.
Warum Gateway in Cloud Native und AI inzwischen alles Mögliche bedeutet und wie man trotzdem nicht komplett den Überblick verliert.
How we ran the Gemma 4 31B instruction-tuned model on a single A100 80GB GPU using KServe and vLLM, including the custom runtime, PVC setup, tuning flags, verification, monitoring, and troubleshooting notes.
Dieser Beitrag ist aktuell nur auf Englisch verfügbar.