AI Inference Operator for Kubernetes. The easiest way to serve ML models in production. Supports VLMs, LLMs, embeddings, and speech-to-text.
k8sllmopenai-apiautoscalerollamavllmollama-operatorvllm-operatoraikuberneteswhisperinference-operator
주요 지표
스타 성장
스타
1.3k
포크
135
주간 성장
+3
이슈
83
5001k
2023년 10월2024년 3월2024년 9월2025년 3월2025년 9월2026년 3월2026년 9월
아티팩트Go Modules
관련 저장소