可下载、免费、开源——替代 Ollama 的选择
WebGPU LLM推理引擎 — ⚡ Pure-Rust WebGPU inference engine — OpenAI-API compatible, GGUF native, runs on any GPU. No Python. No llama.cpp. Single binary.
↔ 开源替代 Ollama