vllm-project / semantic-router

A programmable Mixture-of-Models router for heterogeneous LLM inference

活跃维护 Apache 2.0 Go Tracked
5.4k 855 5 小时前
CI
mixture-of-models semantic-router vllm ai-gateway kubernetes llmrouter llm guardrails inference pytorch transformer
GitHub 项目主页 对比

星标趋势

数据积累中，暂无足够数据生成趋势图

AI 分析

🤖

AI 分析待生成

AI 策展分析将在下次自动化管道运行时生成