HTK新闻网

【[79星]traceloop/hub:高性能LLM网关,用Rust打造,自带O

【[79星]traceloop/hub:高性能LLM网关,用Rust打造,自带OpenTelemetry可观测性。亮点:1. 支持多种LLM提供商,如OpenAI、Azure OpenAI、Google VertexAI;2. 高性能,基于Rust语言开发;3. 提供丰富的可观测性功能,助力模型监控与优化】

'High-scale LLM gateway, written in Rust. OpenTelemetry-based observability included'

GitHub: github.com/traceloop/hub

LLM网关 Rust开发 可观测性 AI创造营