LiteLLM:统一100多种 LLM 的 API 输入输出操作的开源项目



统一 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate 等 100 多种 LLM 的 API 输入输出、异常处理和负载均衡等操作的开源项目,目前 7.5K Star ⭐️


同时 LiteLLM 还是 YC W23 的创业项目:https://ycombinator.com/companies/berriai


视频:https://youtu.be/TCeX1X4oVTo


留言