统一 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate 等 100 多种 LLM 的 API 输入输出、异常处理和负载均衡等操作的开源项目,目前 7.5K Star ⭐️
同时 LiteLLM 还是 YC W23 的创业项目:https://ycombinator.com/companies/berriai
视频:https://youtu.be/TCeX1X4oVTo
统一 Bedrock、Azure、OpenAI、Cohere、Anthropic、Ollama、Sagemaker、HuggingFace、Replicate 等 100 多种 LLM 的 API 输入输出、异常处理和负载均衡等操作的开源项目,目前 7.5K Star ⭐️
同时 LiteLLM 还是 YC W23 的创业项目:https://ycombinator.com/companies/berriai
视频:https://youtu.be/TCeX1X4oVTo
留言
發佈留言