LLM

0 篇文章

AI 多 Provider 抽象层：Gemini + Groq + DeepSeek 统一接入与自动故障转移

JoyMini API 的 AI 服务从 Gemini 单 Provider 演进为多 Provider 抽象架构，支持 Gemini、Groq、DeepSeek 三大 AI 提供商统一接入、自动故障转移、Provider 级密钥轮换和 Admin UI 可视化配置。

JoyMini API 将 AI 服务从 Vertex AI（按量付费）迁移到 Google AI Studio（免费层），涵盖多密钥轮换、断路器降级、速率限制和成本对比的完整迁移故事。

JoyMini API 的 AI 翻译引擎基于 Google AI Studio Gemini 构建，涵盖速率限制、服务级别降级、断路器、指数退避重试和 429 特殊处理等多层弹性模式，支撑批量翻译、评论审核和自动回复场景。