LLM-AIO-Gateway

About LLM-AIO-Gateway

简体中文 | English LLM AIO Gateway - 多合一 LLM API 网关 LLM AIO Gateway 是一个基于 FastAPI 的统一 LLM API 网关，用一个服务代理多个 OpenAI 兼容和 Anthropic 兼容的上游提供商。它同时暴露 OpenAI Chat Completions、旧版 Completions、Anthropic Messages、OpenAI Responses 等接口，并提供路由规则、API Key 管理、reasoning 连续性、工具调用修复和视觉模型注入。 当前代理核心基于统一内部消息格式：所有客户端协议先转换为 / ，再进入共享策略层。策略层会产出结构化 ，随后由上游适配器发送给 OpenAI/liteLLM 或 Anthropic 兼容接口，最后再渲染回客户端需要的协议格式。 功能特性 快速开始 环境要求 Python 3.10+ pip 手动安装 默认服务地址为 。首次启动会自动创建 和 。 Docker 首次配置 打开 。 创建第一个管理员

Quick Facts

Compatible Skills

These tools work well together with LLM-AIO-Gateway for enhanced workflows:

• llm-rosetta — semantic(0.24)+complementary+shared_fw(anthropic,openai)+same_lang+similar_pop+shared_platform (70%)
• stdapi.ai — semantic(0.22)+complementary+shared_fw(anthropic,openai)+same_lang+similar_pop+shared_platform (69%)
• llm-use — semantic(0.16)+complementary+shared_fw(anthropic,openai)+same_lang+similar_pop+shared_platform (67%)
• mcp-context-forge — semantic(0.17)+complementary+shared_fw(anthropic,openai)+same_lang+shared_platform (62%)

More Codex Skill Tools

Explore other popular codex skill tools:

• openclaw ⭐ 382.1k
• hermes-agent ⭐ 211.2k
• ui-ux-pro-max-skill ⭐ 101.6k
• graphify ⭐ 79.9k
• graphify ⭐ 77.1k
• open-design ⭐ 76.1k
• agent-skills ⭐ 71.4k
• career-ops ⭐ 59.1k
• taste-skill ⭐ 56.5k
• system_prompts_leaks ⭐ 53.5k

Popular Python Agent Tools

• hermes-agent ⭐ 211.2k · Codex Skill
• AutoGPT ⭐ 185.4k · Agent Tool
• skills ⭐ 157.3k · Claude Skill
• langflow ⭐ 151.3k · Agent Tool
• open-webui ⭐ 143.9k · MCP Server

Frequently Asked Questions