OriginRouter CLI模型服务参考
模型服务参考
provider 命令管理当前设备上的本地模型服务。OriginRouter Cloud 和远程设备是登录后可用的路由来源,不通过 provider add 创建。
需要在界面中添加模型服务、启用模型或检查远程权限时,请使用 App 的模型服务控制。
生命周期
| 命令 | 作用 | 建议检查 |
|---|---|---|
provider add <name> | 新建本地模型服务 | 使用 show 确认字段,再运行 doctor provider |
provider update <name> | 只更新显式传入的字段 | 检查警告和脱敏后的结果 |
provider list | 列出本地模型服务 | 确认名称;模型启用状态见 App“模型服务控制”或 Local API |
provider show <name> | 显示配置,密钥保持掩码 | 不会返回原始密钥 |
provider use <name> [--agent ...] | 将模型服务写入 Claude 或 Codex 路由 | 再运行 route show |
provider remove <name> | 删除本地模型服务 | 先确认没有有效路由仍引用它 |
--force 仍被 provider use 接受以兼容旧脚本,但当前不改变路由安全检查。
通用参数
| 参数 | 用途 |
|---|---|
--type proxy | 本地 Proxy。旧值 litellm 会归一化为 proxy |
--engine litellm | 当前支持的本地模型服务引擎 |
--litellm-provider <id> | 上游模型服务标识,例如 openai、anthropic、bedrock |
--base-url <url> | 上游 API 根地址 |
--model <id> | 默认模型 |
--small-fast-model <id> | 旧版 Claude 快速模型字段,新的来源是 routes.claude.small |
--api-key <value>、--auth-token <value> | 上游认证信息 |
--organization <id>、--api-version <value> | 上游模型服务需要的组织或 API 版本 |
字段可以保存环境变量引用,而不是 secret 本身:
originrouter provider add team-openai \
--type proxy \
--engine litellm \
--litellm-provider openai \
--api-key os.environ/OPENAI_API_KEY \
--model gpt-5.4
环境变量名称会原样保存,Proxy 运行时在启动时读取其值。CLI 与本地 API 输出会掩码 secret 字段。
云厂商字段
| 模型服务类型 | 参数 |
|---|---|
| AWS Bedrock / SageMaker | --aws-region、--aws-access-key-id、--aws-secret-access-key、--aws-session-token、--aws-profile-name、--aws-bedrock-runtime-endpoint、--aws-role-name、--aws-session-name、--aws-web-identity-token、--aws-sts-endpoint、--sagemaker-base-url |
| Google Vertex AI | --vertex-project、--vertex-location、--vertex-credentials、--google-application-credentials |
| Azure | --azure-ad-token,并按模型服务要求组合 --base-url 与 --api-version |
| Hugging Face | --hf-token |
AWS 工作负载身份示例:
originrouter provider add bedrock-irsa \
--type proxy \
--engine litellm \
--litellm-provider bedrock \
--aws-region os.environ/AWS_REGION_NAME \
--aws-role-name arn:aws:iam::123456789012:role/OriginRouterBedrock \
--aws-web-identity-token os.environ/AWS_WEB_IDENTITY_TOKEN_FILE \
--model anthropic.claude-3-5-sonnet-20241022-v2:0
验证和恢复
- 运行
originrouter provider show <name>检查归一化结果(密钥会脱敏)。 - 运行
originrouter doctor provider <name>检查字段与推理能力。 - 使用
originrouter route set或provider use写入路由。 - 运行
originrouter route show claude|codex检查最终路由;模型的enabled与remoteEnabled请在 App“模型服务控制”或 Local API 中确认。 - 重启 Proxy,并执行一次真实模型请求。
遇到 unknown flag 时,当前模型服务目录不接受该字段。遇到 provider has no enabled model 时,先补充模型。环境变量引用失败时,应在启动 Proxy 或服务的同一用户环境中确认变量存在。