OriginRouter CLI模型服务参考

模型服务参考

provider 命令管理当前设备上的本地模型服务。OriginRouter Cloud 和远程设备是登录后可用的路由来源,不通过 provider add 创建。

生命周期

命令作用建议检查
provider add <name>新建本地模型服务使用 show 确认字段,再运行 doctor provider
provider update <name>只更新显式传入的字段检查警告和脱敏后的结果
provider list列出本地模型服务确认名称;模型启用状态见 App“模型服务控制”或 Local API
provider show <name>显示配置,密钥保持掩码不会返回原始密钥
provider use <name> [--agent ...]将模型服务写入 Claude 或 Codex 路由再运行 route show
provider remove <name>删除本地模型服务先确认没有有效路由仍引用它

--force 仍被 provider use 接受以兼容旧脚本,但当前不改变路由安全检查。

通用参数

参数用途
--type proxy本地 Proxy。旧值 litellm 会归一化为 proxy
--engine litellm当前支持的本地模型服务引擎
--litellm-provider <id>上游模型服务标识,例如 openai、anthropic、bedrock
--base-url <url>上游 API 根地址
--model <id>默认模型
--small-fast-model <id>旧版 Claude 快速模型字段,新的来源是 routes.claude.small
--api-key <value>、--auth-token <value>上游认证信息
--organization <id>、--api-version <value>上游模型服务需要的组织或 API 版本

字段可以保存环境变量引用,而不是 secret 本身:

originrouter provider add team-openai \
  --type proxy \
  --engine litellm \
  --litellm-provider openai \
  --api-key os.environ/OPENAI_API_KEY \
  --model gpt-5.4

环境变量名称会原样保存,Proxy 运行时在启动时读取其值。CLI 与本地 API 输出会掩码 secret 字段。

云厂商字段

模型服务类型参数
AWS Bedrock / SageMaker--aws-region、--aws-access-key-id、--aws-secret-access-key、--aws-session-token、--aws-profile-name、--aws-bedrock-runtime-endpoint、--aws-role-name、--aws-session-name、--aws-web-identity-token、--aws-sts-endpoint、--sagemaker-base-url
Google Vertex AI--vertex-project、--vertex-location、--vertex-credentials、--google-application-credentials
Azure--azure-ad-token,并按模型服务要求组合 --base-url 与 --api-version
Hugging Face--hf-token

AWS 工作负载身份示例:

originrouter provider add bedrock-irsa \
  --type proxy \
  --engine litellm \
  --litellm-provider bedrock \
  --aws-region os.environ/AWS_REGION_NAME \
  --aws-role-name arn:aws:iam::123456789012:role/OriginRouterBedrock \
  --aws-web-identity-token os.environ/AWS_WEB_IDENTITY_TOKEN_FILE \
  --model anthropic.claude-3-5-sonnet-20241022-v2:0

验证和恢复

  1. 运行 originrouter provider show <name> 检查归一化结果(密钥会脱敏)。
  2. 运行 originrouter doctor provider <name> 检查字段与推理能力。
  3. 使用 originrouter route set 或 provider use 写入路由。
  4. 运行 originrouter route show claude|codex 检查最终路由;模型的 enabled 与 remoteEnabled 请在 App“模型服务控制”或 Local API 中确认。
  5. 重启 Proxy,并执行一次真实模型请求。

遇到 unknown flag 时,当前模型服务目录不接受该字段。遇到 provider has no enabled model 时,先补充模型。环境变量引用失败时,应在启动 Proxy 或服务的同一用户环境中确认变量存在。

这个页面对您有帮助吗?