Skip to content

[FEATURE]AI能力支持路由功能 #103

Description

@carolcoral

插件现在配置好供应商后,在对应功能只能选择指定的供应商进行使用,例如知识库。如果选择的供应商突然出现问题则会导致功能失效或降级。
期望:
可以提供一键路由功能,对于所有已经配置并且启用的服务商进行插件级别的聚合,在需要使用AI功能的位置可以选择“聚合路由”的方式,当选择该方式提供AI能力的时候,即使默认请求的AI服务商故障了,也可以自动路由到别的可用服务商中用以保证功能的高可用性

Activity

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions