介绍
供应商集成完成后，接下来为供应商下模型的接入，为了帮助理解整个接入过程，我们以Xinference为例，逐步完成一个完整的供应商接入。
需要注意的是，对于自定义模型，每一个模型的接入都需要填写一个完整的供应商凭据。
而不同于预定义模型，自定义供应商接入时永远会拥有如下两个参数，不需要在供应商 yaml 中定义。
在前文中，我们已经知道了供应商无需实现validate_provider_credential，Runtime会自行根据用户在此选择的模型类型和模型名称调用对应的模型层的validate_credentials来进行验证。
编写供应商 yaml
我们首先要确定，接入的这个供应商支持哪些类型的模型。
当前支持模型类型如下：
llm 文本生成模型text_embedding 文本 Embedding 模型rerank Rerank 模型speech2text 语音转文字tts 文字转语音moderation 审查Xinference支持LLM、Text Embedding和Rerank，那么我们开始编写xinference.yaml。
复制