[RFC] 004 - 支持自定义模型名称,以兼容 OneAPI 、OpenAI Fine-tuning #304
arvinxx
started this conversation in
RFC | 特性开发
Replies: 0 comments
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
-
背景
在这个方面,@leoleelxh (#263)、@JohnLanPeluchi (#284) 的意见非常中肯:
思路
由于 OneAPI 的适配 和支持 OpenAI 的 Fine-tuning 模型,本质上都是希望支持自定义模型名称,因此最简单的实现方案则是参考 Chat-Next-web 的方案,提供一个用户指定模型名称的方法即可。
但站在产品设计的角度来看,我们希望 LobeChat 能够更加准确地定义所使用的模型(类似 Dify 的模型供应商界面),进而更加直观地了解到自己是在和哪个基座模型会话( LLaMA 、 百川、ChatGLM 、Claude ...)
权衡实现成本与产品期望,我们将采取两阶段的方式达到终极目标:
阶段一: 新增一个自定义 OpenAI 模型名称的输入框,进而实现和 one-api 的集成 与 支持 funting 两个目标,此阶段在 v0.x 版本实施。
阶段二:支持完整定义模型服务商、支持配置模型名称、地址、apikey 与 Logo,功能实现上和阶段一保持一致。此阶段在 v1.x 版本实施。
进展
阶段一: 在#305 跟进
阶段二: 另开 RFC 跟进
Beta Was this translation helpful? Give feedback.
All reactions