Not Diamond 是一个 AI 模型路由器,它可以自动确定哪个 LLM 最适合响应任何查询,通过将多个 LLM 组合成一个元模型来学习何时调用每个 LLM,从而提高 LLM 输出质量。
主要特色:
- 最大化输出质量:Not Diamond通过始终为每个提示调用最佳模型,在主要评估基准上胜过每个基础模型。
- 降低成本和延迟:进行智能成本和延迟权衡,以有效利用更小、更便宜的模型,而不会降低质量。
- 带有反馈的个性化路由:根据每个最终用户的反馈,实时为用户提供超个性化路由。
- 训练您自己的自定义路由器:利用您的评估数据来训练针对您的用例优化的自定义路由器。
- Python、TypeScript和REST API支持:Not Diamond 不是代理,并且易于跨各种堆栈集成。
操作入门:
使用 Not Diamond 发出第一个 API 请求只需不到 5 分钟。要开始使用,请执行以下操作:
- 在app.notdiamond.ai创建账户
- 创建Not Diamond API 密钥
- 进入快速入门示例
- 可以尝试与Not Diamond 支持的聊天机器人聊天。
免责声明:本网站仅提供网址导航服务,对链接内容不负任何责任或担保。