菜单

自定义模型

近日,302.AI 带来了重磅更新——自定义模型。自定义模型的推出,是为了给用户打造一个更加开放、便捷、实用的平台。

具体来说,自定义模型这一功能实现了将第三方的模型API接入302.AI(例如OpenRouter,硅基流动等),为第三方模型增加了如下几个优势:

1、快速生成聊天机器人用户可以根据自身需求接入第三方大模型API,不受限于平台内的资源。整个接入流程极为便捷,只需简单几步操作,即可快速完成配置,并部署聊天机器人在线使用。

2、解决地区限制:模型API接入时可选择中转地区,解决部分模型供应商地区限制问题。

3、一键功能扩展:接入的模型API可解锁302.AI自研的“能力加成”,例如联网搜索,长期记忆等,一键实现功能扩展。

自定义模型价格:无论是自定义模型生成聊天机器人还是调用自定义模型API,均按照0.05美元/天,一个月仅需1.5美金远低于我们去维护一个服务器的成本。

 

如何在302.AI自定义模型生成聊天机器人

一、设置自定义模型

进入302.AI,点击:自定义模型

点击添加模型,填写相关配置信息。

(1)提供预设APIBase

我们预设了Open Router和硅基流动的API Base,使用这两项服务的用户可以直接选择,系统将自动完成填充。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(2)支持中转地区选择

我们还特别支持了中转地区选择功能,这能够解决部分模型提供商因为IP地区限制访问的问题。例如,HK地区在接入模型API时常常会被限制,这时我们就可以切换至US地区。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(3)可一键检查配置信息

配备【检查】按钮,可一键检测信息是否填写正确。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

1、以接入Open Router的模型API为例:

示例模型:meta-llama/llama-3.3-70b-instruct:free

API Base 选择OpenRouter,并填写API key、模型ID等。根据模型特性进行相应配置,举例而言,若模型本身具备图片分析功能,则勾选“模型支持图片分析”,反之则不勾选。所有设置完成后,点击【确认】;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

2、以接入硅基流动的模型为例

示例模型:硅基流动部署的DeepSeek-R1-Distill-Qwen-7B

API base选择硅基流动,填写API Key、模型ID等信息,并按需选择中转地区,点击【确认】;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

二、创建聊天机器人

(1)接入成功后的模型会在自定义模型分类中显示,选中模型并点击【确认】;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(2)点击【创建聊天机器人】按钮:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(3)进入聊天机器人后发送消息即可开启对话;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

三、接入后的模型一键实现功能扩展

接入模型生成聊天机器人后,还可以一键实现图片分析、联网搜索、推理等功能扩展。

1、图片分析能力:

以接入的Llama-3.3-70b-instruct为例,这原是一个纯文本大模型,接入到302.AI中可解锁“模型融合”能力,开启图片分析:

(注意:图片分析功能无需特别设置,聊天机器人会默认开启)

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

2、一键叠加联网搜索+推理功能:

此外,还可以将功能叠加使用,例如同时启用联网搜索和推理功能,只需在对话框下方点亮这两个功能按钮:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

效果对比如下:

原始回答:信息滞后。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

叠加联网搜索+推理功能后回答:答案正确。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

四、管理自定义模型:

(1)编辑:自定义模型完成后,如有信息需要修改,可点击模型名称右侧的编辑符号即可

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(2)复制:点击编辑进入后,可对配置好的自定义模型进行快速复制。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

复制后:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

(3)删除:不常使用的自定义模型,可进行删除操作。

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

如何用302.AI的API调用自定义模型

一、创建API Key

首先我们需要创建一个支持中转自定义模型的 API key 。

详细步骤:使用 API → API Keys → 输入API名称 → 开启自定义模型中转 → 【添加API KEY】

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

复制刚刚生成的API Key 备用;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

查看中转后自定义模型的名称以方便调用:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

二、API调用自定义模型

可通过API超市为自定义模型API增加功能或者在工具API中调用自定义模型

1、模型增加新的能力

找到相关文档:使用API → API超市 → 语言大模型 →302.AI→查看文档

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

以增加自定义模型联网搜索能力为例:

进入相关文档后,点击【调试】按钮:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

点击“去设置变量值”,粘贴生成的API Key填并点击【保存】:

(注意:自定义模型中转功能必须手动开启,因此需要手动粘贴API Key)

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

根据文档说明,自定义模型后缀加上“-web-search”(如示例meta-llama/llama-3.3-70b-instruct:free-web-search)并输入提示词点击【发送】即可增加联网搜索能力:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

若想了解更多关于增加大模型能力的相关内容,可翻阅往期文章:

(1)超便捷!教你如何1秒为所有大模型API增加图片分析/联网搜索/长期记忆功能

(2)DeepClaude好用?来302.AI试试DeepAnyLLM

2、工具API调用自定义模型

相关文档:使用API → API超市 → 工具API→按需选择工具→查看文档

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

AI答题机工具API调用自定义模型为例:

点击【调试】后同样需要设置API Key,步骤大致与以上相似,这里就不详细展开:

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

API Key设置完成后,填写需要调用的自定义模型名称,输入提示词点击【发送】即可;

资讯丨302.AI自定义模型:支持接入第三方模型API,拓展模型新能力,构建开放生态平台!

总结:

302.AI 致力于为所有用户倾力打造一个更加开放包容的AI综合平台。通过这一平台,用户不仅能够享受到更加便捷流畅的使用体验,还能解锁更加强大丰富的功能,真正实现效益最大化 。

最近修改: 2025-04-30