本文介绍了火山方舟大模型服务平台的新版本产品功能特性,欢迎体验。
模型发布公告请见:模型发布公告
V1.3版本 Release Note(20231214)
功能模块 | 功能说明 | 帮助文档 |
---|
模型接入 | 模型接入是方舟模型服务的能力升级,支持用户调用模型广场上的模型与精调后的模型进行推理。相比原有模型服务,模型接入支持(1)灵活升级接入模型的版本 (2)支持模型接入的调用监控(即将上线),未来还会支持保障更高并发度、更灵活的推理需求。 | 模型接入 |
V1.2.1版本 Release Note(20231020)
功能模块 | 功能说明 | 帮助文档 |
---|
插件能力 | 新发布头条搜索插件,基于外部输入的必要性判断后,调用头条搜索能力,协助大模型实时获取新闻、法律等互联网资讯。当前插件仅适配于云雀系列模型 | 头条搜索插件 |
V1.2版本 Release Note(20230926)
功能模块 | 功能说明 | 帮助文档 |
---|
模型评测 | 优化自动评测,上传本地评测数据集或选择平台预置评测数据集,一键完成模型的评测。新增人工评测,创建标注任务并分配给指定标注人,在线协同标注模型的生成效果。 | 自动评测介绍 、 人工评测介绍 |
数据服务 | 数据集标注,支持基础的文本大模型数据集人工标注功能。 | 数据集标注 |
模型广场 | 模型卡片、体验中心支持多版本的模型展示、体验与使用 | 模型广场介绍 |
模型服务 | 新增Lora推理功能特性,Lora精调后的模型部署为在线服务,不用独占机器资源部署,无需排队,轻量便捷 | 模型服务部署 |
安全信任 | 为模型提供方与模型使用者开放安全审计日志,在安全容器的基础上进一步加密了用户输入文本信息 | 安全审计日志 |
V1.1版本 Release Note(20230806)
功能模块 | 功能说明 | 帮助文档 |
---|
统计管理 | 新发布开通管理页,可更清晰了解目前的商品开通状态、限制、价格与帮助文档等;新发布用量统计页,可清晰查看各子账号在各个模型上的调用量与RPM(每分钟请求数)信息 | 开通管理 、用量统计 |
模型精调 | 创建精调任务页:支持LoRA精调,模型精调更高效省时;支持自定义设置验证集;优化了参数配置的交互样式。精调任务列表页:增加了排队时间预估,训练时间预估提示信息 | 创建模型精调任务 |
模型服务 | 创建在线服务:权限管控升级优化,增加了管理员和可见范围的配置。在线服务详情:在线服务支持服务监控,可更好监控模型服务的工程性能指标 | 查看并管理模型服务 |
模型广场 | 支持了公开模型与私有模型的属性,模型卡片权限管控更自由;支持模型列表的搜索 | 模型广场介绍 |
体验中心 | 全新升级AI对话体验中心的交互与视觉,高级参数设置更便捷直观,多模型之间可拖拽排序 | 模型体验介绍 |
V1.0版本 Release Note(20230628)
功能模块 | 功能说明 | 帮助文档 |
---|
模型广场 | 新发布模型广场功能,在模型广场上查看并了解所有模型提供方上架在平台上的大模型 | 模型广场介绍 |
体验中心 | 新发布体验中心功能,可快速体验各模型的实际表现效果,探索其在语言、图像等方面的先进能力 | 模型体验介绍 |
模型精调 | 新发布模型精调功能,支持自定义训练集、超参、版本管理等功能,快速精调并使用专属大模型服务 | 创建模型精调任务 |
模型评测 | 新发布模型评测功能,自动根据预置的评测脚本与数据集,从多个维度评价精调后的模型表现效果 | 模型评测方案介绍 |
模型服务 | 新发布模型服务功能,在火山引擎上可直接调用推理API,接入生产环境,并持续运维与监控 | 精调模型发布在线服务 |
安全信任 | 支持安全可信的推理与精调服务,保障模型提供方的知识产权安全与模型使用者的业务信息安全 | 火山方舟互信计算架构白皮书 |