You need to enable JavaScript to run this app.
导航
快速入门
最近更新时间:2024.05.15 01:04:44首次发布时间:2023.06.27 23:49:24
注册账号与企业认证
  • 注册账号:在使用火山引擎的服务之前需要用户注册火山引擎账号并完成相关认证,详见注册账号及实名认证

  • 开通服务:联系客服人员开通火山方舟大模型服务平台。

  • 创建子账号:为更好地进行权限管理,建议使用主账号前往【访问控制】-【用户】创建若干子账号并通过预置策略为其分配适当的权限。火山方舟2.0的系统预置策略如下:

策略名称描述

ArkFullAccess

火山方舟(Ark)管理员用户,拥有所有Ark服务的权限。
适合算法、研发等角色,可查看和配置方舟内全部资源。

ArkReadOnlyAccess

火山方舟(Ark)只读用户,拥有Ark服务的只读权限。
适合产品、运营等角色,可查看方舟内全部资源。

ArkLabelAccess

火山方舟(Ark)标注用户,拥有标准模块的所有的权限。
适合运营、标注等角色,可查看和配置方舟内标注资源,配置模型接入和模型仓库资源

IAM 权限管理

  • 访问控制 IAM (Identity and Access Management) 是一套权限管理系统,是火山引擎提供的免费服务之一。

  • 您可以为火山引擎账号(主账号)创建IAM用户(子账号),并根据不同用途授予子账号相应的访问权限,以达到不同企业员工之间的权限隔离。

    • 例如您的员工中有负责软件运营的人员,您希望他们拥有火山方舟的阅读权限,但是不希望他们发生如删除模型等高危操作,您可以进行权限管理,通过配置子账户ArkReadOnlyAccess策略,允许其仅可查看方舟内的全部资源,但不允许对资源进行操作,从而控制子账号对方舟资源的使用范围。
  • IAM可以帮助您实现资源的分权管理,提高管理效率,降低信息泄露风险。

  • 如果火山引擎账号已经能满足您的要求,不需要通过IAM进行权限管理,不影响使用火山方舟的其他功能。

  • 关于权限管理的详细实践,请参见使用IAM进行权限控制

说明

  • 目前火山方舟仅面向企业认证的火山账号开放,暂未向个人认证的火山账号开放。
  • 由于火山方舟需要依赖部分机器学习平台的功能,所以在使用之前需要先开通机器学习平台以及几个强依赖的服务,详见开通相关服务
  • 开通机器学习平台后也要按需为子账号分配对应的权限,详见创建适当的子用户

模型与推理体验

模型广场

完成账号与权限设置后,进入火山方舟控制台(访问地址),在模型广场查看目前已发布的大模型,点击某个模型卡片可查看该模型的详细信息。更多详情可见模型广场介绍

模型仓库

模型仓库展示所有精调产出的模型,您可以在此处管理自己的模型,查看模型的基本信息、接入点信息,发起评测、进行推理体验等,更多详情可见管理自定义模型

推理体验

如果您对模型广场中某个已发布的模型感兴趣或想快速验证精调模型的效果,可以进入体验中心进行推理试用。更多详情可见模型体验介绍

API 调用模型

模型广场中的模型支持 API 调用,您可以进入模型详情页点击右上角的 API 调用查看相关的调用教程。


模型精调与评测

火山方舟允许用户上传自己的数据进行模型精调,只需简单的几个步骤即可产出更加贴合客户业务场景的模型。

准备数据

在创建精调任务之前需要完成数据的准备,目前支持 JSONL 格式的数据集,详细说明请参考模型精调数据集格式说明。目前支持两种数据上传的方式:

  1. 从本地上传数据:适用于小规模的数据集。

  2. 从 TOS 中导入数据:需先将数据上传至 TOS,具体操作可见TOS控制台快速入门,然后在创建精调任务时选择对应的 TOS 目录。当数据集规模较大时建议使用这种方式,避免在上传过程中因网络问题导致传输中断。

创建模型精调任务

  1. 数据准备好后,可以去创建模型精调任务,平台提供两种入口,您可以按照自己的需求进行选择。

    1. 入口一:进入模型精调页面,点击创建精调任务

    1. 入口二:通过模型广场的模型详情页中,模型精调发起精调任务

  2. 进入创建精调任务页面,按实际情况进行任务名称、描述、基础模型、数据集等信息的选择或填写。

  3. 数据填写完毕后,点击提交精调任务,即可完成任务创建。 更多操作,可见创建模型精调任务

查看并管理模型精调任务

  1. 进入模型精调列表页,可查看已提交的所有模型精调任务。

  2. 点击某个任务名称,即可进入对应的详情页,可查看基本信息、效果指标、日志、时间线、模型产出信息。

更多操作,可见查看并管理模型精调任务

创建模型评测任务

  1. 模型训练完成后,可以去创建模型评测任务,平台提供三种入口,您可以按照自己的需求进行选择。

    1. 入口一:进入模型评测页面,点击创建评测任务

    1. 入口二:进入精调任务详情页,切换模型产出 tab,选择模型后发起评测

    1. 入口三:进入模型仓库页面,选择模型后发起评测

  2. 进入创建评测任务页面,按实际情况进行任务名称、描述、评测模型、数据集等信息的选择或填写。

  3. 数据填写完毕后,点击提交评测任务,即可完成任务创建。 更多操作,可见创建模型评测任务

查看并管理模型评测任务

  1. 进入模型评测列表页,可查看已提交的所有模型评测任务。

  2. 点击某个任务名称,即可进入对应的详情页,可查看基本信息、评测报告、日志。

更多操作,可见管理评测任务

将精调后的模型发布成模型服务

在精调任务完成训练后,可以通过接入模型部署对应的精调模型版本。
更多操作,可见使用精调后的模型进行在线推理