使用火山方舟大模型服务的客户,尤其是企业级客户,普遍存在强烈的分账诉求。例如:通过分账实现大模型服务成本精准核算、业务绩效评估及内部责任划分等。若想做好分账管理,通常在使用大模型前就需要做好内部设计,例如:分账维度梳理、分摊规则定义等。本文将火山方舟支持的分账场景做了典型梳理,沉淀了常见场景的分账解决方案和操作方法,助企业高效落地分账。
说明
每个场景都是一个独立的解决方案。其中,场景1、2、3可叠加使用,满足复杂的企业级分账场景。
分账是指将已经明确的账单数据,依据用户企业内部的实际使用情况或用户自身的业务逻辑,进行账单数据的拆分。分配至不同的业务,部门,甚至个人等。通俗来说,就是通过分账体现出谁在什么产品或者服务上花了多少钱。
注意
开通分账账单功能后产生的消费,才能查询到分账账单。请务必提前开通分账账单功能!
某个公司主体采购了方舟的一个或多个模型服务,多个部门同时使用这些模型服务,需要按照部门维度进行账单统计。
选择一个火山引擎账号作为财务托管(托管账号,又称托管主账号),管理各部门账号(被托管账号,又称托管子账号)的财务履约。各部门账号仅可查看自己消费的账单,账单结算、开票、还款均由托管主账号负责。托管主账号可通过账号维度查看各部门产生的账单。
使用托管主账号登录,在分账账单页面, 默认展示当前主账号(Payer 账号)下的所有子账号(Owner 账号)的消费账单。您也可以过滤要查询的 Owner 账号,查询目标子账号的消费账单。
某个部门采购了一个或多个模型服务,部门中的多个项目组同时使用这些模型服务,需要按项目维度进行账单统计。
每个项目组创建一个项目,创建推理接入点时选择归属的项目。查询账单时,通过项目分组求和。
某个项目组采购了一个或多个模型服务,项目组下包含多个应用、多个产品、多个环境(开发环境、测试环境、生产环境)等,需要按应用/产品/环境进行账单统计。
每个项目组创建一个项目,创建推理接入点时选择归属的项目,并打上应用的标签。查询账单时,通过标签分组求和。
以某项目组下包含开发、测试、生产环境为例。
在分账账单页面,选择目标项目和标签,过滤要查询的产品,即可查询某个项目下的消费账单。
公司或个人采购了多个模型服务,需要按不同模型进行账单统计。适用于不希望引入自定义推理接入点,希望直接通过 Model ID 调用的场景。
按配置名称/计费单元分账。
火山方舟平台,配置名称通常对应某个模型的所有后付费计费项。当前分账账单页面暂不支持按配置名称进行筛选。您可以通过API接口拉取分账账单数据,按 ConfigName 进行分组求和。
能统计到某个模型的某个计费项的花费。例如:统计某模型的缓存命中费用,了解使用缓存后节省了多少成本。
在分账账单页面,统计周期选择 明细,过滤要查询的产品和计费单元,即可查询某个计费项的消费账单。
公司采购了一个或多个模型服务,多人同时使用这些模型服务,需要按人头进行账单统计。
每个 IAM 用户按需创建多个推理接入点,这些推理接入点会自动绑定createdBy系统标签(sys:ark:createdBy : IAMUser/xxx)。查询账单时,按照 IAMUser 进行分组求和。
在分账账单页面,统计周期选择 明细,标签选择目标 IAMUser,即可按照人头查询账单。
在使用大语言模型进行推理服务时,推理接入点(Endpoint)是模型调用的关键入口。开发者只需通过指定的 ID 即可向大模型发起 API / SDK 推理请求,实现快速接入与灵活调用。推理接入点分为预置推理接入点和自定义推理接入点。用户主动创建的推理接入点为自定义推理接入点,支持更全面的配置能力,适用于需要精调模型接入、权限控制(配置项目和标签)、算力保障、数据回流等企业级或业务集成场景。更多详情请参见 什么是推理接入点。
财务托管,即账号授权其他账号对其云资源消费产生的账单进行托管,并负责后续的对账、开票、还款等履约内容。托管主账号(托管账号)管理托管子账号(被托管账号)的财务履约,托管子账号(被托管账号)只有资源操作的权限。在企业财务中,托管账号在关联被托管账户时可以设置关系类型为“财务托管”,即实现被托管账号的财务履约内容托管给托管账号来进行管理。更多详情请参见 财务托管概述。
资源项目(项目)是火山引擎提供的一种资源分组管理的机制,帮助达成逻辑层面的资源隔离,您能够通过资源项目进行项目制授权和分账等操作。更多详情请参见 项目概述。
资源标签是由一组KV键值对组成,您可以通过资源标签从不同维度对云资源进行分类和聚合管理,并且使用于标签制授权和标签分账等场景。更多详情请参见 标签概述。
在方舟控制台的在线推理页面,切换至 自定义推理接入点 页签,单击目标推理接入点名称,进入 概览信息 页面。单击 前往查看账单,即可跳转至分账账单页面查看该推理接入点的账单信息。