在线机器学习
社区干货
在线学习FTRL介绍及基于Flink实现在线学习流程|社区征文
# 背景目前互联网已经进入了AI驱动业务发展的阶段,传统的机器学习开发流程基本是以下步骤:数据收集->特征工程->训练模型->评估模型效果->保存模型,并在线上使用训练的有效模型进行预测。这种方式主要存在两个瓶颈:模型更新周期慢,不能有效反映线上的变化,最快小时级别,一般是天级别甚至周级别。另外一个是模型参数少,预测的效果差;模型参数多线上predict的时候需要内存大,QPS无法保证。针对这些问题,一般而言有两种解决方...
AI 和机器学习:探索智能科技的未来 | 社区征文
# AI和机器学习的定义人工智能(Artificial Intelligence)是使计算机和机器模拟人类智能的科学与工程实践。它旨在构建智能代理——系统能够正确理解外部环境,并在那里采取行动,以最大程度地完成目标。AI技术的目标... 质量检测和在线分析,提高生产效率。机器视觉和深度学习技术能执行复杂的检测任务,在工业原料和成品自动化有缺陷检测。同时人工智能也被用来预测设备维护,预知设备性能下降以便及时保养。在能源领域,人工智能为智能...
字节跳动基于 Hudi 的机器学习应用场景
> 本文为 Apache Hudi 技术社区分享会第十期嘉宾分享文章,主要介绍火山引擎 LAS 团队自研的多场景样本离线存储技术,用于处理机器学习系统的离线数据流。同时,还会为大家揭秘流批一体样本生成的过程,分享对 Hudi 内... 特征由在线预估服务在 serving 时 dump 对应的快照并发送到消息队列中。标签则来自实时行为采集服务,通过日志上报等方法采集得到。在线样本生成服务消费两个数据流,通过关联得到完整的样本,并发送到下游的流式训练...
火山引擎大规模机器学习平台架构设计与应用实践
本文主要介绍了火山引擎云原生机器学习平台在高性能计算和存储的规模化调度上的架构设计,如何对模型分布式训练进行加速,以及平台如何满足开发过程的标准化和团队协作的需求。 模型训练痛点... 能一键拉起在线 VSCode、JuypterLab 等 Web IDE。在 Job 化训练上,前面已经提到了我们有一些分布式框架多角色编排,以及硬件和各种软件的加速方案。同时我们对实验进行数据收集、归档和对比分析,把每一次迭代中涉...
特惠活动
在线机器学习-优选内容
在线机器学习-相关内容
创建开发机
【开发机】是机器学习平台为机器学习开发者提供的在线编译、调试代码和模型开发的模块。开发机支持使用 WebIDE 在线开发,或通过 SSH 连接开发机远程开发,也提供了持久化的云盘存储服务和共享文件系统用于存储开发中的数据。开发机在关机后,平台会释放开发机的算力,保存之前的操作、下载的数据和配置环境等 相关概念队列 镜像 共享文件系统挂载 云盘 使用前提拥有1个及以上的开发机队列,且队列的云盘容量超过20 GiB 操作步骤登...
使用 WebIDE 开发代码
WebIDE 是机器学习平台提供的在线集成开发环境。新版WebIDE内置了VSCode-Python插件、Tensorboard、Jupyter Notebook,获得更好的在线开发体验。下文主要介绍在 WebIDE 中常用的一些工具如 Volc CLI 和 Rclone CLI。 使用 Volc 命令行工具提交分布式训练任务 机器学习平台提供了命令行工具供用户在任何网络通畅的机器上管理平台上的训练任务。 Volc 配置在命令行使用 volc configure ,依次进行下边相关参数的配置。 查看当前用户的...
删除服务
若某个服务后续不再使用时用户可以选择删除该服务。 使用前提【在线服务】中存在 >= 1 个服务。 待删除的服务需要提前停止,当状态为未运行时才能删除。 操作步骤登录机器学习平台,单击左侧导航栏中的【模型服务】-【在线服务】进入列表页面。在操作区域单击【···】-【删除】。 若该服务未绑定公网IP,经过二次确认后将删除某个服务。 若该服务绑定了公网IP,删除时需要注意:删除服务:只删除服务,公网 IP 仍在该账号下并持续计费...
功能总览
训练任务或者在线服务都需要运行在某个实例之上,而实例将消耗某个队列的资源总量,不同的实例消耗的资源量不同,详见实例规格及定价。 镜像仓库 训练和部署模型除了需要硬件计算资源外,还需要 Docker 镜像 作为运行环境,该环境中封装了程序运行所需的软件依赖项。机器学习平台的【镜像仓库】为用户提供了大量的预置镜像,当预置镜像无法满足需求时,用户可以选择将自己的镜像迁移到机器学习平台,或者在机器学习平台中构建自定义镜像,...
机器学习平台-火山引擎
机器学习平台(ML Platform)是面向机器学习应用开发者,提供 WebIDE 和自定义训练等丰富建模工具、多框架高性能模型推理服务的企业级机器学习平台
导入模型
机器学习平台支持用户从本地或者对象存储(TOS)将模型注册到【模型仓库】模块下,每个模型允许包含多个版本。 相关概念 模型管理(模型仓库) Tensor 配置 对象存储(TOS) 创建新模型 登录机器学习平台,单击左侧导航栏中... 机器学习平台访问用户 TOS 的权限。 Tensor 配置 * 模型的输入输出配置。选填。 * Tensor 配置主要描述的是模型输入和输出张量的名称、精度、尺寸。 * 除 TensorFlow 之外其它框架的模型想要部署成在线服务均需要...
AI 和机器学习:探索智能科技的未来 | 社区征文
# AI和机器学习的定义人工智能(Artificial Intelligence)是使计算机和机器模拟人类智能的科学与工程实践。它旨在构建智能代理——系统能够正确理解外部环境,并在那里采取行动,以最大程度地完成目标。AI技术的目标... 质量检测和在线分析,提高生产效率。机器视觉和深度学习技术能执行复杂的检测任务,在工业原料和成品自动化有缺陷检测。同时人工智能也被用来预测设备维护,预知设备性能下降以便及时保养。在能源领域,人工智能为智能...
针对算法工程师的快速入门
以子账号登录机器学习平台,在【资源组】模块创建一个资源组。可以参考下图购买 2 台 8 卡 V100 的实例规格(ml.g1v.21xlarge),和极速型SSD FlexPL 云盘容量100GiB用于创建资源组。 在该资源组中创建负载类型包含【开发机】、【自定义任务】和【在线服务】的队列。云盘将用于持久化开发机的运行环境以及存放训练过程中产生的临时数据,因此需要分配一些云盘资源到队列中。 准备数据 在本地电脑(Mac 或 Linux 操作系统)的 Terminal ...
优先级调度策略
机器学习平台支持用户为自定义任务(以及开发机、在线服务)设定优先级,根据优先级的高低进行负载的调度。具体的配置方法详见发起单机/分布式训练任务。优先级越高代表该任务越重要,越希望尽早获得资源完成任务的运行。反之,优先级低的任务获得资源的机会相对靠后,但这不是绝对的,下文将详细介绍平台基于优先级实现的调度策略。 优先级和创建时间 优先级的数字越大越有可能尽早地被调度,当优先级相同时创建时间越早的任务越有可能早...
