深度学习加速
社区干货
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
> 深度学习的模型规模越来越庞大,其训练数据量级也成倍增长,这对海量训练数据的存储方案也提出了更高的要求:怎样更高性能地读取训练样本、不使数据读取成为模型训练的瓶颈,怎样更高效地支持特征工程、更便捷地增删和回填特征。本文将介绍字节跳动如何通过 Iceberg 数据湖支持 EB 级机器学习样本存储,实现高性能特征读取和高效特征调研、特征工程加速模型迭代。**相关产品**:https://www.volcengine.com/product/flink # 机...
字节跳动智能音频信号处理的应用实践
## 音频信号处理发展趋势从我这些年的工作过程中,我把音频信号处理分为了三个大的部分:- 最基础的部分是算法,包括自适应滤波器、阵列信号处理以及心理声学和深度学习等算法技术。- 算法基础可以保证上层关键技术组件的技术演进。比如自适应滤波器理论的发展大大加速了回声消除在各业务场景中的应用;阵列信号处理技术则确保了声源定位以及波束形成在消费电子以及音视频创作中的效果。深度学习和心理声学技术的发展也大大...
基于深度学习的工业缺陷检测详解——从0到1|社区征文
# beginning2023年可谓是人工智能浪潮翻涌的一年,AI在各个领域遍地开花。以我最熟悉的工业为例,深度学习也在其中起着重要作用。不知道小伙伴们熟不熟悉工业领域的缺陷检测腻?🧐🧐🧐今天就以钢轨表面缺陷为例,和大... 那什么是迁移学习腻?简单来说,迁移学习就是通过将已有任务的知识和模型应用到新任务中,从而加速新任务的学习过程。举个小例子:假设我们已经在一个大型图像数据集上训练了一个卷积神经网络来识别不同的动物。现在...
我的深度学习项目经验分享|社区征文
AI的爆火在于它确实能促进整个社会中大多人群的学习工作和生活的效率的提升,这是非常实用的。我要和大家分享的项目也是我学习AI过程中做的小项目,是利用视频分析技术结合深度学习构建的一个智能视频监控系统,用来进... 使用了oneAPI加速工具对视频进行解码。人脸检测模块使用了OpenVINO™ Toolkit中的人脸检测模型,可以对每个关键帧进行实时的检测人脸,此工具包含了经训练和优化的模型,可行性也还不错。行为识别模块采用了Distribut...
特惠活动
深度学习加速-优选内容
深度学习加速-相关内容
斩获 IPDPS 2023 最佳论文奖
Microsoft DeepSpeed-Inference等知名的深度学习库相比,ByteTransformer在可变长输入下最高实现131%的加速。论文代码已开源。论文地址:https://arxiv.org/abs/2210.03052 IPDPS: 并行和分布式计算方向计算机系统领域的旗舰会议。该会议专注于分享并讨论并行计算、分布式计算、大规模数据处理以及高性能计算等相关领域的最新研究进展。参与的专家学者来自世界各地的顶尖研究机构和企业,共同探讨该领域的创新发展和前沿技术。 代码...
我的深度学习项目经验分享|社区征文
AI的爆火在于它确实能促进整个社会中大多人群的学习工作和生活的效率的提升,这是非常实用的。我要和大家分享的项目也是我学习AI过程中做的小项目,是利用视频分析技术结合深度学习构建的一个智能视频监控系统,用来进... 使用了oneAPI加速工具对视频进行解码。人脸检测模块使用了OpenVINO™ Toolkit中的人脸检测模型,可以对每个关键帧进行实时的检测人脸,此工具包含了经训练和优化的模型,可行性也还不错。行为识别模块采用了Distribut...
边缘计算技术:深度学习与人工智能的融合|社区征文
**边缘ML:** 是指机器学习在不处于核心数据中心的,企业级计算机/设备中的应用。边缘设备包括服务器机房,现场服务器,以及位于各个地区以加快响应速度为目的的小型数据中心。云端和边缘端的ML 已经通过3年多的科普,广为大众所接受。今天我们看到的人脸门禁、摄像头行为识别、智能音箱...... 绝大部分场景都属于这两类。 以 TensorFlow & TF lite 等开源深度学习框架为基础的大量应用,推动了智能在云端和边缘端应用。然而,更加具有...
边缘推理概述
边缘智能提供云边一体的边缘推理模块,允许您在云端进行模型的统一管理,并将模型部署到边缘一体机进行实时数据推理。 功能介绍功能 说明 相关文档 模型管理 模型管理让您使用版本化方法来统一管理各种主流深度学习框架的模型。边缘智能提供了一系列官方模型方便直接使用,您也能够创建和编辑自定义模型,并能够创建、编辑、删除和发布模型版本。 官方模型概览 模型服务 将模型部署到边缘一体机即可快捷搭建模型服务,实现在边...
大模型:深度学习之旅与未来趋势|社区征文
这个大模型擅长的角度来验证大模型能否更深度提升个人工作效率。# 训练方法目前,模型加速领域已经建立了很多有影响力的开源工具,国际上比较有名的有微软DeepSpeed、英伟达Megatr...
nvidia-cuda镜像
## 简介CUDA-X AI 是软件加速库的集合,这些库建立在 CUDA® (NVIDIA 的开创性并行编程模型)之上,提供对于深度学习、机器学习和高性能计算 (HPC) 必不可少的优化功能。下载地址:- 火山引擎访问地址:https://mirrors.ivolces.com/nvidia_all/- 公网访问地址:https://mirrors.volces.com/nvidia_all/## 相关链接官方主页:[https://www.nvidia.cn/technologies/cuda-x/](https://www.nvidia.cn/technologies/cuda-x/?spm=a...
应用场景
GPU云服务器适用于需要进行大规模并行计算的场景,例如AI深度学习、图像/视频渲染、科学计算等场景。 AI深度学习模型训练场景V100、A100、A30等类型的GPU显卡适用于AI模型训练场景,提供了大显存和高速访问能力,并叠加NVLink多卡互连,为多卡并行提供了超强计算能力。 应用推理场景T4、A10等类型的GPU显卡为AI推理提供了高效能比的加速能力,广泛应用于图像识别、语言翻译场景。 图像/视频渲染异构GPU渲染型实例提供高性能的3D图形虚...
边缘智变:深度学习引领下的新一代计算范式|社区征文
infoq原文链接:[边缘智变:深度学习引领下的新一代计算范式 (infoq.cn)](https://xie.infoq.cn/article/39f62d756a0249615ba07102e)
大模型和深度学习的工作总结|社区征文
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/44b74ab4861f41bb8b8defb68ffb7e98~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1716222052&x-signature=tW8JQjdtZx15H6un%2FqzoKKVAB4M%3D)**前言**在 2023 年疫情早已结束的当下,时代也在飞速的发展和进步,越来越多的技术:深度学习、AI、大模型、虚拟现实VR等慢慢进入我们的生活。**基于大模型的图像去雾**在今年这个阶段...
