深度学习加速读取
社区干货
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
> 深度学习的模型规模越来越庞大,其训练数据量级也成倍增长,这对海量训练数据的存储方案也提出了更高的要求:怎样更高性能地读取训练样本、不使数据读取成为模型训练的瓶颈,怎样更高效地支持特征工程、更便捷地增删和回填特征。本文将介绍字节跳动如何通过 Iceberg 数据湖支持 EB 级机器学习样本存储,实现高性能特征读取和高效特征调研、特征工程加速模型迭代。**相关产品**:https://www.volcengine.com/product/flink # 机...
我的深度学习项目经验分享|社区征文
AI的爆火在于它确实能促进整个社会中大多人群的学习工作和生活的效率的提升,这是非常实用的。我要和大家分享的项目也是我学习AI过程中做的小项目,是利用视频分析技术结合深度学习构建的一个智能视频监控系统,用来进... 使用了oneAPI加速工具对视频进行解码。人脸检测模块使用了OpenVINO™ Toolkit中的人脸检测模型,可以对每个关键帧进行实时的检测人脸,此工具包含了经训练和优化的模型,可行性也还不错。行为识别模块采用了Distribut...
基于深度学习的工业缺陷检测详解——从0到1|社区征文
# beginning2023年可谓是人工智能浪潮翻涌的一年,AI在各个领域遍地开花。以我最熟悉的工业为例,深度学习也在其中起着重要作用。不知道小伙伴们熟不熟悉工业领域的缺陷检测腻?🧐🧐🧐今天就以钢轨表面缺陷为例,和大... 那工业领域的数据集是怎样获取滴腻?一般是人工或机器拍摄得到的宝贵数据。拿轨面伤损数据集来说,拍摄者站在两股钢轨中间,手持拍摄设备,镜头距轨面垂直距离200mm,竖直向下聚焦拍摄,侧面补光以图像没有暗影和反光为佳...
边缘计算技术:深度学习与人工智能的融合|社区征文
**边缘ML:** 是指机器学习在不处于核心数据中心的,企业级计算机/设备中的应用。边缘设备包括服务器机房,现场服务器,以及位于各个地区以加快响应速度为目的的小型数据中心。云端和边缘端的ML 已经通过3年多的科普,广为大众所接受。今天我们看到的人脸门禁、摄像头行为识别、智能音箱...... 绝大部分场景都属于这两类。 以 TensorFlow & TF lite 等开源深度学习框架为基础的大量应用,推动了智能在云端和边缘端应用。然而,更加具有...
特惠活动
深度学习加速读取-优选内容
深度学习加速读取-相关内容
字节跳动智能音频信号处理的应用实践
阵列信号处理以及心理声学和深度学习等算法技术。- 算法基础可以保证上层关键技术组件的技术演进。比如自适应滤波器理论的发展大大加速了回声消除在各业务场景中的应用;阵列信号处理技术则确保了声源定位以及波... 我们还关注如何从视频中获取高质量的音频。上图中间的部分主要是基于深度学习技术来提取高质量音频,这里用到的技术主要是多模态语音增强以及模型波束等技术。相比于传统的针对信号处理的波束形成技术,基于模型的深...
大模型:深度学习之旅与未来趋势|社区征文
这个大模型擅长的角度来验证大模型能否更深度提升个人工作效率。# 训练方法目前,模型加速领域已经建立了很多有影响力的开源工具,国际上比较有名的有微软DeepSpeed、英伟达Megatr...
边缘智变:深度学习引领下的新一代计算范式|社区征文
# 读取数据 data = pd.read_csv('patient_data.csv') # 去除异常值 data = data.replace([np.inf, -np.inf], np.nan) data = data.dropna() # 预处理数据 processed_data = data.apply(preprocessing_... infoq原文链接:[边缘智变:深度学习引领下的新一代计算范式 (infoq.cn)](https://xie.infoq.cn/article/39f62d756a0249615ba07102e)
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
深度学习的模型规模越来越庞大,其训练数据量级也成倍增长,这对海量训练数据的存储方案也提出了更高的要求:怎样更高性能地读取训练样本、不使数据读取成为模型训练的瓶颈,怎样更高效地支持特征工程、更便捷地增删和回填特征。本文将介绍字节跳动如何通过 Iceberg 数据湖支持 EB 级机器学习样本存储,实现高性能特征读取和高效特征调研、特征工程加速模型迭代。作者|字节跳动基础架构研发工程师-谢凯 **01...
2023 年度总结—总结我今年的AI之路-多项目实战经验谈AI发展前景|社区征文
在学习AI的过程中,我深入了解了机器学习、深度学习、自然语言处理等关键技术,并对其在各个领域的应用有了更深刻的认识。## 🐬1.1 AIGC大模型学习体验有感说到总结,我觉得第一条就应该说一下现在爆火的Chatgpt了... 而且Canvas的快速构建功能极大地加速了模型的训练过程。在进行模型分析时,我们也能够清晰地看到模型的准确性和相关特征的重要性,这有助于更好地理解模型的性能和优劣。 还有一个亮点就是,在模型准确率未达...
GPU-部署NGC环境
NGC官网提供了当前主流深度学习框架的镜像,例如Caffe、TensorFlow、Theano、Torch等。 软件版本操作系统:本文以Ubuntu 18.04为例。 NVIDIA驱动:GPU驱动:用来驱动NVIDIA GPU卡的程序。本文以470.57.02为例。 CUDA:使GPU能够解决复杂计算问题的计算平台。本文以CUDA 11.4为例。 CUDNN:深度神经网络库,用于实现高性能GPU加速。本文以8.2.4.15为例。 TensorFlow:深度学习框架。 前提条件您已购买Linux实例,并勾选“后台自动安装GPU驱...
图像处理解决方案 veImageX 技术演进之路
> 作者|周强近日,第五届深度学习图像压缩挑战赛(以下将简称“ CLIC 大赛”)比赛结果公布,首次参赛的火山引擎视频云多媒体实验室夺得视频压缩赛道第一名。压缩技术对于图像、视频应用十分重要。在保证同样的质量前... 需要查询数据仓库获取对应的数据。涉及到域名的场景,需要依赖 veImageX 的域名管理服务,和接入与分发的各个组件交互。**算子仓库**,图像算法开发人员借此可以方便地管理、发布、运维图片算法模型。云数据迁移服务...
图像处理解决方案 veImageX 技术演进之路
近日,第五届深度学习图像压缩挑战赛(以下将简称“ CLIC 大赛”)比赛结果公布,首次参赛的火山引擎视频云多媒体实验室夺得视频压缩赛道第一名。压缩技术对于图像、视频应用十分重要。在保证同样的质量前提下,如何将图... 需要查询数据仓库获取对应的数据。涉及到域名的场景,需要依赖 veImageX 的域名管理服务,和接入与分发的各个组件交互。**算子仓库**,图像算法开发人员借此可以方便地管理、发布、运维图片算法模型。云数据迁移服务...
字节跳动智能音频信号处理的应用实践
**阵列信号处理** 以及 **心理声学** 和 **深度学习** 等算法技术。* 算法基础可以保证上层 **关键技术组件** 的技术演进。比如自适应滤波器理论的发展大大加速了回声消除在各业务场景中的应用;阵列信号处理... 我们还关注如何从视频中获取高质量的音频。上图中间的部分主要是基于深度学习技术来提取高质量音频,这里用到的技术主要是 **多模态语音增强** 以及 **模型波束** 等技术。相比于传统的针对信号处理的波束形成技...
