深度学习开源框架
社区干货
边缘计算技术:深度学习与人工智能的融合|社区征文
**边缘ML:** 是指机器学习在不处于核心数据中心的,企业级计算机/设备中的应用。边缘设备包括服务器机房,现场服务器,以及位于各个地区以加快响应速度为目的的小型数据中心。云端和边缘端的ML 已经通过3年多的科普,广为大众所接受。今天我们看到的人脸门禁、摄像头行为识别、智能音箱...... 绝大部分场景都属于这两类。 以 TensorFlow & TF lite 等开源深度学习框架为基础的大量应用,推动了智能在云端和边缘端应用。然而,更加具有...
字节跳动正式开源分布式训练调度框架 Primus
学习框架( Tensorflow,Pytorch )耦合需要写明例如 PS、Worker 等角色,容错和弹性调度支持不友好,不支持异构调度,调度语义较为简单,不支持文件读取等。 **将算法工程师从此类繁重的底层细节中解脱出来、更多地关注到算法层面,即为** **Primus** **解决的问题。** # 日均作业百万核的字节跳动实践经过字节跳动在不断实践中调整打磨的 Primus,拥有以下能力支撑业务需求:1. 自研训练框架:目前除了业界开源的 Tensor...
AI安全技术总结与展望| 社区征文
人工智能内生安全主要包括:框架安全,如TensorFlow、Caffe、PyTorch等深度学习框架存在若干漏洞;数据安全,如数据丢失或者变形、噪声数据干扰人工智能研判结果;算法安全,如难以保证算法的正确性,对抗样本、自动驾驶中... 学习框架就像是品牌的积木,各组件就是魔心过着算法的一部分,我们可以自己设计如何堆砌,优点是无需重复造就轮子,也可以自己组装,但耗时较大。因此,机器学习领域更多是应用已经开源的深度学习框架,但这些框架也不是绝...
字节跳动正式开源分布式训练调度框架 Primus
自研训练框架:目前除了业界开源的 Tensorflow、Pytorch,为了满足用户的各种需求,字节也在机器学习场景进行了深入探索,自研多个训练框架用于满足用户需求;2. 拥有底层资源调度系统 YARN 和 Kubernetes:目前阶段处... 抖音搜索等业务的超大规模深度学习训练,日均可达上万任务的训练,450W Core 资源的使用。**未来规划**1. 开源 Primus 更多能力后续将陆续开放,详见:https://mp.weixin.qq.com/s/uGBy-Wpd...
特惠活动
深度学习开源框架-优选内容
深度学习开源框架-相关内容
字节跳动正式开源分布式训练调度框架 Primus
自研训练框架:目前除了业界开源的 Tensorflow、Pytorch,为了满足用户的各种需求,字节也在机器学习场景进行了深入探索,自研多个训练框架用于满足用户需求;2. 拥有底层资源调度系统 YARN 和 Kubernetes:目前阶段处... 抖音搜索等业务的超大规模深度学习训练,日均可达上万任务的训练,450W Core 资源的使用。**未来规划**1. 开源 Primus 更多能力后续将陆续开放,详见:https://mp.weixin.qq.com/s/uGBy-Wpd...
GPU-使用Llama.cpp量化Llama2模型
CUDNN:深度神经网络库,用于实现高性能GPU加速。本文以8.5.0.96为例。 运行环境: Transformers:一种神经网络架构,用于语言建模、文本生成和机器翻译等任务。深度学习框架。本文以4.30.2为例。 Pytorch:开源的Python机器学习库,实现强大的GPU加速的同时还支持动态神经网络。本文以2.0.1为例。 Python:执行Llama.cpp的某些脚本所需的版本。本文以Python 3.8为例。 使用说明下载本文所需软件需要访问国外网站,建议您增加网络...
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
而随着深度学习的发展,我们可以利用深度学习的特征提取能力,通过简单的数据处理步骤自动学习特征,甚至可以将过程简化为在待调研的原始特征中往一张样本表格里加列的操作后利用深度学习框架自动学习和提取信息。 ... 这是一种由 OpenAI 开发的强大语言模型。相比于 BERT 的 3.4 亿个参数,GPT-3 的模型参数数量飙升至 1750 亿个。这一巨大的增长引发了广泛的关注,并且使得 GPT-3 在自然语言处理任务中取得了令人瞩目的成就。 ...
字节跳动正式开源分布式训练调度框架 Primus
学习框架( Tensorflow,Pytorch )耦合需要写明例如 PS、Worker 等角色,容错和弹性调度支持不友好,不支持异构调度,调度语义较为简单,不支持文件读取等。**将算法工程师从此类繁重的底层细节中解脱出来、更多地关注到算法层面,即为** **Primus** **解决的问题。** 日均作业百万核的字节跳动实践==============经过字节跳动在不断实践中调整打磨的 Primus,拥有以下能力支撑业务需求:1. 自研训练框架:目前除了业界开源的...
GPU-部署Baichuan大语言模型
CUDNN:深度神经网络库,用于实现高性能GPU加速。本文以8.5.0.96为例。 运行环境:Transformers:一种神经网络架构,用于语言建模、文本生成和机器翻译等任务。深度学习框架。本文以4.30.2为例。 Pytorch:开源的Python机器学习库,实现强大的GPU加速的同时还支持动态神经网络。本文以2.0.1为例。 Anaconda:获取包且对包能够进行管理的工具,包含了Conda、Python在内的超过180个科学包及其依赖项,用于创建Python虚拟环境。本文以Anacon...
在GPU实例中部署NGC环境
本文将介绍在GPU实例上部署NGC环境。 实验介绍:本教程向大家介绍,如何在GPU实例上部署NGC环境。NGC(NVIDIA GPU CLOUD)是NVIDIA开发的一套深度学习生态系统,可以使开发者免费访问深度学习软件堆栈,建立合适深度学习... 您可以在该开发环境中访问深度学习框架,可以极大程度的缩减产品开发及业务部署的时间,实现开发环境的预安装。如果您有其他问题,欢迎您联系火山引擎技术支持服务。
功能增强
本文介绍批式计算 Spark 版相对于开源 Spark 的功能增强。 主要功能 功能描述 完全兼容生态 100%兼容开源 Spark 生态,迁移成本低。 插件化企业级增强,性能优异。 增量入湖计算及出湖分析。 全托管一站式 全托管 Spark 集群,操作简单易用。 开箱即用,免运维。 Serverless弹性 租户级端到端安全隔离。 基于火山引擎 VKE/VCI 弹性扩展能力。 交互协同工作 交互式任务执行方式。 分析结果可视化展示。 企业级安全 基于火山...
基于深度学习的工业缺陷检测详解——从0到1|社区征文
# beginning2023年可谓是人工智能浪潮翻涌的一年,AI在各个领域遍地开花。以我最熟悉的工业为例,深度学习也在其中起着重要作用。不知道小伙伴们熟不熟悉工业领域的缺陷检测腻?🧐🧐🧐今天就以钢轨表面缺陷为例,和大... 这里开发了一个安卓app,底层是腾讯的优图实验室针对手机移动端的高性能神经网络前向计算框架,叫做NCNN。在pytorch上训练了yolov5的基准模型,即获得了一个.pt格式的文件,通过NCNN呢把它转成NCNN的格式,然后在java n...
大模型:深度学习之旅与未来趋势|社区征文
这个大模型擅长的角度来验证大模型能否更深度提升个人工作效率。# 训练方法目前,模型加速领域已经建立了很多有影响力的开源工具,国际上比较有名的有微软DeepSpeed、英伟达Megatron-LM,...
