机器学习开源
社区干货
字节跳动正式开源分布式训练调度框架 Primus
机器学习框架( Tensorflow,Pytorch )耦合需要写明例如 PS、Worker 等角色,容错和弹性调度支持不友好,不支持异构调度,调度语义较为简单,不支持文件读取等。 **将算法工程师从此类繁重的底层细节中解脱出来、更多地关注到算法层面,即为** **Primus** **解决的问题。** # 日均作业百万核的字节跳动实践经过字节跳动在不断实践中调整打磨的 Primus,拥有以下能力支撑业务需求:1. 自研训练框架:目前除了业界开源的 Te...
亚马逊云科技 -- AIGC 时代的数椐基础设施|社区征文
### 亚马逊云科技 -- AIGC时代的数椐基础设施>> - Amazon OpenSearch(AOS):开源搜索和分析引擎> - Amazon SageMaker:全面机器学习服务> - Amazon Bedrock:完全托管服务> - Amazon Augmented AI:机器学习预测的人工审核> - Amazon CodeGuru Security:机器学习自动推理开发周期检测、跟踪、修复代码安全漏洞### Amazon OpenSearch(AOS)> Amazon OpenSearch(AOS)亚马逊云计算服务提供开源搜索和分析引擎,基于开源项目Elas...
字节跳动正式开源分布式训练调度框架 Primus
自研训练框架:目前除了业界开源的 Tensorflow、Pytorch,为了满足用户的各种需求,字节也在机器学习场景进行了深入探索,自研多个训练框架用于满足用户需求;2. 拥有底层资源调度系统 YARN 和 Kubernetes:目前阶段处在 YARN 向 Kubernetes 的迁移过程中,在此过程中需要对用户屏蔽底层的调度系统,提供一致的体验;3. 大规模应用混部资源:由于混部资源不稳定的特点,对训练的容错和稳定有着更高的要求;4. 支持复杂调度编排语义:为了使...
字节跳动开源 OpenDay 日程揭晓
首届字节跳动开源 OpenDay 将于 10 月 21 日在北京大钟寺工区举办。来自字节跳动服务框架、数据平台、可视化团队、机器学习团队,火山引擎云原生、多媒体团队,字节开源法务、安全等团队的开源同学齐聚一堂,分享开源实践、社区进展和合规安全等开源话题。参与本次活动的开源项目包括云原生、微服务、大数据、前端、多媒体、人工智能、安全等多个领域与方向,期待在此次活动中与对开源感兴趣的小伙伴现场交流。 ...
特惠活动
机器学习开源-优选内容
机器学习开源-相关内容
从字节跳动机器学习平台,到火山引擎智能中台
对于整个机器学习的核心——软硬件性能的优化,字节跳动技术团队还在几年机器学习平台建设过程中沉淀出了两个开源项目:加速分布式训练框架BytePS、加速BERT线上推理服务Effective Transformer。 丨BytePSBytePS是一种高性能的通用分布式训练框架,通过一个可以被各种通用框架引用的抽象层,实现了同时支持Tensorflow、PyTorch、MXNet等行业主流训练框架,并且可以在TCP和RDMA网络上运行。BytePS提供了TensorFlow、PyTorch、MXNet以及...
字节跳动开源 OpenDay 日程揭晓
首届字节跳动开源 OpenDay 将于 10 月 21 日在北京大钟寺工区举办。来自字节跳动服务框架、数据平台、可视化团队、机器学习团队,火山引擎云原生、多媒体团队,字节开源法务、安全等团队的开源同学齐聚一堂,分享开源实践、社区进展和合规安全等开源话题。参与本次活动的开源项目包括云原生、微服务、大数据、前端、多媒体、人工智能、安全等多个领域与方向,期待在此次活动中与对开源感兴趣的小伙伴现场交流。 ...
火山引擎大规模机器学习平台架构设计与应用实践
本文主要介绍了火山引擎云原生机器学习平台在高性能计算和存储的规模化调度上的架构设计,如何对模型分布式训练进行加速,以及平台如何满足开发过程的标准化和团队协作的需求。 模型训练痛点... 这些算子的性能往往比好的开源实现有非常明显的提升。在 **通信上** :我们开源了 BytePS 的通信框架。BytePS 同时利用了 CPU 和 GPU 两种异构资源来加速通信,在对拓扑的探测上做了细致和智能的优化,并且支持异...
字节跳动正式开源分布式训练调度框架 Primus
自研训练框架:目前除了业界开源的 Tensorflow、Pytorch,为了满足用户的各种需求,字节也在机器学习场景进行了深入探索,自研多个训练框架用于满足用户需求;2. 拥有底层资源调度系统 YARN 和 Kubernetes:目前阶段处在 YARN 向 Kubernetes 的迁移过程中,在此过程中需要对用户屏蔽底层的调度系统,提供一致的体验;3. 大规模应用混部资源:由于混部资源不稳定的特点,对训练的容错和稳定有着更高的要求;4. 支持复杂调度编排语义:为了使...
火山引擎大规模机器学习平台架构设计与应用实践
>作者:火山引擎AML团队## 模型训练痛点关于模型训练的痛点,首先是技术上的。现在机器学习应用非常广泛,下表给出了几种典型的应用,包括自动驾驶、蛋白质结构预测、推荐广告系统、NLP 等。 和 [**KubeAdmiral**](http://mp.weixin.qq.com/s?__biz=M...
新增 2 开源项目进入 CNCF 云原生全景图
存储和机器学习云原生化等场景。来源 | KubeWharf 社区近日,字节跳动 2 个云原生开源项目 [**Katalyst**](http://mp.weixin.qq.com/s?__biz=Mzk0NDMzNjkxNw==&mid=2247484922&idx=1&sn=fb8922282b6215f28f69a3d9e23fa855&chksm=c3277c80f450f596fa53c910a75c38e3c22ff864782ec626a0a9842be736dd8ea006d0f2f6b8&scene=21#wechat_redirect) 和 [**KubeAdmiral**](http://mp.weixin.qq.com/s?__biz=M...
浅谈AI机器学习及实践总结 | 社区征文
# 机器学习基础## 什么是机器学习机器学习是一种从数据生成规则、发现模型,来帮助我们预测、判断、分组和解决问题的技术。(机器学习是一种从数据中生产函数,而不是程序员直接编写函数的技术)说起函数就涉及到自变量和因变量,在机器学习中,把自变量叫做特征(feature)多个自变量分别可以定义为X1,X2..Xn,因变量叫做标签(label),可定义为Y,而一批特征和标签的集合,就是机器学习的数据集。机器学习的学习过程就是在已知的数据...
