机器学习基础教程
社区干货
浅谈AI机器学习及实践总结 | 社区征文
常说的深度学习是一种使用深层神经网络的模型,可以应用于上述四类机器学习中,深度学习擅长处理非结构化输入,在视觉处理和自然语言处理方面都很厉害。深度学习,能对非结构的数据集进行自动的复杂特征提取,完全不需要人工干预。## 机器学习落地思路做机器学习项目,首先要先明确要解决的问题,其次,再针对问题选择一个算法,然后用对数据进行训练,找到一族函数中最合适的那一个形成最后的模型。# 机器学习入门环境准备## 背...
我的技术年终总结——机器学习 |社区征文
## 一、机器学习是什么?- 从广义上来说,机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法。但从实践的意义上来说,机器学习是一种通过利用数据,训练出模型,然后使用模型预测的一种... 密度估计是是概率统计学的基本问题之一,就是由给定样本集合求解随机变量的分布密度函数问题。大多数人已经熟悉了其中一种常用的密度估计技术:直方图。- 排序学习是信息检索和搜索引擎研究的核心问题之一,通过...
项目经验分享:机器学习在智能风控中的应用|社区征文
融合了机器学习的特征,基本解决了这些问题。为了读者能更好地理解项目以及还有些刚触及AI领域的伙伴能够了解背景,我就简单解释一些机器学习的基础概念,大致就是使得计算机拥有自我学习能力,可以从提供的数据中发... 教程也很多,一搜就有。应用比较简单,但是使用中还要注意异常的处理,数据流量的控制等等,流式处理也还有其它选择,Apache Flink、Apache Storm等都可以。```from sklearn.externals import joblibfrom kafka impo...
技术大讲堂精彩回顾& PPT 领取|字节跳动基于 HPC 的大规模机器学习技术
火山引擎开发者社区技术大讲堂第一期为大家带来了主题为「揭秘字节跳动基于 HPC 的大规模机器学习技术」的分享。字节跳动经过业务实践打磨的机器学习技术首次亮相开发者社区,由技术负责人项亮公开深度分享;同时,承载机器学习平台的超大规模 HPC 基础设施也首度在社区分享。 **《火山引擎大规模机器学习平台架构设计与应用实践》**项亮|火山引擎机器学习系统负责人本次分享围绕数据加速、模型分布式训练框架建...
特惠活动
机器学习基础教程-优选内容
机器学习基础教程-相关内容
在线学习FTRL介绍及基于Flink实现在线学习流程|社区征文
# 背景目前互联网已经进入了AI驱动业务发展的阶段,传统的机器学习开发流程基本是以下步骤:数据收集->特征工程->训练模型->评估模型效果->保存模型,并在线上使用训练的有效模型进行预测。这种方式主要存在两个... FTRL 在FTL的优化目标的基础上,加入了正则化,防止过拟合。FTRL的损失函数一般也不容易求解,这种情况下,一般需要找一个代理的损失函数。代理损失函数需要满足以下条件:1. 代理损失函数比较容易求解,最好是有解析...
火山引擎大规模机器学习平台架构设计与应用实践
所以面对丰富的机器学习应用,我们的需求是多样的。针对这些需求,底层的计算、存储、网络等基础设施要提供强大的硬件,同时在这些硬件基础上还要提供强大的调度能力,才能为各种需求提供较好的服务,使集群利用率维持在较高水平。模型训练的第二个痛点是偏管理上的。比如在算法问题上,一个方法比另外一好,其中的原因多种多样,可能是基础架构不同,也可能是算法不同。在字节跳动的实践中发现,基础架构对性能或迭代效率有影响,但大部分...
揭秘字节跳动基于 HPC 的大规模机器学习技术
随着智慧科研、自动驾驶、基因测序、量化投资等大量新兴产业的发展,现代产业对模型训练有了大量的需求,模型体积也呈现爆发式地增长。而大模型训练给底层基础设施,尤其是计算能力带来了不小的挑战。4 月 14 日,火山引擎开发者社区技术大讲堂第一期将为大家揭秘字节跳动基于 HPC 的大规模机器学习技术。字节跳动经过业务实践打磨的机器学习技术将首次亮相开发者社区,并由技术负责人项亮公开深度分享,与广大开发者互动。同时,承载...
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
本文将介绍字节跳动如何通过 Iceberg 数据湖支持 EB 级机器学习样本存储,实现高性能特征读取和高效特征调研、特征工程加速模型迭代。作者|字节跳动基础架构研发工程师-谢凯 **01**... 目前大语言模型基本都沿用了 Transformer 架构实现,虽然学习特征的能力已经很强了,但目前还需要分词组件辅助将文字转换为模型理解的形式,并且分词的好坏也会一定程度影响模型的效果。而现阶段各个大语言模型的分词...
火山引擎大规模机器学习平台架构设计与应用实践
所以面对丰富的机器学习应用,我们的需求是多样的。针对这些需求,底层的计算、存储、网络等基础设施要提供强大的硬件,同时在这些硬件基础上还要提供强大的调度能力,才能为各种需求提供较好的服务,使集群利用率维持在较高水平。模型训练的第二个痛点是偏 **管理上** 的。比如在算法问题上,一个方法比另外一好,其中的原因多种多样,可能是基础架构不同,也可能是算法不同。在字节跳动的实践中发现,基础架构对性能或迭代效率有影响...
AI 和机器学习:探索智能科技的未来 | 社区征文
是使计算机和机器模拟人类智能的科学与工程实践。它旨在构建智能代理——系统能够正确理解外部环境,并在那里采取行动,以最大程度地完成目标。AI技术的目标之一是通过创建具有人类智能特征的系统来解决复杂问题。而机器学习(Machine Learning)是AI的一个分支。它通过分析数据来教会计算机学习而不通过明确编程。通过例如聚类、分类和回归等算法从示例数据中学习模式和规则,机器学习系统能够以新数据为基础做出预测。它利用统计方法...
揭秘字节跳动基于 HPC 的大规模机器学习技术
点击上方👆蓝字关注我们! 随着智慧科研、自动驾驶、基因测序、量化投资等大量新兴产业的发展,现代产业对模型训练有了大量的需求,模型体积也呈现爆发式地增长。而大模型训练给底层基础设施,尤其是计算能力带来了不小的挑战。4 月 14 日,火山引擎开发者社区 **技术大讲堂第一期**将为大家揭秘字节跳动基于 HPC 的大规模机器学习技术。字节跳动经过业务实践打磨的**机器学习技术将****首次亮相*...
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
并为模型的迭代和优化提供基础。目前字节跳动以及整个业界在机器学习和训练样本领域的一些趋势如下: 首先,**模型** **/样本** **越来越大**。随着模型参数的增多,为了训练这些庞大的模型需要更多、更丰富的训... 目前大语言模型基本都沿用了 Transformer 架构实现,虽然学习特征的能力已经很强了,但目前还需要分词组件辅助将文字转换为模型理解的形式,并且分词的好坏也会一定程度影响模型的效果。而现阶段各个大语言模型的分词...
基于火山引擎云搜索服务的排序学习实战
> 排序学习(LTR: Learning to Rank)作为一种机器学习技术,其应用场景非常广泛。例如,在**电商推荐**领域,可以帮助电商平台对用户的购买历史、搜索记录、浏览行为等数据进行分析和建模;可以帮助**搜索引擎**对用户的搜索关键词进行分析建模;可以为广告主提供最精准和最有效的**广告投放**方案;在**金融风控**领域,排序学习可以帮助金融机构分析客户的信用评级和欺诈风险,提高风控能力和业务效率。#### 本文相关产品-火山引擎云搜...
