服务器大数据
社区干货
三分钟了解大数据技术发展史|社区征文
这三篇论文影响了当今大数据生态,可以称得上大数据的基石,Doug cutting 大佬在基于谷歌的三篇论文开发出了 hadoop hdfs 分布式文件存储、MapReduce 计算框架,实际上从 hadoop 开源代码中窥见大数据并没有多么高深的技术难点,大部分实现都是基础的 java 编程,但是对业界的影响是非常深远的。那个时候大多数公司还是聚焦在单机上,如何尽可能提升单机的性能,需求更贵的服务器,谷歌通过把许多廉价的服务器通过分布式技术组成一个大的...
9年演进史:字节跳动 10EB 级大数据存储实战
超大数据规模 - 易扩展,容错率高## HDFS 在字节跳动的发展字节跳动已经应用 HDFS 非常长的时间了。经历了 9 年的发展,目前已直接支持了十多种数据平台,间接支持了上百种业务发展。从集群规模和数据量来说,HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。**当前在字节跳动,** **HDFS** **承载的主要业务如下:**- Hive,HBase,日志服务,Kafka 数据存储 - Yarn,Flink 的计...
9年演进史:字节跳动 10EB 级大数据存储实战
目前已直接支持了十多种数据平台,间接支持了上百种业务发展。从集群规模和数据量来说,HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。---------------------------------------------------------------------------------------------------------------------------- **当前在字节跳动,** **HDFS** **承载的主要业务如下:*** Hive,HBase,日志服务,Kafka 数据存储* Yarn,F...
如何 Get 字节跳动同款云原生大数据平台
随着业务和数据的快速增长,云计算和大数据技术也得到了迅速发展,云原生化和智能化已成为一种趋势。在此背景下,字节跳动进行了一系列大数据架构 Serverless 化的探索与实践,并在 AI 智能化方向进行了研究,最终形成火山引擎云原生大数据平台方案。 11月18日,在由上海白玉兰开源开放研究院、人工智能开源软件发展联盟联名主办的 **Data & AI Con Shanghai 2023** 大会上,将特别设立**云原生****大规模计算实践专场**。来自火山...
特惠活动
服务器大数据-优选内容
服务器大数据-相关内容
如何 Get 字节跳动同款云原生大数据平台
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/7c052693e43b45cbbe47e9eb197033b3~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1714926054&x-signature=6yH82TNdzw65ZnSUZYAhLVxG6XQ%3D) 随着业务和数据的快速增长,云计算和大数据技术也得到了迅速发展,云原生化和智能化已成为一种趋势。在此背景下,字节跳动进行了一系列大数据架构 Serverless 化的探索与实践,并在 ...
从思考到实践,企业级大数据平台的构建之路
在企业数据体量持续增长、业务时效性持续提升的情况下,已经很难应对更复杂、更多样化的场景需求,平台扩展和数据融合面临重重障碍。8 月18 日,火山引擎开发者社区技术大讲堂第四期将为大家从 **开源大数据生... 火山引擎湖仓一体分析服务 LAS 是面向湖仓一体架构的 Serverless 数据处理分析服务,提供一站式的海量数据存储计算和交互分析能力,完全兼容 Spark、Presto、Flink 生态,在字节跳动内部有着广泛的应用。本次演讲将介...
如何 Get 字节跳动同款云原生大数据平台
随着业务和数据的快速增长,云计算和大数据技术也得到了迅速发展,云原生化和智能化已成为一种趋势。在此背景下,字节跳动进行了一系列大数据架构 Serverless 化的探索与实践,并在 AI 智能化方向进行了研究,最终形成火山引擎云原生大数据平台方案。11月18日,在由上海白玉兰开源开放研究院、人工智能开源软件发展联盟联名主办的 **Data & AI Con Shanghai 2023** 大会上,将特别设立**云原生** **大规模计算实践专场** 。来自火...
ApacheCon - 云原生大数据上的 Apache 项目实践
大量数据。在这场分享中,我们将首先介绍实时数据湖目前存在的痛点,比如数据的高时效性,多样性,一致性和准确性等。然后介绍我们如何基于 Flink 和 Iceberg 构建实时数据湖,主要通过如下两部分展开:如何将数据实时入湖、如何使用 Flink 进行 OLAP 临时查询。最后介绍一下字节跳动在实时数据湖中的一些实践收益。 **讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverless Flink 等方向研发...
火山引擎云原生大数据在金融行业的实践
云原生系统的原生调度器吞吐能力差,不适用于任务量大且运行时间较短的大数据作业,比如一个只需要运行 1 分钟的 Spark 作业,在调度阶段就花费三分钟,不仅使作业完成时间大幅增加,还造成了集群资源浪费;因此,只有在云原生系统上补齐上述不足,才可以更好地支撑金融行业大数据场景。 # **▌云原生大数据部署**为了满足业务的多种需求,火山引擎支持大数据作业在云原生系统上的两种部署方式:- 基于 Serverless YARN ...
火山引擎云原生大数据在金融行业的实践
不适用于任务量大且运行时间较短的大数据作业,比如一个只需要运行 1 分钟的 Spark 作业,在调度阶段就花费三分钟,不仅使作业完成时间大幅增加,还造成了集群资源浪费;因此,只有在云原生系统上补齐上述不足,才可以更好地支撑金融行业大数据场景。**02****云原生大数据部署**为了满足业务的多种需求,火山引擎支持大数据作业在云原生系统上的两种部署方式: * 基于 Serverless YARN 的 H...
ApacheCon - 云原生大数据上的 Apache 项目实践
它允许企业实时分析和查询大量数据。在这场分享中,我们将首先介绍实时数据湖目前存在的痛点,比如数据的高时效性,多样性,一致性和准确性等。然后介绍我们如何基于 Flink 和 Iceberg 构建实时数据湖,主要通过如下两部分展开:如何将数据实时入湖、如何使用 Flink 进行 OLAP 临时查询。最后介绍一下字节跳动在实时数据湖中的一些实践收益。**讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverl...
火山引擎——大数据智能平台的构建策略与步骤|社区征文
大数据是社会数字化的产物,随着业务成熟度的逐渐向上发展,面对的需求逐渐多样化和个性化,对于创新的要求也越来越高,因此可以说智能数据是大数据发展的高级阶段,是大数据在应用创新落地方向的核心要求。## []()01... 对应到系统建设方面也就是大致下面几个:● 数据收集系统:确定数据源,数据格式,数据传输方法,数据清洗工具等。● 搭建存储集群:确定存储规模、服务器配置和数量、网络规划及建设、安装和调试集群、确定存储方式...
字节跳动云原生大数据平台运维管理实践
> 云原生大数据是大数据平台新一代架构和运行形态。随着字节跳动内部业务的快速增长,传统大数据运维平台的劣势开始逐渐暴露,如组件繁多,安装运维复杂,与底层环境过度耦合;对业务方来说缺少开箱即用的日志、监控、告... 在开源夜莺的概览中包括存储指标数据的 Prometheus、存储告警业务数据的数据库及核心组件: WebApi 和 Server。 WebApi 用于承担用户的交互,比如规则的增删改查及执行指标查询等。Server 负责加载规则、生成告警事件...
