大数据公司排名
社区干货
9年演进史:字节跳动 10EB 级大数据存储实战
目前已直接支持了十多种数据平台,间接支持了上百种业务发展。从集群规模和数据量来说,HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。--------------------------------... 在大数据量场景下,我们亟需一个新架构版本的 Name Node 来承载我们的海量元数据。除了 C++语言重写来规避 Java 带来的 GC 问题以外,我们还在一些场景下做了特殊的优化。#### **目录树锁设计**HDFS 对内是一...
字节跳动大数据 SQL 权限精细化管理实践 | CommunityOverCode Asia 2023
业界在安全合规侧的压力也在日益增大,所有的数据使用者都需要遵循权限最小化原则。而 SQL 作为数据分析领域最简单、最通用的语言之一,在大数据场景下的应用非常广泛。针对 SQL 场景,传统的权限管控方式基本都是库、表、列级别权限管控。此类权限管控粒度相对较粗,难以满足日益严格的数据监管需求。我们可以通过如下两个简单的例子说明,列粒度权限难以满足用户侧的多元的使用需求:1. 有些公司多条业务线的数据可能会落入统一...
9年演进史:字节跳动 10EB 级大数据存储实战
超大数据规模 - 易扩展,容错率高## HDFS 在字节跳动的发展字节跳动已经应用 HDFS 非常长的时间了。经历了 9 年的发展,目前已直接支持了十多种数据平台,间接支持了上百种业务发展。从集群规模和数据量来说,HDFS 平台在公司内部已经成长为总数十万台级别服务器的大平台,支持了 10 EB 级别的数据量。**当前在字节跳动,** **HDFS** **承载的主要业务如下:**- Hive,HBase,日志服务,Kafka 数据存储 - Yarn,Flink 的计...
途牛科技携手火山引擎数智平台打造企业大数据系统“降本”新范式
近日,南京途牛科技有限公司与火山引擎数智平台(VeDI)的合作获得新进展:途牛大数据系统全面迁移至火山引擎开源大数据平台 E-MapReduce。旗下的【途牛旅游网】可以为线上、线下消费者提供包括跟团、自助、自驾、邮轮、景区门票以及公司旅游、机票、酒店等在内的产品和服务——“要旅游,找途牛”的企业口号,更是...
特惠活动
大数据公司排名-优选内容
大数据公司排名-相关内容
案例 | 途牛联合火山引擎 EMR 打造企业大数据系统“降本”新范式
途牛科技与火山引擎数智平台合作 打造企业大数据系统“降本”新范式近日,南京途牛科技有限公司与火山引擎数智平台(VeDI)的合作获得新进展:途牛大数据系统全面迁移至火山引擎开源大数据平台E-MapReduce。领域中领先的地位。其中,ClickHou... 数据库的极致性能,成为该领域的后起之秀,发展速度非常迅猛。截止 2021 年 8 月份,ClickHouse 已在 Github 上获得 18.2K Star,DB-Engines 排名近一年上升 16 位,并在国内获得字节跳动、快手、京东等互联网企业的生产...
演讲预告|云原生大数据系列实践分享
数据量也呈爆炸式增长,传统的大数据架构在资源利用、高效运维、可观测性等方面存在诸多不足,已经越来越无法适应当下的发展需求。云原生大数据方案,逐渐成为众多企业解决传统大数据平台痛点的不二之选。2023年8月... 个人介绍:硕士毕业于哈工大计算机专业,10 年大数据和云原生领域从业经验。2017 年加入字节跳动,构建了字节跳动千万级核心的集群资源管理和调度系统,支撑了全公司的数据平台、搜索、广告、推荐算法等中台,以及抖音、...
火山引擎发布流式计算 Flink 产品,助力构建大数据实时计算平台
大数据是企业数字化转型中,支撑企业经营和业绩增长的主要手段之一。而实时化、云原生化已经成为大数据技术发展的必然趋势。4月18日,火山引擎春季 FORCE 原动力大会在上海举办。在会上,火山引擎发布了云原生大... 更是完成了公司内 JStorm 作业的 100% 迁移。到 2019 年,字节内部 Flink 的应用迅速扩大,几乎覆盖包括抖音、头条、西瓜在内的各个产品。与此同时,团队开始积极参与到社区的共建中,在 2020 年李本超同学受邀成为 Ap...
火山引擎发布流式计算 Flink 产品,助力构建大数据实时计算平台
大数据是企业数字化转型中,支撑企业经营和业绩增长的主要手段之一。而实时化、云原生化已经成为大数据技术发展的必然趋势。4月18日,火山引擎春季 FORCE 原动力大会在上海举办。在会上,火山引擎发布了云原生大数据... 更是完成了公司内 JStorm 作业的 100% 迁移。到 2019 年,字节内部 Flink 的应用迅速扩大,几乎覆盖包括抖音、头条、西瓜在内的各个产品。与此同时,团队开始积极参与到社区的共建中,在 2020 年李本超同学受邀成为 Ap...
演讲预告|云原生大数据系列实践分享
随着行业的快速发展和业务的高速迭代,数据量也呈爆炸式增长,传统的大数据架构在资源利用、高效运维、可观测性等方面存在诸多不足,已经越来越无法适应当下的发展需求。云原生大数据方案,逐渐成为众多企业解决传统大... 个人介绍:硕士毕业于哈工大计算机专业,10 年大数据和云原生领域从业经验。2017 年加入字节跳动,构建了字节跳动千万级核心的集群资源管理和调度系统,支撑了全公司的数据平台、搜索、广告、推荐算法等中台,以及抖音、...
火山引擎——大数据智能平台的构建策略与步骤|社区征文
大数据是社会数字化的产物,随着业务成熟度的逐渐向上发展,面对的需求逐渐多样化和个性化,对于创新的要求也越来越高,因此可以说智能数据是大数据发展的高级阶段,是大数据在应用创新落地方向的核心要求。## []()01... 这些城镇就好比我们公司中不同的业务系统。对于有些公司来说,系统比较单一、异构程度不大,那么应该还好处理;对于另外一些公司而言,业务系统比较多,异构程度也比较大,这个时候难点就在于梳理下面的几个方面:● 哪...
三分钟了解大数据技术发展史|社区征文
我们常说的大数据技术,大致主要起源于 Google 在 2004 年前后发表的三篇论文,其实数据处理早就存在,每个公司或者个人都有自己的大数据处理系统,并没有形成编程框架和理念,而这三篇论文也就是我们熟知的大数据三驾马... 极大的简化了 MapReduce 分布式程序的门槛,让数据开发人员、数据分析师也能够快速入手,因此 hive 迅速得到了开发者和企业的追捧。随后众多 Hadoop 周边产品开始出现,其中包括:- 专门将关系数据库中的数据导入导...
火山引擎DataLeap:3个关键步骤,复制字节跳动一站式数据治理经验
DataLeap是火山引擎数智平台VeDI旗下的大数据研发治理套件产品,帮助用户快速完成数据集成、开发、运维、治理、资产、安全等全套数据中台建设,降低工作成本和数据维护成本、挖掘数据价值、为企业决策提供数据支撑。... 数据开发人员通过治理平台进行消息检索、问题归因,并完成根因打标,把问题具体定位到组件、平台等颗粒度; - 再次,通过公司组织方式找到组件侧对接人,或通过组织会议将问题提交给相关责任方,推动对方完成保障;...
