分布式存储和openstack
社区干货
【云原生 | 最佳实践】一个实践驱动的云原生项目集—KubeWharf | 社区征文
我们计划和开源社区合作,逐步开放规模化云原生落地的工具和最佳实践。”字节跳动宣布正式开源 KubeWharf 项目。KubeWharf 是字节跳动基础架构团队在对 Kubernetes 进行了大规模应用和不断优化增强之后的技术结晶。这是一套以 Kubernetes 为基础构建的分布式操作系统,由一组云原生组件构成,专注于提高系统的可扩展性、功能性、稳定性、可观测性、安全性等,以支持大规模多租集群、在离线混部、存储和机器学习云原生化等场景。K...
9年演进史:字节跳动 10EB 级大数据存储实战
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/da1d57a888f74d2cae7da4cdebc5d034~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1714753255&x-signature=Nt%2FV4j%2FuN3X31xI0IeGP935CIZ0%3D) 作为目前字节跳动内部存储量及集群规模最大的分布式存储系统,HDFS 一直伴随着字节跳动关键业务的飞速扩张而快速发展。本文从 HDFS 发展历程入手,介绍发展路径上的重大挑...
KubeWharf:解析云原生未来的分布式操作系统|社区征文
作为一个以 Kubernetes 为基础构建的分布式操作系统,成为云原生领域备受瞩目的开源项目。它以一组云原生组件为基础,专注于提升系统的可扩展性、功能性、稳定性、可观测性以及安全性,以满足大规模多租集群、离线混部、云原生存储和机器学习等多样化场景的需求。在这篇博客中,我们将深入了解 KubeWharf,并结合实际案例和代码示例,探讨其在云原生生态系统中的重要性和潜力。KubeWharf 项目地址:[https://github.com/kubewharf](ht...
探索云原生化的服务架构体系的技术风向,攻克云原生化微服务架构的痛点和特性 | 社区征文
云原生-微服务框架的核心挑战在于屏蔽分布式系统复杂度和多语言差异,从而让开发者能够像单体应用一样开发微服务应用。在这里以Dubbo框架为例,Dubbo框架,快速成为国内首选,但存在着序列化协议语言相关性高、多语言... 容器和微服务架构来支持复杂交互系统,把风险拒之门外,把敏感数据存放到配置中心加密存储,代码、密文和密钥分别存储,杜绝核心数据泄漏。* * *# 服务架构的未来发展未来服务架构将朝着易用、标准化、与编程语言...
特惠活动
分布式存储和openstack-优选内容
分布式存储和openstack-相关内容
9年演进史:字节跳动 10EB 级大数据存储实战
# 背景## **HDFS** **简介**HDFS 全名 Hadoop Distributed File System,是业界使用最广泛的开源分布式文件系统。原理和架构与 Google 的 GFS 基本一致。它的特点主要有以下几项:- 和本地文件系统一样的目录... ZKFC 和 BookKeeper(不同于 QJM,BookKeeper 在大规模多节点数据同步上表现得更稳定可靠)。Name Node 负责存储整个 HDFS 集群的元数据信息,是整个系统的大脑。一旦故障,整个集群都会陷入不可用状态。因此 Name No...
字节跳动高性能 Kubernetes 元信息存储方案探索与实践
[picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/d69f1f96547c48039adb668787fa0578~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1714753255&x-signature=7Kr%2BeLpq1Y7LzT4o%2F4hHz33PTZU%3D)本文整理自 2022 年稀土开发者大会演讲,字节跳动云原生工程师薛英才分享了 基于分布式 KV 存储引擎的高性能 K8s 元数据存储项目 KubeBrain。KubeBrain 是字节跳动针对 Kuber...
边缘智变:深度学习引领下的新一代计算范式|社区征文
剖析和存储,并承担运用的思路解决方法。云计算层可视为边缘计算的“大脑”,负责协调及管理系统的运行。# 3.边缘计算的特点低延迟:由于系统边缘的数据处理和应用逻辑,能够降低传送数据位置和时长,从而减少了延迟。这对需要实时反馈的应用场景(如自动驾驶、远程医疗等)至关重要。高效:边缘计算能彻底解决海量信息,减轻云计算核心压力,提高总体数据处理效率。灵活性:因为设备层和边缘服务器层分布式特点,边缘计算可以灵活地...
内容集锦 | 在字节跳动,数据技术这么干!(内含赠书福利)
**—— 文末参与限时抽奖,获取赠书福利 ——** 在数字化时代,企业内部越来越展现出对海量数据存储、治理、运维、评估、决策需求。数据中台的出现可以更大程度发挥数据价值,打破企业内部数据孤岛... 灵活支持各类数据分析和应用;云数仓版作为云原生的数据分析平台,实现统一的离线和实时数据分析,并通过弹性扩展的计算层和分布式存储层,有效降低企业大数据分析TCO。 **后台回复数字“6”了解产品。**...
内容集锦 | 在字节跳动,数据技术这么干(第四弹)!
企业内部越来越展现出对海量数据存储、治理、运维、评估、决策需求。数据中台的出现可以更大程度发挥数据价值,打破企业内部数据孤岛,更好、更快服务于企业内部决策与业务增长。 字节跳动数据平台,承担了字... 灵活支持各类数据分析和应用;云数仓版作为云原生的数据分析平台,实现统一的离线和实时数据分析,并通过弹性扩展的计算层和分布式存储层,有效降低企业大数据分析。**后台回复数字“6”了解产品。**...
KubeWharf: 云原生分布式操作系统体验部署|社区征文
和存储服务等多种形态的基础设施。**节点规模的显著增长**- 字节跳动 Kubernetes 节点规模从 2018 年至今增长了10倍以上,这反映了业务规模的快速扩大和对基础设施的持续需求。**性能、资源利用率、可扩展性、可用性的挑战**- 随着 Kubernetes 集群规模的增加,性能、资源利用率、可扩展性和可用性等方面的挑战逐渐凸显。- 在大规模运行的环境中,管理和维护 Kubernetes 集群可能变得更加复杂,需要更高效的分布式操作...
工业大数据分析与应用——知识总结 | 社区征文
构建隐私数据保护体系和数据安全体系,有效保护个人隐私和数据安全。两大核心技术:分布式存储、分布式处理### 1.6 工业大数据的概念与特征概念:工业大数据就是**在工业领域信息化相关应用中所产生的海量数据*... 存贮、处理实时性要求高* 与具体工业领域密切相关### 1.7 工业大数据与流程工业智能制造与一般意义上的智能制造相比,流程工业智能制造必须解决以下几方面的技术创新,而工业大数据在其中扮演着重要、核心角色。...
大数据文件存储-火山引擎
大数据文件存储是面向大数据和机器学习生态的文件存储和加速服务。支持完整的HDFS语义,无需修改代码即可使用高可靠,低成本,高可用和无限容量的分布式文件系统。与火山引擎 VKE/VCI 相结合提供近端数据加速,多级数据缓存等能力
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
> 深度学习的模型规模越来越庞大,其训练数据量级也成倍增长,这对海量训练数据的存储方案也提出了更高的要求:怎样更高性能地读取训练样本、不使数据读取成为模型训练的瓶颈,怎样更高效地支持特征工程、更便捷地增删... 延续了计算存储分离的设计理念。天然支持 Flink 和 Spark 引擎进行数据分析和 ETL 数据处理,同时还支持多种训练框架,包括我们团队近期开源的分布式训练调度框架 Primus,以及传统的 PyTorch 和 TensorFlow 等,用户可...
