管理实训访问一个工商企
社区干货
字节跳动云原生大数据平台运维管理实践
我们进行了一系列云原生大数据运维管理实践。通过云原生的方式进行运维管理,最终达到弱化业务方对状态的感知,屏蔽环境的差异,统一不同环境下的使用体验。作者|字节跳动资深研发工程师-罗来锋 ## 业务现状与... 然后又为了方便地对外暴露服务需要通过 Service 统一访问入口,但是这里的资源协调在 K8s 中并没有提供很好的工具。在开源的解决方案中很多开源组件基本上都提供了迁移 K8s 的 Helm Chart,但为了更好地融入开源的生...
字节跳动云原生大数据平台运维管理实践
我们进行了一系列云原生大数据运维管理实践。通过云原生的方式进行运维管理,最终达到弱化业务方对状态的感知,屏蔽环境的差异,统一不同环境下的使用体验。作者|字节跳动资深研发工程师-罗来锋 ... 然后又为了方便地对外暴露服务需要通过 Service 统一访问入口,但是这里的资源协调在 K8s 中并没有提供很好的工具。在开源的解决方案中很多开源组件基本上都提供了迁移 K8s 的 Helm Chart,但为了更好地融入开源的生...
字节跳动大规模 K8s 集群管理实践
包括容器管理平台、计算存储和网络的 Paas平台;* **SRE 体系**:通过 SRE 整体能力的建设把研发体系到基础设施管理流程串联起来;* **云原生安全**:涵盖业务安全、身份安全、网络安全等云原生安全能力。这些... 字节跳动大规模 K8s 混合部署实践 字节跳动私有云平台 TCE 的底层使用 K8s 作为编排调度的系统,字节内部几乎所有无状态服务都以容器的形式部署在 TCE 上,无状态服务主要包括各种微服务和算法...
字节跳动大数据 SQL 权限精细化管理实践 | CommunityOverCode Asia 2023
基于 SQL 血缘进行权限点提取的思路以及具体实践方案,重点从权限管控维度阐述了字节跳动的权限管理服务如何基于精准细粒度的 SQL 权限点信息,完成行列混合的资源粒度权限管控工作。本篇文章提纲如下:* 项目背景... 上面提到的 SQL 语句真正访问的数据其实就是标黄的资源方块:
特惠活动
管理实训访问一个工商企-优选内容
管理实训访问一个工商企-相关内容
干货 | 看 SparkSQL 如何支撑企业级数仓
> 企业级数仓架构设计与选型的时候需要从开发的便利性、生态、解耦程度、性能、 安全这几个纬度思考。本文作者:惊帆 来自于数据平台 EMR 团队# 前言Apache Hive 经过多年的发展,目前基本已经成了业界构建超大规模数据仓库的事实标准和数据处理工具,Hive 已经不单单是一个技术组件,而是一种设计理念。Hive 有 JDBC 客户端,支持标准 JDBC 接口访问的 HiveServer2 服务器,管理元数据服务的 Hive Metastore,以及任务以 MapReduce...
2022技术盘点之平台云原生架构演进之道|社区征文
不同云厂商资源统一管理,并结合平台的统一监控告警、统一服务管理、统一运营管理、统一运维管理、自动化运维等能力能极大简化云用户、云运维、云运营各角色的工作复杂度,提升管理效率和资源交付效率,最终帮助企业降... 访问控制来保证数据安全与用户隐私)以及安全监控与审计,形成事前、事中、事后的全过程防护;- 业界主流安全工具平台赋能:如:KubeLinter/Kubescape/Nessus/Sonarqube/AppScan等,严格把控平台从设计、开发、测试、部...
字节跳动大数据 SQL 权限精细化管理实践 | CommunityOverCode Asia 2023
基于 SQL 血缘进行权限点提取的思路以及具体实践方案,重点从权限管控维度阐述了字节跳动的权限管理服务如何基于精准细粒度的 SQL 权限点信息,完成行列混合的资源粒度权限管控工作。本篇文章提纲如下:* 项目背景... 上面提到的 SQL 语句真正访问的数据其实就是标黄的资源方块: > > > 数据仓库发展历程很久，随着云计算等技术发展以及海量数据应用场景等出现，对数据仓库提出全新要求，高性能、实
Katalyst Memory Advisor:用户态的 K8s 内存管理方案
文章来源|KubeWharf 开源社区Repo | github.com/kubewharf/katalyst-core **0****1** **背景** 在混部场景下,内存管理是一个很重要的话题:一方面,当节点或容器的... 由于访问内存的速度比访问磁盘快很多,Linux 使用内存的策略比较贪婪,采取尽量分配,当内存水位较高时才触发回收的策略。 **内存分配**内核的内存分配方式主要包含 2 种:* **快速内存分配** :首先尝试进行...
SparkSQL 在企业级数仓建设的优势
> 企业级数仓架构设计与选型的时候需要从开发的便利性、生态、解耦程度、性能、 安全这几个纬度思考。本系列分两次连载，**第一部分（本文）分享我们在企业级数仓建设上的技术选型观点**，第二个部分则重点介绍了字节跳动数据平台在通过 SparkSQL 进行企业级数仓建设的实践。  经过十多年的发展，数据治理在传统行业以及新兴互联网公司都已经产生落地实践。字节跳动也在探索一种分布式的数据
