**讲师简介:**Apache Calcite PMC Member,Apache Flink Committer,毕业于北京大学,目前就职于字节跳动流式计算团队,Flink SQL 技术负责人。 **专题:数据湖与数据仓库** * #### **基于 F... 最后介绍一下字节跳动在实时数据湖中的一些实践收益。 **讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverless Flink 等方向研发;闵中元,于 2021 年加入字节跳动,就...
Apache 软件基金会的官方全球系列大会 CommunityOverCode Asia(原 ApacheCon Asia)首次中国线下峰会将于 2023 年 8 月 18-20 日在北京丽亭华苑酒店举办,大会含 17 个论坛方向、上百个前沿议题。字节跳动云原生计... 最后介绍一下字节跳动在实时数据湖中的一些实践收益。**讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverless Flink 等方向研发;闵中元,于 2021 年加入字节跳动,就职于基...
## 一、前言近年来,随着微服务、云原生和 Serverless 概念的普及以及容器化技术的发展,事件驱动也再次成为热点,引起 IT 界广泛的关注。事件驱动架构是一种用于设计应用的软件架构和模型。对于事件驱动系统而言,事件的捕获、通信、处理和持久保留是解决方案的核心结构。事件驱动架构可以最大程度减少耦合度,很好地扩展与适配不同类型的服务组件,因此是现代化分布式应用架构的理想之选。本文会从以下几个方面来剖析 Apache Even...
> Apache Airflow 与 ByteHouse 相结合,为管理和执行数据流程提供了强大而高效的解决方案。本文突出了使用 Apache Airflow 与 ByteHouse 的主要优势和特点,展示如何简化数据工作流程并推动业务成功。### 主要优势... #### YAML 配置使用 cd ~/airflow 命令进入 Airflow 文件夹。打开名为 airflow.cfg 的配置文件。添加配置并连接到数据库。默认情况下,您可以使用 SQLite,但也可以连接到 MySQL。```# 默认情况下是SQLite,也可...
1 Livy 介绍Apache Livy 是一个 Rest 服务,允许用户通过 Rest API 向 Spark cluster 提交作业。它的架构如下 用户通过 Rest API 向 livy server 提交作业请求,之后 server 会向 cluster manager(通常是 yarn)提交 spark 作业。Spark 作业以 cluster 模式运行,即 spark context 运行在 cluster 内,而非 livy server 中,之后 Livy 以 session 来管理这些 spark 作业。 2 Livy 入门2.1 Rest APISession 是 Livy 中一个非常重要的概念...
LAMP 环境是指在Linux系统中,搭建由Linux、Apache、MariaDB/MySQL、PHP组成的Web应用平台。本文介绍如何在CentOS 8.3实例上部署LAMP环境。 软件版本操作系统:本文以CentOS 8.3为例。 Apache:性能稳定的Web网页服务器,本文以Apache 2.4.37为例。 MySQL/MariaDB:数据库管理系统,本文以MariaDB 15.1和MySQL 8.0.26为例。 PHP:在服务器端执行的嵌入HTML文档的脚本语言,本文以PHP 7.3.20为例。 前提条件您已购买Linux实例。具体操作请...
**讲师简介:**Apache Calcite PMC Member,Apache Flink Committer,毕业于北京大学,目前就职于字节跳动流式计算团队,Flink SQL 技术负责人。 **专题:数据湖与数据仓库** * #### **基于 F... 最后介绍一下字节跳动在实时数据湖中的一些实践收益。 **讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverless Flink 等方向研发;闵中元,于 2021 年加入字节跳动,就...
LAMP 环境是指在Linux系统中,搭建由Linux、Apache、MySQL/MariaDB、PHP组成的Web应用平台。本文介绍如何在Ubuntu 18.04实例上部署LAMP环境。 软件版本操作系统:本文以Ubuntu 18.04为例。 Apache:性能稳定的Web网页服务器,本文以Apache 2.4.29为例。 MySQL/MariaDB:数据库管理系统,本文以MariaDB 15.1为例。 PHP:在服务器端执行的嵌入HTML文档的脚本语言,本文以PHP 7.2.24为例。 前提条件您已购买Linux实例。具体操作请参见购买云...
Apache 软件基金会的官方全球系列大会 CommunityOverCode Asia(原 ApacheCon Asia)首次中国线下峰会将于 2023 年 8 月 18-20 日在北京丽亭华苑酒店举办,大会含 17 个论坛方向、上百个前沿议题。字节跳动云原生计... 最后介绍一下字节跳动在实时数据湖中的一些实践收益。**讲师简介:** 王正,于 2021 年加入字节跳动,就职于基础架构开放平台团队,主要负责 Serverless Flink 等方向研发;闵中元,于 2021 年加入字节跳动,就职于基...
LAMP 环境是指在Linux系统中,搭建由Linux、Apache、MariaDB/MySQL、PHP组成的Web应用平台。本文介绍如何在CentOS 7.6实例上部署LAMP环境。 软件版本操作系统:本文以CentOS 7.6为例,您也可以按需替换为CentOS 7.9、veLinux 1.0(CentOS兼容版)等CentOS 7系镜像。 Apache:性能稳定的Web网页服务器,本文以Apache 2.4.6为例。 MySQL/MariaDB:数据库管理系统,本文以MariaDB 15.1和MySQL 14.14为例。 PHP:在服务器端执行的嵌入HTML文档的...
## 一、前言近年来,随着微服务、云原生和 Serverless 概念的普及以及容器化技术的发展,事件驱动也再次成为热点,引起 IT 界广泛的关注。事件驱动架构是一种用于设计应用的软件架构和模型。对于事件驱动系统而言,事件的捕获、通信、处理和持久保留是解决方案的核心结构。事件驱动架构可以最大程度减少耦合度,很好地扩展与适配不同类型的服务组件,因此是现代化分布式应用架构的理想之选。本文会从以下几个方面来剖析 Apache Even...
> Apache Airflow 与 ByteHouse 相结合,为管理和执行数据流程提供了强大而高效的解决方案。本文突出了使用 Apache Airflow 与 ByteHouse 的主要优势和特点,展示如何简化数据工作流程并推动业务成功。### 主要优势... #### YAML 配置使用 cd ~/airflow 命令进入 Airflow 文件夹。打开名为 airflow.cfg 的配置文件。添加配置并连接到数据库。默认情况下,您可以使用 SQLite,但也可以连接到 MySQL。```# 默认情况下是SQLite,也可...
字节数据中台DataLeap的Data Catalog系统基于Apache Atlas搭建,其中Atlas通过Kafka获取外部系统的元数据变更消息。在开源版本中,每台服务器支持的Kafka Consumer数量有限,在每日百万级消息体量下,经常有长延时等问... 本文会详细介绍框架解决的问题,整体的设计,以及实现中的关键决定。## 需求定义使用下面的表格将具体场景定义清楚。**需求维度** | **需求描述** ||...