You need to enable JavaScript to run this app.
最新活动
产品
解决方案
定价
生态与合作
支持与服务
开发者
了解我们

轻量型开源日志服务器

社区干货

干货 | 提速 10 倍!源自字节跳动的新云原生 Spark History Server正式发布

事件日志包含太多冗余信息,长时间运行的应用程序可能会带来巨大的事件日志,这可能需要大量维护并且需要很长时间才能重构 UI 数据从而提供服务。在大规模生产中,作业的数量可能很大,会给历史服务器带来沉重的负担。接下来,火山引擎 LAS 团队将向大家详细介绍字节跳动内部是怎么基于 UIMeta 实现海量数据业务的平稳和高效运转,让技术驱动业务不断发展。# **1. 业务背景**## 1.1 开源 Spark History Server 架构为了能够更好理...

干货 | 提速 10 倍!源自字节跳动的新云原生 Spark History Server正式发布

事件日志包含太多冗余信息,长时间运行的应用程序可能会带来巨大的事件日志,这可能需要大量维护并且需要很长时间才能重构 UI 数据从而提供服务。在大规模生产中,作业的数量可能很大,会给历史服务器带来沉重的负担。... 开源Spark History Server架构为了能够更好理解本次重构的背景和意义,首先对原生 Spark History Server 原理做个简单的介绍。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tl...

一文带你读懂:云原生时代业务监控|社区征文

或者开源社区不兼容等原因,变得不可用,这一下子让很多开发者变的束手无策起来。在 k8s 应用部署的大背景下,下面将围绕着“建设云原生的可观测性监控指标”的主题,一起探讨“架构和业务层面可以做的事情”,最终得... 服务运营日志:中间件监控(Redis、Kafka 等)1. 云资源监控:数据库、云硬盘、服务器资源、CPU、带宽 IO 等。 其实开源社区有非常多的组件支持,让数据库、中间件直接接入,就可以实时监控了1. 性能压测:金...

业务进阶,用架构思维看云原生 | 社区征文

是一种计算资源交付模。** 其中集成了各种服务器、应用程序、数据和其它资源,并通过 Internet 以服务的形式提供这些资源,且通常对资源进行了虚拟化。![Cloud_computing.svg](https://p1-juejin.byteimg.com/t... 公开透明的开源模式逐渐成为主流。**下图是 Intel 的开源云计算,其中虚线标志表示该项目由 Intel 发起,并且贡献到开源社区的。图里我们能看到包括 IaaS、SaaS、边缘计算和容器运行时等等的开源项目。![Intel ...

特惠活动

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

轻量型开源日志服务器-优选内容

安装 LogCollector(宿主机)
将其部署到服务器之后,可以采集服务器文本日志到 ElasticSearch、Kafka、Logstash 等进行二次处理。火山引擎日志服务基于开源的 Filebeat 工具进行二次开发,适配了日志服务的服务端功能、增加多种日志解析模式,改造为 LogCollector 对外正式提供服务。LogCollector 兼容开源 Filebeat 的多种特性,实时监听并上报日志数据,提高日志采集效率与性能。 准备工作一台符合安装环境要求的 Linux 服务器。 预先根据服务器和所在地域,...
接入 Filebeat
Filebeat 是用于转发和集中日志数据的轻量级传输程序,可以监听指定的日志文件或位置,从中收集日志事件并将其转发到 Elasticsearch 或 Logstash 进行索引。本文介绍在 Filebeat 中接入消息队列 Kafka版。 背景信息F... 请参考开源文档Filebeat 概述、Filebeat 快速入门-安装与配置、Filebeat 工作原理。 前提条件本文介绍在 Filebeat 中接入消息队列 Kafka版,要求用于安装 Filebeat 的云服务器和 Kafka 实例两者的所处地域、所属 VP...
使用 Flume 同步数据到 Kudu
Apache Flume 是 cloudera 公司开源的分布式海量日志聚合系统,可用于在系统中从多种不同数据源收集,聚合,传输大量日志数据到数据集中存储地。作为一款流式日志采集工具,Flume 提供对数据进行简单处理并写到各种数据... 跳转进入到云服务器的实例界面,单击右上角的远程连接按钮,输入集群创建时的 root 密码,进入远程终端。 登录集群后,直接在 Shell 中执行以下相关 Kudu 命令: 使用 kudu 命令创建 Kudu 表。 shell kudu table creat...
产品优势
本文介绍日志服务的主要优势。 秒级检索近乎实时的日志写入与流式存储,支持数据秒级可见。 支持百亿行数据数据量秒级检索,十亿行数据量聚合分析。 支持超低的数据加工与处理延时,方便您高效管理多种来源的海量数据... 您无需自行搭建 ELK 等开源日志系统,无需关注复杂资源规划,只需按实际使用量付费。 提供灵活的数据采集方式,提供 Agent、API、SDK、kafka协议、开源产品及云产品导入等方式接入 Trace、Log 等数据,包括服务器、移动...

轻量型开源日志服务器-相关内容

干货 | 提速 10 倍!源自字节跳动的新云原生 Spark History Server正式发布

事件日志包含太多冗余信息,长时间运行的应用程序可能会带来巨大的事件日志,这可能需要大量维护并且需要很长时间才能重构 UI 数据从而提供服务。在大规模生产中,作业的数量可能很大,会给历史服务器带来沉重的负担。接下来,火山引擎 LAS 团队将向大家详细介绍字节跳动内部是怎么基于 UIMeta 实现海量数据业务的平稳和高效运转,让技术驱动业务不断发展。# **1. 业务背景**## 1.1 开源 Spark History Server 架构为了能够更好理...

使用 Kafka 协议上传日志

本文介绍通过 Kafka 协议将日志上传到日志服务的操作步骤。 背景信息Kafka 作为高吞吐量的消息中间件,在多种自建场景的日志采集方案中被用于消息管道。例如在日志服务器中的开源采集工具采集日志,或通过 Produce... 确保当前操作账号拥有开通 Kafka 协议上传日志的权限,即具备 Action PutLogs 的权限。详细信息请参考可授权的操作。 参数说明使用 Kafka 协议上传日志时,您需要配置以下参数。 参数 示例 说明 连接类 SASL...

干货 | 提速 10 倍!源自字节跳动的新云原生 Spark History Server正式发布

事件日志包含太多冗余信息,长时间运行的应用程序可能会带来巨大的事件日志,这可能需要大量维护并且需要很长时间才能重构 UI 数据从而提供服务。在大规模生产中,作业的数量可能很大,会给历史服务器带来沉重的负担。... 开源Spark History Server架构为了能够更好理解本次重构的背景和意义,首先对原生 Spark History Server 原理做个简单的介绍。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tl...

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

基本概念

建议根据实际业务需求合理规划日志分区的数量。 数据采集基本概念 说明 LogCollector LogCollector 是火山引擎日志服务团队基于开源工具 Filebeat 二次开发的日志采集工具,用于接收采集配置,并向服务端实时上报日志。 采集配置 采集配置是 LogCollector 进行数据采集的规则集合,指定了日志文件位置、采集方式等信息。 机器组 机器组是日志服务中的虚拟配置单元,一个机器组中包含多台服务器,日志服务以机器组维度下发 Lo...

一文带你读懂:云原生时代业务监控|社区征文

或者开源社区不兼容等原因,变得不可用,这一下子让很多开发者变的束手无策起来。在 k8s 应用部署的大背景下,下面将围绕着“建设云原生的可观测性监控指标”的主题,一起探讨“架构和业务层面可以做的事情”,最终得... 服务运营日志:中间件监控(Redis、Kafka 等)1. 云资源监控:数据库、云硬盘、服务器资源、CPU、带宽 IO 等。 其实开源社区有非常多的组件支持,让数据库、中间件直接接入,就可以实时监控了1. 性能压测:金...

业务进阶,用架构思维看云原生 | 社区征文

是一种计算资源交付模。** 其中集成了各种服务器、应用程序、数据和其它资源,并通过 Internet 以服务的形式提供这些资源,且通常对资源进行了虚拟化。![Cloud_computing.svg](https://p1-juejin.byteimg.com/t... 公开透明的开源模式逐渐成为主流。**下图是 Intel 的开源云计算,其中虚线标志表示该项目由 Intel 发起,并且贡献到开源社区的。图里我们能看到包括 IaaS、SaaS、边缘计算和容器运行时等等的开源项目。![Intel ...

年终学习大礼包|云原生大数据知识地图

云原生日志搜索和统一存储 HDFS 等核心组件,支持存算分离和自动调优;* 资源调度层支持统一计算资源调度和统一引擎云原生生命周期管理。一大支撑体系是 **运维管理平台**,是集开源组件、服务生命周期、集群、... 类似于在本地终端操作远程服务器,这对作业开发以及问题定位来说是一个非常实用的工具。**03****降本增效:用户场景与价值****混合部署提升资源利用率**![picture....

快速开始

本文档介绍如何用点播 SDK 以最简单快捷的方式让视频播放起来。 适用版本本文档适用于点播 SDK 1.27.1.3 及之后的版本,旧版本文档请参考快速开始(旧版)。 前提条件您已完成点播 SDK 的集成准备。 开源示例项目Github 地址:Demo-Android。 使用流程按照以下流程,对于简单使用场景,使用点播 SDK 在 App 中让一个视频播放。 初始化点播 SDK 设置自定义 ID 创建播放器 设置显示视图 设置播放源 释放播放器 接入 Debug 工具 日志调试开...

《k8s 云原生业务的容器故障排查与思考|社区征文》

APP3:从磁盘 IO 读取开源知识库数据1. APP3:对接收到的分片内容,对数据进行算法分析1. APP3:所有请求携带的分片数据都分析完毕,并且全部正确响应给 APP2,宣告:一个任务“完成”#### 3.1.2 分析1. 既然目... 首先是想到日志,然后是网络。#### 3.3.1 查看容器日志在云容器的日志看,发现并没有打印相关的 ERROR 级别日志,说明业务是整体成功的状态,所以我们更加怀疑是环境问题(网络/IO 等资源)导致。#### 3.3.2 容器进...

特惠活动

域名注册服务

cn/top/com等热门域名,首年低至1元,邮箱建站必选
1.00/首年起32.00/首年起
立即购买

热门爆款云服务器

100%性能独享,更高内存性能更佳,学习测试、web前端、企业应用首选,每日花费低至0.55元
60.00/1212.00/年
立即购买

DCDN国内流量包100G

同时抵扣CDN与DCDN两种流量消耗,加速分发更实惠
2.00/20.00/年
立即购买

产品体验

体验中心

云服务器特惠

云服务器
云服务器ECS新人特惠
立即抢购

白皮书

从ClickHouse到ByteHouse
关于金融、工业互联网,都有对应的场景特性、解决策略、实践效果具体呈现,相信一定能解决你的诸多疑惑
立即获取

最新活动

爆款1核2G共享型服务器

首年60元,每月仅需5元,限量秒杀
立即抢购

火山引擎增长体验专区

丰富能力激励企业快速增长
查看详情

数据智能VeDI

易用的高性能大数据产品家族
了解详情

一键开启云上增长新空间

立即咨询