主要分享了火山引擎 TLS 日志服务的架构实现、设计优化以及实践案例。作者:刘卯银|火山引擎日志系统架构师谈到日志系统,首先要从日志说起,日志在 IT 系统里无处不在,也是 IT系统大数据的关键来源。日志的种类和样式非常多,以在线教育系统为例,日志包括客户端日志、服务端日志。服务端日志又包括业务的运行/运维日志以及业务使用的云产品产生的日志。要管理诸多类型的日志,就需要一套统一的日志系统,对日志进行采集、...
所以决定在客户端和服务端两侧进行抓包。### 3.5 抓包分析网络通过 tcpdump,我们分别在客户端和服务端里,实现了流量抓包(虽然日志非常大,幸好容器分配到的磁盘空间足够,事后也有清理),随后是下载出来用 wireshark 分析网络情况。期间过程有点繁琐,因为要顺序性的启动抓包进程、客户端服务端进程复现、以及文件权限申请等细节,这里不对抓包过程展开。#### 3.5.1 网络分析最终是复现了问题,并对残留的几个 TCP 连接进行了...
作者:刘卯银|火山引擎日志系统架构师> 本文整理自火山引擎开发者社区 Meetup 第八期演讲,主要介绍了火山引擎 TLS 日志服务的架构实现、设计优化以及实践案例。谈到日志系统,首先要从日志说起,日志在 IT 系统里无处不在,也是 IT系统大数据的关键来源。日志的种类和样式非常多,以在线教育系统为例,日志包括客户端日志、服务端日志。服务端日志又包括业务的运行/运维日志以及业务使用的云产品产生的日志。要管理诸多类型的日志,...
> 本文整理自火山引擎开发者社区 Meetup 第八期演讲,主要分享了火山引擎 TLS 日志服务的架构实现、设计优化以及实践案例。**作者:刘卯银|火山引擎日志系统架构师**谈到日志系统,首先要从日志说起,日志在 IT 系统里无处不在,也是 IT系统大数据的关键来源。日志的种类和样式非常多,以在线教育系统为例,日志包括客户端日志、服务端日志。服务端日志又包括业务的运行/运维日志以及业务使用的云产品产生的日志。要管理诸多类型的日...
设置为 true 以使用服务端提供的日志 topic configuration=AccessLogConfiguration(use_service_topic=True) ) client.put_bucket_real_time_log(bucket_name, config)except tos.exceptions.TosClientError as e: 操作失败,捕获客户端异常,一般情况为非法请求参数或网络异常 print('fail with client error, message:{}, cause: {}'.format(e.message, e.cause))except tos.exceptions.TosServerE...
日志配置规则。 go package mainimport ( "context" "fmt" "github.com/volcengine/ve-tos-golang-sdk/v2/tos")func checkErr(err error) { if err != nil { if serverErr, ok := err.(*tos.TosServe... 删除实时日志配置规则注意 要删除桶的实时日志配置规则,默认您必须为桶所有者。 示例代码以下代码用于删除桶的实时日志配置规则。 go package mainimport ( "context" "fmt" "github.com/volcengine/ve-t...
所以决定在客户端和服务端两侧进行抓包。### 3.5 抓包分析网络通过 tcpdump,我们分别在客户端和服务端里,实现了流量抓包(虽然日志非常大,幸好容器分配到的磁盘空间足够,事后也有清理),随后是下载出来用 wireshark 分析网络情况。期间过程有点繁琐,因为要顺序性的启动抓包进程、客户端服务端进程复现、以及文件权限申请等细节,这里不对抓包过程展开。#### 3.5.1 网络分析最终是复现了问题,并对残留的几个 TCP 连接进行了...
日志配置规则。 java import com.volcengine.tos.TOSV2;import com.volcengine.tos.TOSV2ClientBuilder;import com.volcengine.tos.TosClientException;import com.volcengine.tos.TosServerException;import com.... catch (TosServerException e) { // 操作失败,捕获服务端异常,可以获取到从服务端返回的详细错误信息 System.out.println("putBucketRealTimeLog failed"); System.out.println...
日志存储时长的日志会被自动清除。 开启低频存储 是否开启低频存储。开启后,标准存储的数据在标准存储保存一段时间之后自动转化为低频存储类型。低频存储类型的成本更低,适用于数据使用频率较低的业务场景。开启低频存储后,需要设置数据在标准存储的保留时长,该时长应不短于 7 天,默认为 30 天。超过该时长后,数据会自动沉降至低频存储进行后续保存,直到日志采集到服务端的总时长达到日志存储时长时,被后端服务自动清理。 说明...
TopicName String 否 test-topic 日志主题名称。命名规则请参考资源命名规则。 Ttl Integer 否 1300 日志在日志服务中的保存时间,超过指定的日志存储时长后,此日志主题中的过期日志会被自动清除。 单位为天,默认为... tag____client_ip__:日志来源设备的公网 IP 地址。使用日志服务的私网域名写入日志数据时,则记录私网 IP 地址。 __tag____receive_time__:日志达到服务端的时间,格式为 10 位的 Unixtime 时间戳。 EnableHotTt...
作者:刘卯银|火山引擎日志系统架构师> 本文整理自火山引擎开发者社区 Meetup 第八期演讲,主要介绍了火山引擎 TLS 日志服务的架构实现、设计优化以及实践案例。谈到日志系统,首先要从日志说起,日志在 IT 系统里无处不在,也是 IT系统大数据的关键来源。日志的种类和样式非常多,以在线教育系统为例,日志包括客户端日志、服务端日志。服务端日志又包括业务的运行/运维日志以及业务使用的云产品产生的日志。要管理诸多类型的日志,...
日志相关参数: slowlog-log-slower-than用于指定 Server 节点上,命令请求被记录为慢日志的执行时间阈值,执行时间超过该阈值的命令请求即会被记录到 Server 节点的慢日志中。单位:微秒,取值范围:10000~10000000,默认值:20000。 slowlog-max-len用于指定 Server 节点上最多保存的慢日志数量,慢日志是一个 FIFO 队列,当队列长度超过 slowlog-max-len 时,在新日志会加入 Server 节点的慢日志之前,会先将最旧的慢日志将被删除。取值范...
> 本文整理自火山引擎开发者社区 Meetup 第八期演讲,主要分享了火山引擎 TLS 日志服务的架构实现、设计优化以及实践案例。**作者:刘卯银|火山引擎日志系统架构师**谈到日志系统,首先要从日志说起,日志在 IT 系统里无处不在,也是 IT系统大数据的关键来源。日志的种类和样式非常多,以在线教育系统为例,日志包括客户端日志、服务端日志。服务端日志又包括业务的运行/运维日志以及业务使用的云产品产生的日志。要管理诸多类型的日...