服务器硬件日常维护
社区干货
GPU 故障检测及自愈:大幅提升 AI 场景的硬件故障运维效率
运营一个典型的大模型服务一般也都需要数千台多 GPU 服务器。伴随越来越多企业入局,整个行业的算力产业转型升级也将加剧,一些算力隐患也正在逐渐浮出水面。相较于传统 CPU 硬件,GPU 的一个缺陷是 **故障率较高**,这一点在大规模应用场景下尤为明显:由于数量过于庞大,GPU 出现故障的风险也急剧提升;当 GPU 被用于构建超级算力集群协同作业,单点故障会迅速扩散,造成大规模的连锁反应,继而影响业务稳定。针对上述问题,火山引...
什么是云原生及 Go 语言在原生时代的优势|社区征文
物理服务器会导致浪费,当同一台服务器最大限度地使用多个应用程序时,软件冲突、网络路由和用户访问都变得更加复杂。然后就有了**硬件虚拟化。****虚拟化**虚拟化是软件中模拟物理服务器硬件吗,虚拟服务器可以... 这种方式允许公司摆脱所有硬件,从云供应商那里租用 VM 或物理服务器,节省人力和维护的成本。这种托管的基础架构还为客户提供了可使用的 HTTP 应用程序编程接口(API),用于根据需求创建和管理基础架构。值得注意的...
GPU 故障检测及自愈:大幅提升 AI 场景的硬件故障运维效率
要数千台多 GPU 服务器。伴随越来越多企业入局,整个行业的算力产业转型升级也将加剧,一些算力隐患也正在逐渐浮出水面。相较于传统 CPU 硬件,GPU 的一个缺陷是**故障率较高**,这一点在大规模应用场景下尤为明显:由于数量过于庞大,GPU 出现故障的风险也急剧提升;当 GPU 被用于构建超级算力集群协同作业,单点故障会迅速扩散,造成大规模的连锁反应,继而影响业务稳定。针对上述问题,火山引擎云原生团队基于大量 AIGC 客户...
【图说产品】初见云服务器 - 云上弹性计算打造轻便安全的业务环境
云服务器(ElasticComputeService,简称ECS)是一种安全稳定、可弹性伸缩的云上虚拟服务器,包含CPU、内存、硬盘、网络等资源,帮助您打造弹性易用、安全可靠的业务环境,有效降低IT维护成本,助力核心业务增长。
特惠活动
服务器硬件日常维护-优选内容
服务器硬件日常维护-相关内容
GPU 故障检测及自愈:大幅提升 AI 场景的硬件故障运维效率
运营一个典型的大模型服务一般也都需要数千台多 GPU 服务器。伴随越来越多企业入局,整个行业的算力产业转型升级也将加剧,一些算力隐患也正在逐渐浮出水面。相较于传统 CPU 硬件,GPU 的一个缺陷是 **故障率较高**,这一点在大规模应用场景下尤为明显:由于数量过于庞大,GPU 出现故障的风险也急剧提升;当 GPU 被用于构建超级算力集群协同作业,单点故障会迅速扩散,造成大规模的连锁反应,继而影响业务稳定。针对上述问题,火山引...
什么是云原生及 Go 语言在原生时代的优势|社区征文
物理服务器会导致浪费,当同一台服务器最大限度地使用多个应用程序时,软件冲突、网络路由和用户访问都变得更加复杂。然后就有了**硬件虚拟化。****虚拟化**虚拟化是软件中模拟物理服务器硬件吗,虚拟服务器可以... 这种方式允许公司摆脱所有硬件,从云供应商那里租用 VM 或物理服务器,节省人力和维护的成本。这种托管的基础架构还为客户提供了可使用的 HTTP 应用程序编程接口(API),用于根据需求创建和管理基础架构。值得注意的...
GPU 故障检测及自愈:大幅提升 AI 场景的硬件故障运维效率
要数千台多 GPU 服务器。伴随越来越多企业入局,整个行业的算力产业转型升级也将加剧,一些算力隐患也正在逐渐浮出水面。相较于传统 CPU 硬件,GPU 的一个缺陷是**故障率较高**,这一点在大规模应用场景下尤为明显:由于数量过于庞大,GPU 出现故障的风险也急剧提升;当 GPU 被用于构建超级算力集群协同作业,单点故障会迅速扩散,造成大规模的连锁反应,继而影响业务稳定。针对上述问题,火山引擎云原生团队基于大量 AIGC 客户...
【图说产品】初见云服务器 - 云上弹性计算打造轻便安全的业务环境
云服务器(ElasticComputeService,简称ECS)是一种安全稳定、可弹性伸缩的云上虚拟服务器,包含CPU、内存、硬盘、网络等资源,帮助您打造弹性易用、安全可靠的业务环境,有效降低IT维护成本,助力核心业务增长。,依赖本地盘数据而导致的不可用;8) 不可抗力及意外事件引起的;9) 请求来源非中国大陆IP地址的;10) 其他非火山引擎原因所造成的服务...
GPU实例硬件相关FAQ发布
GPU实例相比普通云服务器实例,增加了较多的外设,包括GPU、RDMA网络直通网卡、本地盘等。因此,除普通云服务器可能发生的常见问题外,还有如GPU、直通网卡及PCIe链路上发生的亚健康或故障,围绕GPU实例的常见故障,梳理处理建议和FAQ,提升用户体验。 具体内容请参考GPU实例硬件相关FAQ。
实践|超级品牌,都在打造数据飞轮
收钱吧的到账声已经成为不少人一日三餐的前奏—— **通过收钱吧提供的收款码和硬件设备完成快速、精准收款,正日渐成为国内商户习以为常的经营环节。** 正式迈入第十年发展的收钱吧,截至2023年6月最新数... 亦是收钱吧内部运营的日常。** 作为生长于互联网科技土壤的企业,数据驱动业务运营已经融入收钱吧的企业基因,不论是项目管理还是运营决策,甚至是商户拓展,几乎每一项工作都涉及到数据消费(比如,查看数据、...
搭建SDXL-Turbo模型文生图推理
功能特色本实践使用了火山引擎第3代云服务器通用型g3i,该规格实例采用火山引擎自研最新DPU架构并搭载了第5代英特尔®至强®可扩展处理器(Emerald Rapids,EMR),结合新一代硬件AI加速指令AMX-BF16(Intel Advanced Matrix Extensions)以及基于其上的IPEX框架优化,实现了系统级优化方案来加速SDXL-Turbo模型的文生图推理速度。 背景信息IPEXIntel® Extension for PyTorch(IPEX)是由Intel开源并维护的一个PyTorch扩展库,大幅度提升了...
弹性容器实例:从节点中心转型 Serverless 化架构的利器
即技术团队需要基于云服务器等资源节点搭建集群,并围绕节点进行运维管理的传统 Kubernetes 集群架构。随着业务规模的扩大和节点数的增加,这种架构在容器应用的部署和运行等方面往往存在诸多局限性,主要表现在以下几个方面:* **节点运维复杂**:用户需要自行管理和维护节点,具体包括节点的配置与初始化、操作系统更新与升级、安全性管理、运行监控与日志采集分析、故障恢复、网络管理、存储管理、扩缩容、资源规划与分配,以及...
