大数据与anaconda
社区干货
三分钟了解大数据技术发展史|社区征文
我们常说的大数据技术,大致主要起源于 Google 在 2004 年前后发表的三篇论文,其实数据处理早就存在,每个公司或者个人都有自己的大数据处理系统,并没有形成编程框架和理念,而这三篇论文也就是我们熟知的大数据三驾马... 随后越来越多大公司开始采用 hadoop 进行大数据存储和计算,2008 年 hadoop 正式成为 Apache 顶级项目,许多大数据商业公司也开始出现,与此同时 MapReduce 编程模型编写较为复杂,Yahoo 内部开发出了 Pig 一门脚本语言...
大数据技术探索:学习、应用与未来趋势 | 社区征文
# 前言大数据可视化是一种利用图表、图形和别的视觉元素来显示大型数据集的技术。可以帮助大家找到数据中的方法、趋势和关联,随后适用决策、难题改进和洞悉发觉。01... 需要把此模型放置到大数据系统中进行运行。一般来说,这个大数据系统需要有大数据工程师一起参与,将模型转换成适合在平台上运行的代码,当然逐渐地会出现很多高效率的工具来帮助这种代码化的转换。最后是数据业务开展...
大数据、人工智能与大模型:技术融合的未来趋势|社区征文
[picture.image](https://p6-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/d8e2985f3e8e45ada674e89d161e0532~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1715703647&x-signature=W5%2BBdA%2Bh4jGegQQw6KV0jdrJp2U%3D)## 前言随着当今的科技在不断地极速发展下,大数据、人工智能(AI)和大型模型已成为探索未来可能性的关键技术。我将通过回顾2023年本人参与的项目经验,探讨这些技术的出现和融合如何改变了...
特惠活动
大数据与anaconda-优选内容
大数据与anaconda-相关内容
基于大数据、大模型的应用总结与技术心得|社区征文
[picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/15443de444fb4ca1a520c650490a0a3b~tplv-tlddhu82om-image.image?=&rk3s=8031ce6d&x-expires=1715703647&x-signature=5luNz2UKnGtCOBm14karJteF1%2Bo%3D)# 前言 随着时代的发展和技术人员不断地研究,深度学习技术逐渐在研究领域扩散开来,大数据也逐渐进入我们的生活,大模型也无处不在地帮助我们生活和工作。 # 大数据、大模型的应用总...
从思考到实践,企业级大数据平台的构建之路
企业数据建设正处于更大规模和更多样的变化趋势中。传统自建数据仓库,在企业数据体量持续增长、业务时效性持续提升的情况下,已经很难应对更复杂、更多样化的场景需求,平台扩展和数据融合面临重重障碍。8 月18 日,火山引擎开发者社区技术大讲堂第四期将为大家从 **开源大数据生态**和 **源于字节跳动内部的智能实时湖仓**两个方面详细介绍 **如何构建企业级数据湖仓**,剖析火山引擎大数据平台的架构与实践。...
一种在数据量比较大、字段变化频繁场景下的大数据架构设计方案|社区征文
数据频繁刷新,大数据架构方面如何设计呢。大数据架构的设计方案需要考虑多个方面,包括数据存储、数据处理、数据传输、数据安全等。但此处我们不考虑过多,讨论下较通用的架构设计。1. 这种字段和数据都频繁变化... DWS层的数据不适合落到Kafka中,因为DWS的数据需要进行数据分析、对外等,所以DWS层的存储最好是能支持SQL,即系查询分析等,以方便其他人员使用,同时还要支持字段频繁变更的需求。所以可以使用Kudu,与impala进行整合,...
演讲预告 | 字节跳动云原生大数据的探索与实践
诸多行业大会围绕大数据容器化相关话题展开讨论。字节跳动云原生计算团队也将在以下大会中进行演讲直播,欢迎关注。 **RocketMQ****在字节跳动的应用与实践***...
演讲预告 | 字节跳动云原生大数据的探索与实践
全球数字经济进入高速发展期,已经成为推进经济发展的新增长极。云原生技术作为下一代云计算的技术内核,在加快推进各产业数字化转型中发挥着重要作用,云原生大数据技术产品也逐步迭代升级,开始引领产业变革的浪潮。近期,诸多行业大会围绕大数据容器化相关话题展开讨论。字节跳动云原生计算团队也将在以下大会中进行演讲直播,欢迎关注。 ![]()### **RocketMQ** **在字节跳动的应用与实践****沈辉 | 字节跳动基础架构研发工程...
社区征文|大数据助力制造业数字化转型
让我对大数据这个行业有新的认知和一些技术之外的心得体会。# 一、大数据的市场分析大数据其实分两个方向,一个是借助大数据来实现商业智能的BI决策分析,一方面是通过大数据和AI算法来进行大数据推送和建立用户... 大数据与数字化转型## 1、数字化转型背景在近几年企业都在做数字化转型,但是落在每个企业数字化转型到底该怎么转,往往很难想的清楚,大多时候都是拍拍脑袋做的决策。从前面的市场分析来看数字化转型是迫在眉睫,不...
大数据技术年度总结 | 主赛道
大数据可视化是一种以图形方式展示数据的技术。这种方法使用图像和设计元素来描述数据和信息,使人们能更好地理解这些数据,从而做出更加明智的商业决策。以下是“数据可视化”项目的主要意义:****易于理解:**** 通... 分析和安全保护等功能。开发了一套高效的数据处理算法,提高了数据处理的速度和准确性。成功应用了机器学习算法,实现了对用户行为的分析和预测,为业务部门提供了有力的数据支持。参与了多个大数据项目的实施,积累...
工业大数据分析与应用——知识总结 | 社区征文
# 工业大数据分析及应用## 1 工业大数据概述* 1.1 大数据的产生* 1.2 大数据的概念和特点* 1.3 大数据的影响* 1.4 大数据的引用* 1.5大数据的关键技术* 1.6 工业大数据的概念与特征* 1.7 工业大数据与流程工业智能制造### 1.1 工业大数据的产生> 大数据的产生原因* 新的数据来源/新的数据采集方法* **全时空**数据的可采集性* 智能算法的使能* 非结构的数据形态* 数据获取成本、存储成本和处理成本的下降#...
在大数据量中 Spark 数据倾斜问题定位排查及解决|社区征文
### 1. 开篇2023年即将过去,又到了一年一度的技术总结时刻,在这一年,参与了多个大数据项目的开发建设工作,也参与了几个数仓项目的治理优化工作,在这么多的项目中,让我印象比较深刻的就是在使用Spark引擎执行任务出现的报错现象,接下来就回顾复盘下这次任务报错现象及具体的解决方案。### 2. 问题描述因为现在大多数的批量任务都是使用Spark去执行,所以Spark的地位在公司是举足轻重,那么对于Spark的深入理解和优化显得尤为重...
