常用深度学习框架
社区干货
从100w核到450w核:字节跳动超大规模云原生离线训练实践
无服务器功能和不可变基础设施等技术是这种架构风格的常见元素。字节跳动在云原生离线训练方向的发展大概分为三个阶段:**单角色云原生训练 1.0,多角色云原生训练 2.0,云原生训练 3.0 三个阶段。**## **单角色云原生训练 1.0**离线训练框架 1.0 系统诞生于2015年10月(内部代号 Zion)。离线训练 Zion 框架是基于 Hadoop Streaming 架构在深度学习场景下的深度定制,每个训练作业对应一个 Hadoop YARN 上的 Zion 任务,具有(P...
边缘计算技术:深度学习与人工智能的融合|社区征文
**边缘ML:** 是指机器学习在不处于核心数据中心的,企业级计算机/设备中的应用。边缘设备包括服务器机房,现场服务器,以及位于各个地区以加快响应速度为目的的小型数据中心。云端和边缘端的ML 已经通过3年多的科普,广为大众所接受。今天我们看到的人脸门禁、摄像头行为识别、智能音箱...... 绝大部分场景都属于这两类。 以 TensorFlow & TF lite 等开源深度学习框架为基础的大量应用,推动了智能在云端和边缘端应用。然而,更加具有...
基于深度学习的工业缺陷检测详解——从0到1|社区征文
# beginning2023年可谓是人工智能浪潮翻涌的一年,AI在各个领域遍地开花。以我最熟悉的工业为例,深度学习也在其中起着重要作用。不知道小伙伴们熟不熟悉工业领域的缺陷检测腻?🧐🧐🧐今天就以钢轨表面缺陷为例,和大... 这些图像数据在工业领域是很常见的,毕竟拍摄的环境摆在那儿了。所以我们通常要对它们进行一个图像的处理,例如直方图均衡化、图像去噪、改变对比度等。下图是对轨面图像进行基于受限对比度自适应直方图均衡化的难例...
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
而随着深度学习的发展,我们可以利用深度学习的特征提取能力,通过简单的数据处理步骤自动学习特征,甚至可以将过程简化为在待调研的原始特征中往一张样本表格里加列的操作后利用深度学习框架自动学习和提取信息。 ... 常见一些方案都存在些许不足之处,不够理想。最终我们经过多维度的考察,决定基于 Iceberg 数据湖来自研、强化,填补不足、满足业务的样本存储和特征工程等需求。 # 字节强化版 Iceberg 数据湖:Magnus 猛犸##...
特惠活动
常用深度学习框架-优选内容
常用深度学习框架-相关内容
边缘计算技术:深度学习与人工智能的融合|社区征文
**边缘ML:** 是指机器学习在不处于核心数据中心的,企业级计算机/设备中的应用。边缘设备包括服务器机房,现场服务器,以及位于各个地区以加快响应速度为目的的小型数据中心。云端和边缘端的ML 已经通过3年多的科普,广为大众所接受。今天我们看到的人脸门禁、摄像头行为识别、智能音箱...... 绝大部分场景都属于这两类。 以 TensorFlow & TF lite 等开源深度学习框架为基础的大量应用,推动了智能在云端和边缘端应用。然而,更加具有...
基于深度学习的工业缺陷检测详解——从0到1|社区征文
# beginning2023年可谓是人工智能浪潮翻涌的一年,AI在各个领域遍地开花。以我最熟悉的工业为例,深度学习也在其中起着重要作用。不知道小伙伴们熟不熟悉工业领域的缺陷检测腻?🧐🧐🧐今天就以钢轨表面缺陷为例,和大... 这些图像数据在工业领域是很常见的,毕竟拍摄的环境摆在那儿了。所以我们通常要对它们进行一个图像的处理,例如直方图均衡化、图像去噪、改变对比度等。下图是对轨面图像进行基于受限对比度自适应直方图均衡化的难例...
字节跳动 EB 级 Iceberg 数据湖的机器学习应用与优化
而随着深度学习的发展,我们可以利用深度学习的特征提取能力,通过简单的数据处理步骤自动学习特征,甚至可以将过程简化为在待调研的原始特征中往一张样本表格里加列的操作后利用深度学习框架自动学习和提取信息。 ... 常见一些方案都存在些许不足之处,不够理想。最终我们经过多维度的考察,决定基于 Iceberg 数据湖来自研、强化,填补不足、满足业务的样本存储和特征工程等需求。 # 字节强化版 Iceberg 数据湖:Magnus 猛犸##...
边缘智变:深度学习引领下的新一代计算范式|社区征文
上述只是常见的一些应用场景,边缘计算的强大之处让它被用于各个行业。# 5.实例项目分析下面给出一个博主做过的实例,使用边缘计算对大量的医疗数据进行实时处理和分析。1. 数据采集我们可以使用医疗设备和... 我使用Flask框架编写一个简单的Web API:```from flask import Flask, request, jsonify app = Flask(__name__) @app.route('/predict', methods=['POST']) def predict(): data = request.json['da...
使用pytorch自己构建网络模型总结|社区征文
于是乎最近看了看基于pytorch的深度学习——通过学习,对pytorch的框架有了较清晰的认识,也可以自己来构建一些模型来进行训练。如果你也发现自己只知道在Git上克隆别人的代码,但是自己对程序的结构不了解,那么下面的内容可能会帮到你!!! 这部分内容主要是根据[B站视频](https://www.bilibili.com/video/BV1hE411t7RN?p=9)总结而来,视频中给出了pytorch从安装到最后训练模型的完整教程,本篇文章主要总结神经网络的完整的...
从100w核到450w核:字节跳动超大规模云原生离线训练实践
无服务器功能和不可变基础设施等技术是这种架构风格的常见元素。字节跳动在云原生离线训练方向的发展大概分为三个阶段:**单角色云原生训练 1.0,多角色云原生训练 2.0,云原生训练 3.0 三个阶段。****单角色云原生训练 1.0**离线训练框架 1.0 系统诞生于2015年10月(内部代号 Zion)。离线训练 Zion 框架是基于 Hadoop Streaming 架构在深度学习场景下的深度定制,每个训练作业对应一个 Hadoop YARN 上的 Zion...
AI安全技术总结与展望| 社区征文
人工智能内生安全主要包括:框架安全,如TensorFlow、Caffe、PyTorch等深度学习框架存在若干漏洞;数据安全,如数据丢失或者变形、噪声数据干扰人工智能研判结果;算法安全,如难以保证算法的正确性,对抗样本、自动驾驶中的安全事故等;模型安全,如模型窃取或者模型污染,从而植入后门。人工智能衍生安全主要指由于AI本身的缺陷或者脆弱性给其他领域带来安全问题,比如人工智能应用于黑产。# 2. AI安全应用 目前,人工智能与网络安全...
个人年度总结:深度学习与AIGC技术在智能诗歌生成中的应|社区征文
比如常用的手机导航中的声音。更深层次的应用将会是虚拟人领域,AIGC 不仅可以生成虚拟人的声音,并可以创造出说的内容。**游戏开发**AIGC 在游戏当中的应用可分为两方面,一方面用于场景和故事的搭建,另一方面玩家可以通过 AIGC 的平台工具来创建自己的虚拟人,可以用于游戏中的打金等活动。**代码生成**资料显示,2022 年 AIGC 发展速度惊人,迭代速度更是呈现指数级爆发,其中深度学习模型不断完善、开源模式的推动、大模型探索...
GPU-使用Llama.cpp量化Llama2模型
CUDNN:深度神经网络库,用于实现高性能GPU加速。本文以8.5.0.96为例。 运行环境: Transformers:一种神经网络架构,用于语言建模、文本生成和机器翻译等任务。深度学习框架。本文以4.30.2为例。 Pytorch:开源的P... 此处选择较为常见的量化算法q4_0,即将模型的权重量化到4bit整型。 ./quantize models/Llama-2-7b-hf/ggml-model-f16.gguf models/ggml-model-q4_0.gguf q4_0 生成量化后的模型文件ggml-model-q4_0.gguf,存放在lla...
