掘金量化anaconda

结合模型量化技术,支持在消费级的显卡上进行本地部署(INT4量化级别下最低只需6GB显存)。ChatGLM-6B使用了和ChatGLM相同的技术,针对中文问答和对话进行了优化。经过约1T标识符的中英双语训练,辅以监督微调、反馈自助... Anaconda:获取包且对包能够进行管理的工具,包含了Conda、Python在内的超过180个科学包及其依赖项,用于创建Python虚拟环境。本文以Anaconda 3和Python 3.10为例。 Pytorch使用CUDA进行GPU加速时,在CUDA、GPU驱动已...

结合模型量化技术,支持在消费级的显卡上进行本地部署(INT4量化级别下最低只需6GB显存)。ChatGLM-6B使用了和ChatGLM相同的技术,针对中文问答和对话进行了优化。经过约1T标识符的中英双语训练,辅以监督微调、反馈自助... 操作系统 推荐 ecs.c3i.24xlarge 96 192 Ubuntu 22.04 性价比最佳 ecs.g3i.8xlarge 32 128 Ubuntu 22.04 最小配置 ecs.r3i.4xlarge 16 128 Ubuntu 22.04 运行环境 Anaconda:获取包且对包能够进行管理的工具,包含了...

## 前言:ChatGLM-6B是清华大学知识工程和数据挖掘小组(Knowledge Engineering Group (KEG) & Data Mining at Tsinghua University)发布的一个开源的对话机器人,由清华技术成果转化的公司智谱 AI 开源,具有 62 亿参数。结合模型量化技术,用户可以在消费级的显卡上进行本地部署(INT4 量化级别下最低只需 6GB 显存)。![picture.image](https://p3-volc-community-sign.byteimg.com/tos-cn-i-tlddhu82om/3eccfcd3eb7c4c7aaba2e20fc...

首先打开Anaconda prompt,直接在应用里搜**Anaconda prompt**就可以啦,打开之后就会发现这个界面:然后第二步我们进行**创建tensorflow虚拟环境**这个地方需要点**yes**的地方,就一直输入y就可以啦```pythonconda create -n tensorflow python=3.7```![image.png](https://p3-juejin.byteimg...