You need to enable JavaScript to run this app.
优惠活动
大模型
产品
解决方案
定价
更多

Softmax回归中的权重是一维还是二维?

关于线性分类器权重维度差异的解惑

嘿,我来帮你理清这个看似矛盾的点!其实这两种权重设定本质是一致的,只是场景和实现方式不同而已:

吴恩达课程里的一维权重:教学场景的简化

  • 在Coursera的深度学习课程中,不管是基础线性分类器,还是图像展平后的处理,权重都用一维向量,这是为了帮你先理解线性分类的核心逻辑:y = W·x + b,其中x是一维特征向量(比如展平后的图像像素),W是对应维度的一维权重,计算出来的y是单个样本的预测值(二分类时是得分,回归时是预测结果)。
  • 这种简化让你不用过早纠结批量计算、多分类的维度适配,先把线性变换的本质吃透。

TensorFlow示例中的权重初始化:工程实现的便利

  • 在《Learning TensorFlow》的第一个示例里,权重用的是二维张量(矩阵),这是因为实际深度学习工程中,我们通常会批量处理样本,同时可能面对多分类任务:
    • 假设输入是形状为[batch_size, feature_dim]的张量(batch_size是一次处理的样本数,feature_dim是单个样本的特征维度,比如展平后的图像像素数),那么权重会被初始化为[feature_dim, num_classes]的矩阵,这样通过一次矩阵乘法,就能直接得到整个批次所有样本对应各个类别的得分,形状是[batch_size, num_classes],效率极高。
  • 结合书中第14页的内容(你提到的片段),核心意思应该是:

Since we are not going to hand-code the matrix multiplication, TensorFlow handles the dimensions for us, allowing us to initialize weights in a way that fits real-world batch processing and multi-class classification needs.

两者的核心联系

其实吴恩达课程里的一维权重,就是TensorFlow中权重矩阵的“子集”:如果是二分类任务,权重矩阵其实就是一列(或一行,取决于维度定义),和课程里的一维向量完全等价;多分类时,矩阵的每一列(或行)对应一个类别的权重向量。

所以不用纠结形式差异,核心都是线性变换的逻辑,课程是教学简化版,TensorFlow示例是工程实用版~

内容的提问来源于stack exchange,提问作者Gnanesh

相关产品推荐
方舟 Agent Plan

超全模态模型 × Harness 升级,最新支持 Deepseek-V4.1-Flash、GLM-5.3 系列、Doubao-Seedream-5.0-pro、Kimi-K3 (部分), 限时 9.9 元起

最近更新时间:2026.05.19 09:06:09