PyTorch中.contiguous()的作用？张量x调用x.contiguous()有何功能？

嘿，这个问题问得特别实在——很多刚上手PyTorch的开发者都会被contiguous()搞晕，其实它的核心逻辑全围绕张量在内存中的存储顺序展开。

先搞懂：什么是“连续（contiguous）”张量？ #

PyTorch的张量本质上是对一块一维内存的“视图”。默认情况下，张量会按照C风格行优先的顺序存储数据：比如一个2x3的张量，内存里会先存第一行的所有元素，再存第二行，逻辑顺序和内存存储顺序完全对应，这时候我们就说这个张量是“连续”的。

但如果你做了转置（x.t()）、维度交换（x.permute(1,0)）这类操作，张量的逻辑形状变了，但内存里的存储顺序完全没动——这时候逻辑上相邻的元素，在内存里可能隔着老远，这样的张量就是“非连续”的。

.contiguous()的核心作用 #

它的唯一使命就是：将非连续的张量转换为内存连续的张量，让张量的逻辑形状和内存存储顺序重新对齐，从而满足某些必须依赖连续内存的操作要求。

很多PyTorch操作（比如view()、resize_()，或是一些底层的CUDA操作）都要求输入张量是连续的——因为这些操作需要直接按内存顺序访问数据，非连续张量会导致内存访问效率极低，甚至直接报错。

调用x.contiguous()时的具体功能 #

当你对张量x调用这个方法时，PyTorch会先做一个快速检查：

• 如果x已经是连续的（可以用x.is_contiguous()验证），那么直接返回原张量，不会做任何数据复制，避免浪费内存；
• 如果x是非连续的，PyTorch会开辟一块新的连续内存空间，然后按照x当前的逻辑形状，把数据重新排列后写入新内存，最后返回这个全新的连续张量（原张量的数据不会被修改）。

举个直观的例子：

import torch

# 创建一个2x3的连续张量
x = torch.tensor([[0, 1, 2], [3, 4, 5]])
print(x.is_contiguous())  # 输出: True
print(x.storage())        # 内存存储: 0 1 2 3 4 5

# 转置后得到非连续张量
y = x.t()
print(y.is_contiguous())  # 输出: False
print(y.storage())        # 内存存储还是: 0 1 2 3 4 5（逻辑形状变了，但内存没动）

# 调用contiguous()转换
z = y.contiguous()
print(z.is_contiguous())  # 输出: True
print(z.storage())        # 内存存储变成: 0 3 1 4 2 5（和逻辑形状[[0,3],[1,4],[2,5]]对齐）

什么时候必须用它？ #

最常见的场景就是：当你对非连续张量调用view()时会报错，这时候就需要先调用contiguous()：

# 对非连续的y调用view会报错
# y.view(6)  # RuntimeError: view size is not compatible with input tensor's size and stride...

# 先转成连续张量再调用view就没问题
y.contiguous().view(6)  # 输出: tensor([0, 3, 1, 4, 2, 5])

（补充：PyTorch的reshape()方法会自动处理连续与否的问题，内部会根据情况选择直接view或者先contiguous再view，所以如果不想手动处理，也可以用reshape()替代，但理解contiguous()的本质还是很重要的。）

内容的提问来源于stack exchange，提问作者MBT