pytorch常见的Tensor类型详解

1. Tensor类型简介

在使用PyTorch进行深度学习任务时，最基本的数据结构是Tensor。Tensor可以看作是一个多维数组，可以存储任意类型的数据。PyTorch提供了多种Tensor类型，每种类型都有其特定的用途和限制。

2. 常见的Tensor类型

2.1 torch.Tensor

torch.Tensor是PyTorch中最基本的Tensor类型，它可以存储任意类型的数据，并且提供了丰富的数学运算和操作。例如，可以使用torch.Tensor创建一个全为0或全为1的Tensor:

# 创建一个全为0的3x3的Tensor
zeros_tensor = torch.Tensor(3, 3).zero_()
print(zeros_tensor)
# 创建一个全为1的2x2的Tensor
ones_tensor = torch.Tensor(2, 2).fill_(1)
print(ones_tensor)

可以使用torch.Tensor的各种运算符执行各种数学运算，比如加法、减法、乘法、除法等操作。以下是一个简单的示例:

# 创建两个随机的3x3的Tensor
a = torch.Tensor(3, 3).random_(0, 10)
b = torch.Tensor(3, 3).random_(0, 10)
# 执行加法操作
c = a + b
print(c)

2.2 torch.FloatTensor

torch.FloatTensor是torch.Tensor的一个子类，用于存储浮点数类型的数据。与torch.Tensor类似，torch.FloatTensor提供了丰富的数学运算和操作，但其默认数据类型为float32。

# 创建一个全为0的3x3的FloatTensor
zeros_float_tensor = torch.FloatTensor(3, 3).zero_()
print(zeros_float_tensor)
# 创建一个全为1的2x2的FloatTensor
ones_float_tensor = torch.FloatTensor(2, 2).fill_(1)
print(ones_float_tensor)

注意：torch.FloatTensor的数据类型默认为float32，可以通过修改全局的默认数据类型来改变这一行为。

2.3 torch.DoubleTensor

torch.DoubleTensor与torch.FloatTensor类似，用于存储双精度浮点数类型的数据。其默认数据类型为float64。可以使用torch.DoubleTensor创建一个全为0或全为1的Tensor：

# 创建一个全为0的3x3的DoubleTensor
zeros_double_tensor = torch.DoubleTensor(3, 3).zero_()
print(zeros_double_tensor)
# 创建一个全为1的2x2的DoubleTensor
ones_double_tensor = torch.DoubleTensor(2, 2).fill_(1)
print(ones_double_tensor)

2.4 torch.LongTensor

torch.LongTensor用于存储整数类型的数据，其默认数据类型为int64。可以使用torch.LongTensor创建一个全为0或全为1的Tensor：

# 创建一个全为0的3x3的LongTensor
zeros_long_tensor = torch.LongTensor(3, 3).zero_()
print(zeros_long_tensor)
# 创建一个全为1的2x2的LongTensor
ones_long_tensor = torch.LongTensor(2, 2).fill_(1)
print(ones_long_tensor)

3. 温度参数的设置

温度参数是在一些深度学习模型中用于控制输出的多样性的重要参数。温度参数越小，模型的输出越集中，即更加确定性；温度参数越大，模型的输出越分散，即更加多样化。在PyTorch中，可以通过修改temperature参数的值来调整模型的输出多样性。

假设我们要利用softmax函数生成一个概率分布，可以通过调整温度参数来控制生成的概率分布的形状。较高的温度参数会导致更平坦的分布，而较低的温度参数则会导致更尖锐的分布。

# 创建一个随机的1x5的Tensor
input_tensor = torch.randn(1, 5)
# 分别使用不同的温度参数生成概率分布
temperature = 0.6
# 使用温度参数计算概率分布
probabilities = torch.softmax(input_tensor / temperature, dim = 1)
print(probabilities)

在上述示例中，我们首先创建了一个随机的1x5的Tensor，然后使用temperature参数将该Tensor除以temperature得到新的Tensor，并将其作为输入传递给softmax函数，最终得到了一个概率分布。

4. 总结

在深度学习中，PyTorch提供了多种常见的Tensor类型，包括torch.Tensor、torch.FloatTensor、torch.DoubleTensor和torch.LongTensor等。通过了解每种Tensor类型的特点和用途，我们可以根据具体的需求选择合适的Tensor类型进行数据存储和操作。同时，通过调整温度参数，我们可以控制模型输出的多样性，从而使模型更加灵活适用于不同场景。