新机器上PyTorch模型第一次加载时间过长。

1. 尝试使用PyTorch内置工具torch.utils.module_cache，将模型保存在全局缓存中，可减少重复加载时间。

import torch
from torch.utils.module_cache import cache_module

cache_module(torch.load_model, '/path/to/model.pth')
model = torch.load_model('/path/to/model.pth') # 第一次加载模型会比较慢

2. 使用PyTorch内置的多进程数据加载器torch.utils.data.DataLoader，来异步加载数据，从而减少模型加载时间。

import torch
from torch.utils.data import DataLoader

# 定义自己的数据集
class MyDataset(torch.utils.data.Dataset):
    def __init__(self):
        ...

    def __getitem__(self, index):
        ...

    def __len__(self):
        ...

# 通过DataLoader异步加载数据
batch_size = 32
num_workers = 4
my_dataset = MyDataset()
my_dataloader = DataLoader(my_dataset, batch_size=batch_size, num_workers=num_workers)

# 加载模型并进行训练
model = MyModel()
for epoch in range(num_epochs):
    for data in my_dataloader:
        input, target = data
        output = model(input)
        loss = loss_function(output, target)
        optimizer.zero_grad()
        loss.backward()
        optimizer.step()

通过上述方法，可以有效地减少模型加载时间，提高PyTorch模型的效率。