猫的分类 计算机视觉 飞浆 自动重启

Question

猫的分类这个代码为什么会自动重启 有什么好的办法解决吗 在训练模型那一步 即使训练次数改为了1

Answer 1

上午好☀️☀️☀️️
本答案参考ChatGPT-3.5

这种自动重启很可能是因为内存不足或者GPU显存不足导致的，在训练模型的过程中，模型会把数据批量地送入显存中进行计算，如果显存不足，程序就会因为内存溢出而自动重启。

解决这个问题需要从以下几个方面入手：

1. 降低batch size。减小每一批次送入GPU显存的数据量，这样可以减少模型对GPU显存的占用。

2. 调整模型结构。对于深度神经网络来说，模型结构太大、太复杂会导致模型对内存的占用量变大，因此可以适当地减少模型的深度或者参数量。

3. 使用更大的显存。如果你的显卡显存比较小，可以选择购买更大容量的显卡显存，这样才能承载更大的模型。

4. 使用分布式训练。分布式训练可以将模型训练分散到多台机器上进行，并且可以分别使用不同的显卡进行计算，从而减小单台机器的负担，提高模型训练的效率。

修改batch size的方法：

# 在训练循环中添加如下代码
for batch_id, data in enumerate(train_loader()):
    img_data, label_data = data
    img = fluid.dygraph.to_variable(img_data)
    label = fluid.dygraph.to_variable(label_data)
    logits = model(img)
    loss = fluid.layers.cross_entropy(logits, label)
    avg_loss = fluid.layers.mean(loss)
    avg_loss.backward()
    optimizer.minimize(avg_loss)
    model.clear_gradients()

    if batch_id % 100 == 0:
        print("epoch id: %d，batch step: %d，loss: %f" % (epoch_id, batch_id, avg_loss.numpy()))

其中train_loader是在paddle.io.DataLoader中定义好的，可以指定batch size的值。