epoch batch iteration
时间: 2023-10-07 12:11:58 浏览: 105
炼丹技巧 | BERT的下接结构调参
Epoch是指将训练集中的所有样本全部使用一遍的训练过程。在深度学习中,通常将训练集分为多个批次(Batch),将每个批次作为一个小的数据集进行训练,当所有的批次都训练完成后,就完成了一个Epoch的训练。Epoch的数量通常是一个超参数,需要在训练前手动设置。
Batch是指对一个小的数据集进行一次训练的过程。通常将一个Batch中的数据分为若干个小批次(mini-batch),每个小批次都会经过一次前向传播和反向传播的过程,这个过程就是一次迭代(Iteration)。
Iteration是指在深度学习中,对一个小的数据集进行一次前向传播和反向传播的过程。通常一个Epoch包含多个Iteration,而一个Iteration包含一个小批次训练样本的前向传播和反向传播过程。
阅读全文