您正在一个新数据集上训练模型,并认为可以采用微调的方法,而不是从零开始训练(即从随机初始化的权重训练)。
要在新任务上微调模型,您需要按顺序完成以下步骤。
本练习是课程的一部分
通过我们的互动练习之一,将理论转化为实践
自动驾驶、智能手机、搜索引擎……深度学习已经无处不在。在构建复杂模型之前,您将先熟悉 PyTorch 这一深度学习框架。您将学习如何操作张量、创建 PyTorch 数据结构,并使用线性层在 PyTorch 中搭建第一个神经网络。
要在 PyTorch 中训练神经网络,您需要先理解更多组件,例如激活函数和损失函数。随后您会了解到,训练网络的目标是最小化损失函数,这需要计算梯度。您将学习如何利用这些梯度来更新模型参数。
既然您已经了解了神经网络的关键组成部分,接下来将使用训练循环来训练一个网络。您会探索可能出现的问题,如梯度消失,并学习应对策略,例如采用替代激活函数,以及调节学习率与动量。
训练深度学习模型既是技术也是技巧。为确保模型被正确训练,我们需要在训练过程中跟踪若干指标,例如损失和准确率。我们将学习如何计算这些指标,以及如何减少过拟合。
当前练习