机器学习极简入门课学习笔记-第七课(模型的获取和改进)

构建模型的一般步骤

  • Step-1:数据准备。

    • Step-1.1 数据预处理:收集数据、清洗数据、标注数据。
    • Step-1.2 构建数据的向量空间模型(将文本、图片、音频、视频等格式的数据转换为向量)。
    • Step-1.3 将构建好向量空间模型的数据分为训练集、验证集和测试集。
  • Step-2:训练——将训练集输入给训练程序,进行运算。训练程序的核心是算法,所有输入的向量化数据都会按该训练程序所依据的算法进行运算。训练程序输出的结果,就是模型。

  • Step-3:测试——将测试集数据输入给训练获得的模型,得到预测结果;再将预测结果与这些数据原本预期的结果进行比较。

有监督学习过程中对数据集的划分

  • 训练集(Train Set):用来做训练的数据的集合。

  • 验证集(Validation Set):在训练的过程中,每个训练轮次结束后用来验证当前模型性能,为进一步优化模型提供参考的数据的集合。

  • 测试集(Test Set):用来测试的数据的集合,用于检验最终得出的模型的性能。

每个集合都应当是独立的,和另外两个没有重叠。

训练集是训练过程的基础,而验证和测试集则是在不同阶段用来评价训练结果的。

训练的过程

构建模型的过程中Step-2训练,又可以细化为几个步骤。

  • Step-2.1: 编写训练程序。

    • Step-2.1.1: 选择模型类型;
    • Step-2.1.2: 选择优化算法;
    • Step-2.1.3: 根据模型类型和算法编写程序。
  • Step-2.2: 训练 -> 获得临时模型。

  • Step-2.3: 在训练集上运行临时模型,获得训练集预测结果。

  • Step-2.4: 在验证集上运行临时模型,获得验证集预测结果。

  • Step-2.5: 综合参照 Step-2.3 和 Step-2.4 的预测结果,改进模型。

  • Step-2.6: Step-2.2 到 Step-2.5 反复迭代,直至获得让我们满意,或者已经无法继续优化的模型。

超参数

超参数是需要模型训练者自己来设置和调整的。