数据转换的用途

数据转换表示数据预处理。这是创建预测模型和检查数据前的重要步骤。

数据插补

数据插补适合于预测建模任务,例如分类、回归和聚类。在这些任务中,不能忽略缺失值,否则会导致结果出现问题。此外,处理缺失值的精良内部技术通常不可用,或者处理大型数据集时耗时过多。

许多统计分析方法都会排除含缺失值的数据。相比之下,数据插补可将缺失值替换为估算值,从而有可能使用所有这些数据。估算值基于其他可用信息。替换缺失值之后,您可使用标准方法来分析数据集,就像数据集完整一样。

数据拆分

对于构建分类模型或回归模型,以及测试其预测质量而言,数据拆分十分有用。数据将拆分为训练数据集和测试数据集。然后,您使用一个数据集来训练预测模型,并使用另一个数据集来测试该预测模型。

例如,假设您有一个大型数据集,其中包含客户的人口统计信息。您希望为不同城市的客户创建不同的模型,因此按“城市”列的值来拆分输入数据。

标准化和正态化

标准化和正态化用于数据预处理阶段。在此阶段将会准备数据,以供稍后在数据挖掘和机器学习中进行处理。这两种方法都通过修改连续属性来扩展数据集,从而实现所需的分布属性。

在这些转换中,原始连续属性 a 将用于生成新的连续属性 a '。这个新连续属性的范围或分布与原始属性不同。常用转换会将范围修改为适合 [-1, 1] 区间(正态化),或者修改分布以使均值为 0 且标准差为 1(在这种情况下也称为标准化)。