离散化与矩背景

离散化可以是无监督或受监督。矩是数量,用于描述连续属性分布的特定方面。

离散化

离散化过程对连续属性 a 的每个区间指定一个离散值,以创建新的离散属性 a '。离散化算法确定区间边界,这些边界应该尽量保留原始属性中的有用信息。如果使用数据集来创建分类模型,那么数据集离散化应保留类与离散化属性之间的关系。

您可以使用下列离散化算法类型:

等宽离散化
这是一种无监督离散化算法,它将等宽条件用于区间界限设置。
复杂度较低,因而在计算上效率较高。
可以处理大量的属性。
生成的离散化区间质量足以胜任多次应用。
识别离散化属性的范围,并将其均匀划分为指定的区间数。
注: 在使用此算法之前,请检查离群值的离散化属性,必要时将其移除,因为离群值可能会超出属性范围。范围较大可能会导致区间数据欠佳。
等频离散化
这是一种无监督离散化算法,它将等频(数据计数)条件用于区间界限设置。
复杂度较低,因而在计算上效率较高。
可以处理大量的属性。
生成的离散化区间质量足以胜任多次应用。
稳健地识别区间界限。通过寻找包含相同实例数的区间,适应实际数据分布。
注: 当数据集大小无法被所需的区间数整除时,或者多个实例的离散化属性具有相同的值时,结果可能不准确。因此,您可以指定一个参数来修改所需区间数,以使区间频率更加一致。
最小熵离散化
这是一种受监督离散化算法,它通过最大限度减少类分布杂质来识别最合适的区间界限。

中心矩(即,围绕均值的矩)的意义尤其重要。

k 阶中心矩是属性值与属性均值之差的 k 次幂的均值。

第 2 阶中心矩是方差。方差用于测量分布的离散度。

第 3 阶中心矩和第 4 阶中心矩通常以标准化形式使用。它们除以标准差的相应幂(即 3 或 4)。

第 3 阶标准化中心矩也称为偏度。它充当一种通用的分布不对称指标,值为 0 表示对称分布,值为负表示左尾较长,值为负表示右尾较长。

第 4 阶标准化中心矩称为峰度。它用作分布峰度指标。通常,在峰度计算中,将会从第 4 阶标准化中央矩中减去常量 3。结果有时称为过量峰度。这种校正使正态分布的峰度等于 0。对于比正态分布平缓的分布,峰度为负数,对于比正态分布陡峭的分布,峰度为正数。