離散化およびモーメントの背景

離散化は教師なしまたは教師ありのいずれかにできます。モーメントは、連続型属性分布の特定の側面を表す数量です。

離散化

離散化プロセスでは、離散型値を連続型属性 a の各インターバルに代入して、新しい離散型属性 a ' を作成します。離散化アルゴリズムによって、元の属性からできる限り多くの有用な情報を保持する区間境界が決定されます。分類モデルの作成にデータ・セットを使用する場合、データ・セットの離散化では、クラスと離散化された属性との関係を保持する必要があります。

以下のタイプの離散化アルゴリズムを使用できます。

等間隔離散化
区間境界設定に等間隔基準を使用する教師なし離散化アルゴリズム。
比較的複雑でないため、計算の効率が高くなります。
多数の属性を処理できます。
生成される離散化インターバルは、一部のアプリケーションに対して十分な品質になります。
離散化された属性の範囲を識別し、指定された数のインターバルに均等に分割します。
注: 異常値があると離散化された属性の範囲が拡大する可能性があるため、このアルゴリズムを使用する前に、離散化された属性に異常値がないか確認し、必要に応じて異常値を除去してください。範囲が大きいほど、インターバル・データの品質が低下します。
等頻度離散化
区間境界設定に同頻度 (データ・カウント) 基準を使用する教師なし離散化アルゴリズム。
比較的複雑でないため、計算の効率が高くなります。
多数の属性を処理できます。
生成される離散化インターバルは、一部のアプリケーションに対して十分な品質になります。
区間境界を堅固に識別します。同じ数のインスタンスを含むインターバルを求めることによって、実際のデータ分布に適合します。
注: データ・セットのサイズが必要なインターバル数で均等に分割されない場合、または複数のインスタンスの離散化された属性が同じ値を持つ場合、結果が正確にならない可能性があります。したがって、より均一なインターバル頻度になるように、必要なインターバル数を変更するパラメーターを指定できます。
最小エントロピーの離散化
クラス分布の不純度を最小限に抑えることで最適な区間境界を識別する教師あり離散化アルゴリズム。

モーメント

特に注目すべき点は、中心モーメントと平均値回りのモーメントです。

K 次の中心モーメントは、属性値と属性平均の k 乗との差分の平均値です。

2 次の中心モーメントは、分散です。分散によって、分布の散らばりが測定されます。

3 次の中心モーメントおよび 4 次の中心モーメントは、通常、標準化された形式で使用されます。これらは、標準偏差の対応する累乗 (3 または 4) で除算されます。

標準化された 3 次の中心モーメントは、ひずみ度とも呼ばれます。これは一般的な分布非対称の測度となるもので、対称分布の場合は値 0 をとり、左側のテールの方が長い場合は負の値をとり、右側のテールの方が長い場合は正の値をとります。

標準化された 4 次の中心モーメントは、尖度です。これは分布尖度の測度です。通常、尖度計算では、標準化された 4 次の中心モーメントから定数 3 が減算されます。結果は、過剰尖度 と呼ばれることもあります。この補正により、正規分布の尖度が 0 になります。正規分布よりも平坦な分布の場合は負の値になり、正規分布よりも尖った分布の場合は正の値になります。