回帰ツリーのプルーニング
回帰ツリーをプルーニングすると、回帰ツリーのすべてのノードの予測有用性が検証されるので、オーバーフィッティングのリスクを軽減できます。 新しいデータに対して予期される予測品質が改善されないノードは、リーフに置き換えられます。
この決定はプルーニング基準に基づきます。ノードとリーフの予測精度を比較し、置き換えるべきものを見つけるために、Reduced Error Pruning (REP) アルゴリズムは別のプルーニング・セットを使用します。
最も一般的に使用される品質標識は平均二乗誤差です。ただし、回帰の品質の尺度として線形相関や順位相関を使用することもできます。