¿Qué es un bosque aleatorio?

Dado que el modelo de bosque aleatorio se compone de múltiples árboles de decisión, sería útil empezar describiendo brevemente el algoritmo del árbol de decisión. Los árboles de decisión empiezan con una pregunta básica, como: "¿Debería hacer surf?". A partir de ahí, puede formular una serie de preguntas para determinar una respuesta, como: "¿Es un oleaje de largo periodo?" o: "¿El viento sopla mar adentro?". Estas preguntas constituyen los nodos de decisión del árbol y sirven para dividir los datos. Cada pregunta ayuda a un individuo a llegar a una decisión final, que vendría denotada por el nodo hoja. Las observaciones que se ajusten a los criterios seguirán el ramal "sí" y las que no, el camino alternativo. Los árboles de decisión tratan de encontrar la mejor división para subdividir los datos, y suelen entrenarse mediante el algoritmo de árbol de clasificación y regresión (CART). Para evaluar la calidad de la división pueden utilizarse parámetros como la impureza de Gini, la ganancia de información o el error cuadrático medio (MSE).

Este árbol de decisión es un ejemplo de un problema de clasificación, en el que las etiquetas de clase son "surfear" y "no surfear".

Aunque los árboles de decisión son algoritmos habituales de aprendizaje supervisado, pueden ser propensos a problemas como el sesgo y el sobreajuste. Sin embargo, cuando varios árboles de decisión forman un conjunto en el algoritmo de bosque aleatorio, predicen resultados más precisos, sobre todo cuando los árboles individuales no están correlacionados entre sí.

Los métodos de aprendizaje por conjuntos se componen de un conjunto de clasificadores (p. ej., árboles de decisión) y sus predicciones se agregan para identificar el resultado más popular. Los métodos de conjunto más conocidos son el bagging, también conocido como agregación de bootstrap, y el boosting. En 1996, Leo Breiman introdujo el método bagging; en este método, se selecciona una muestra aleatoria de datos en un conjunto de entrenamiento con reemplazo, lo que significa que los puntos de datos individuales se pueden elegir más de una vez. Después de generar varias muestras de datos, estos modelos se entrenan de forma independiente y según el tipo de tarea, es decir, regresión o clasificación: el promedio o la mayoría de esas predicciones producen una estimación más precisa. Este método suele utilizarse para reducir la varianza en un conjunto de datos ruidoso.

El algoritmo de bosque aleatorio es una extensión del método bagging, ya que utiliza tanto el bagging como la aleatoriedad de las características para crear un bosque no correlacionado de árboles de decisión. La aleatoriedad de características, también conocida como bagging de características o "el método aleatorio del subespacio", genera un subconjunto aleatorio de características, lo que garantiza una baja correlación entre los árboles de decisión. Esta es una diferencia clave entre los árboles de decisión y los bosques aleatorios. Mientras que los árboles de decisión consideran todas las posibles divisiones de características, los bosques aleatorios solo seleccionan un subconjunto de esas características.

Si volvemos al ejemplo de: "¿debería hacer surf?", es posible que las preguntas que yo formule para determinar la predicción no sean tan exhaustivas como el conjunto de preguntas de otra persona. Al tener en cuenta toda la variabilidad potencial de los datos, podemos reducir el riesgo de sobreajuste, sesgo y varianza general, lo que se traduce en predicciones más precisas.

Los algoritmos de bosque aleatorio tienen tres hiperparámetros principales, que deben establecerse antes del entrenamiento. Entre ellos están el tamaño de los nodos, el número de árboles y el número de características muestreadas. A partir de ahí, el clasificador de bosque aleatorio puede utilizarse para resolver problemas de regresión o clasificación.

El algoritmo de bosque aleatorio se compone de una colección de árboles de decisión, y cada árbol del conjunto se compone de una muestra de datos extraída de un conjunto de entrenamiento con reemplazo, denominada muestra bootstrap. De esa muestra de entrenamiento, un tercio se reserva como datos de prueba, lo que se conoce como muestra "fuera de la bolsa" o "out-of-bag" (oob), a la que volveremos más adelante. A continuación, se inyecta otra instancia de aleatoriedad a través del feature bagging, lo que añade más diversidad al conjunto de datos y reduce la correlación entre los árboles de decisión. Dependiendo del tipo de problema, la determinación de la predicción variará. Para una tarea de regresión, se promediarán los árboles de decisión individuales, y para una tarea de clasificación, un voto mayoritario (es decir, la variable categórica más frecuente) dará como resultado la clase predicha. Por último, la muestra oob se utiliza para la validación cruzada, finalizando esa predicción.

El algoritmo de bosque aleatorio presenta una serie de ventajas y retos clave cuando se utiliza para problemas de clasificación o regresión. Algunos de ellos son:

• Menor riesgo de sobreajuste: los árboles de decisión corren el riesgo de sobreajustarse, ya que tienden a ajustarse a todas las muestras de los datos de entrenamiento. Sin embargo, cuando hay un número sólido de árboles de decisión en un bosque aleatorio, el clasificador no sobreajustará el modelo, ya que el promedio de árboles no correlacionados reduce la varianza global y el error de predicción.
• Proporciona flexibilidad: dado que el bosque aleatorio puede manejar tanto tareas de regresión como de clasificación con un alto grado de precisión, es un método popular entre los científicos de datos. El feature bagging también convierte al clasificador de bosque aleatorio en una herramienta eficaz para estimar valores faltantes, ya que mantiene la precisión cuando falta una parte de los datos.
• Facilidad para determinar la importancia de las características: los bosques aleatorios facilitan la evaluación de la importancia de las variables, o su contribución al modelo. Hay varias formas de evaluar la importancia de las características. La importancia de Gini y la disminución media de la impureza (MDI) suelen utilizarse para medir cuánto disminuye la precisión del modelo cuando se excluye una variable determinada. Sin embargo, la importancia de permutación, también conocida como precisión de disminución media (MDA), es otra medida de importancia. La MDA identifica la disminución media de la precisión al permutar aleatoriamente los valores de las características en muestras oob.

• Proceso lento: dado que los algoritmos de bosque aleatorio son capaces de manejar grandes conjuntos de datos, pueden proporcionar predicciones más precisas, pero también ser lentos a la hora de procesar los datos, ya que están calculando los datos para cada árbol de decisión individual.
• Requiere más recursos: dado que los bosques aleatorios procesan conjuntos de datos más grandes, necesitarán más recursos para almacenar esos datos.
• Mayor complejidad: la predicción de un único árbol de decisión es más fácil de interpretar que la de un bosque de ellos.

El algoritmo de bosque aleatorio se ha aplicado en numerosos sectores, lo que les ha permitido tomar mejores decisiones empresariales. Algunos casos de uso incluyen:

• Finanzas: es un algoritmo preferido frente a otros, ya que reduce el tiempo dedicado a las tareas de gestión y preprocesamiento de datos. Puede utilizarse para evaluar clientes con alto riesgo crediticio, detectar fraudes y problemas de valoración de opciones.
• Atención médica: el algoritmo de bosque aleatorio tiene aplicaciones dentro de la biología computacional, lo que permite a los médicos abordar problemas como la clasificación de expresiones génicas, el descubrimiento de biomarcadores y la anotación de secuencias. Como resultado, los médicos pueden hacer estimaciones en torno a las reacciones a medicamentos específicos.
• Comercio electrónico: puede utilizarse para motores de recomendación con fines de venta cruzada.