¿Qué es la extracción de características?

El rendimiento de un modelo de inteligencia artificial (IA) depende de la calidad de sus datos de entrenamiento Los modelos de machine learning pasan por un preprocesamiento para ayudar a garantizar que los datos estén en un formato adecuado para un entrenamiento y un rendimiento eficientes del modelo. La extracción de características es una parte crucial del flujo de trabajo de preprocesamiento.

Durante el proceso de extracción, los datos no estructurados se convierten en un formato más estructurado y utilizable para mejorar la calidad de los datos y la interpretabilidad del modelo. La extracción de características es un subconjunto de la ingeniería de características, el proceso más amplio de crear, modificar y seleccionar características dentro de datos sin procesar para optimizar el rendimiento del modelo.  

Desde las primeras investigaciones en el reconocimiento de patrones, se han estudiado nuevos métodos y técnicas para emplear un método heurístico para extraer las características más relevantes de un conjunto de datos utilizando IA.¹ A medida que avanzaba la investigación, los autocodificadores se utilizaron tradicionalmente para reducir la dimensionalidad para el aprendizaje de características.²

Es difícil trabajar con los datos cuando el número de características o covariables supera el número de puntos de datos independientes. Este tipo de datos se consideran datos de alta dimensión.³ La extracción de características puede considerarse una técnica de reducción de la dimensionalidad. ⁴

Esto es crucial cuando se trabaja con grandes conjuntos de datos o conjuntos de datos de múltiples modalidades. Cuantas más características extraídas deba gestionar el modelo, menos competente y eficaz será.⁵ Las tareas comunes que dependen de la extracción eficiente de características incluyen el procesamiento de imágenes, el procesamiento del lenguaje natural (PLN) y el procesamiento de señales. 

La reducción de la dimensionalidad es una técnica de ciencia de datos utilizada en el paso de preprocesamiento en el machine learning.⁶ Durante este proceso, los datos irrelevantes y redundantes se eliminan al tiempo que se conserva la información relevante del conjunto de datos original.

Las características se pueden considerar como los atributos de un objeto de datos. Por ejemplo, en un conjunto de datos de animales, se esperarían algunas características numéricas (edad, altura, peso) y características categóricas (color, especie, raza). La extracción de características forma parte de la arquitectura de redes neuronales del modelo, como una red neuronal convolucional (CNN).

En primer lugar, el modelo toma los datos de entrada y, a continuación, el extractor de características transforma los datos en una representación numérica que se puede utilizar para calcular los métodos de reducción de dimensionalidad para la extracción de características. Estas representaciones se almacenan en vectores de características para que el modelo realice algoritmos para la reducción de datos. 

Después de la extracción, a veces es necesario estandarizar los datos mediante la normalización de característica, especialmente cuando se utilizan ciertos algoritmos que son sensibles a la magnitud y la escala de las variables (algoritmos de descenso basados en gradientes, clúster k-means).

Se pueden seguir diferentes métodos para lograr ciertos resultados dependiendo de las tareas. Todos los métodos buscan simplificar los datos preservando la información más valiosa.

La mayoría de los modelos modernos de IA realizan la extracción automática de características, pero sigue siendo útil comprender las diversas formas de manejarlas. Estos son algunos métodos comunes de extracción de características utilizados para la dimensión:

Análisis de componentes principales (PCA): esta técnica reduce el número de características de grandes conjuntos de datos a componentes principales o nuevas características que el clasificador del modelo utilizará para sus tareas específicas.

PCA es popular debido a su capacidad para crear datos originales que no están correlacionados, lo que significa que las nuevas dimensiones que crea PCA son independientes entre sí.⁷ Esto convierte a PCA en una solución eficaz para el sobreajuste debido a la falta de redundancia de datos, ya que cada característica es única.   
 
Análisis discriminante lineal (LDA): esta técnica se utiliza comúnmente en el machine learning supervisado para separar múltiples clases y características para resolver problemas de clasificación.

Esta técnica se utiliza comúnmente para optimizar los modelos de machine learning. Los nuevos puntos de datos se clasifican utilizando estadísticas bayesianas para modelar la distribución de datos para cada clase. 

Embedding de vecinos estocásticos distribuidos en T (t-SNE): esta técnica de machine learning se aplica comúnmente a tareas como la visualización de características en deep learning.⁸ Esto es especialmente útil cuando la tarea es renderizar visualizaciones de datos de alta dimensión en 2D o 3D.

Esto se utiliza comúnmente para analizar patrones y relaciones en la ciencia de datos. Debido a su naturaleza no lineal, t-SNE es costoso desde el punto de vista computacional y normalmente solo se utiliza para tareas de visualización.

Frecuencia de términos-Frecuencia inversa del documento (TF-IDF): este método estadístico evalúa la importancia de las palabras en función de la frecuencia con la que aparecen. El término frecuencia en un documento específico se pondera en función de la frecuencia con la que aparece en todos los documentos de una colección o corpus.⁹ 

Esta técnica se utiliza habitualmente en el PLN para la clasificación, clustering y la recuperación de información. Bag of words (BoW) es una técnica similar, pero en lugar de considerar la relevancia del término, trata efectivamente todas las palabras por igual. 

Procesamiento de imágenes y visión artificial: el proceso de extracción de características identifica y extrae las características clave de imágenes y vídeos. Los datos de imagen sin procesar (píxeles) se transforman en características que la máquina puede aplicar algoritmos para extraer y clasificar un nuevo conjunto de características. Por ejemplo, el histograma de gradientes orientados (HOG) es un algoritmo de extracción de características utilizado para la detección de objetos.

Procesamiento del lenguaje natural: la extracción de características convierte los datos de texto sin procesar en una estructura de formato que el modelo de machine learning puede procesar. Esto es útil para tareas como la clasificación, el análisis de sentimiento o named entity recognition (NER). Esta técnica puede aplicarse en todos los sectores, utilizarse en interfaces de chat e incluso en salud conductual. Esta investigación sugiere que la extracción de características ayuda en el reconocimiento multimodal de emociones para monitorizar la salud conductual del paciente.¹⁰

Procesamiento de señales: esta técnica se utiliza para analizar y extraer información significativa de datos de señales sin procesar (audio, imágenes o incluso datos de series temporales) para facilitar tareas como la clasificación, la detección o la predicción. Aunque el procesamiento de señales se asocia tradicionalmente con áreas como el reconocimiento de voz, el procesamiento de audio y el análisis de imágenes, también se puede aplicar en muchos otros dominios. Por ejemplo, en el contexto médico, se utilizan señales psicológicas, como lecturas de ECG, para detectar tendencias.¹¹