¿Qué es la extracción de características?

El rendimiento de un modelo de inteligencia artificial (AI) depende de la calidad de sus datos de entrenamiento. Los modelos de machine learning pasan por un preprocesamiento para ayudar a garantizar que los datos estén en un formato adecuado para el entrenamiento y el rendimiento eficientes del modelo. La extracción de características es una parte crucial del flujo de trabajo de preprocesamiento.

Durante el proceso de extracción, los datos no estructurados se convierten en un formato más estructurado y utilizable para mejorar la calidad de los datos y la interpretabilidad del modelo. La extracción de características es un subconjunto de la ingeniería de características, el proceso más amplio de creación, modificación y selección de características dentro de los datos sin procesar para optimizar el rendimiento del modelo.  

Desde las primeras investigaciones en el reconocimiento de patrones, se han estudiado nuevos métodos y técnicas para emplear un método heurístico para extraer las características más relevantes de un conjunto de datos utilizando IA.¹ A medida que avanzaba la investigación, los autocodificadores se utilizaban tradicionalmente para la reducción de la dimensionalidad para el aprendizaje de características.²

Es difícil trabajar con los datos cuando el número de características o covariables supera el número de puntos de datos independientes. Este tipo de datos se consideran datos de alta dimensión.³ La extracción de características puede considerarse una técnica de reducción de ^{dimensionalidad. 4}

Esto es crucial cuando se trabaja con grandes conjuntos de datos o conjuntos de datos de múltiples modalidades. Cuantas más características extraídas deba gestionar el modelo, menos competente y eficaz será.⁵ Las tareas comunes que dependen de la extracción eficiente de características incluyen el procesamiento de imágenes, el procesamiento de lenguaje natural (PLN) y el procesamiento de señales. 

La reducción de dimensionalidad es una técnica de ciencia de datos utilizada en el paso de preprocesamiento en el machine learning.⁶ Durante este proceso, los datos irrelevantes y redundantes se eliminan mientras se conserva la información relevante del conjunto de datos original.

Las características se pueden considerar como los atributos de un objeto de datos. Por ejemplo, en un conjunto de datos de animales, se esperarían algunas características numéricas (edad, altura, peso) y características categóricas (color, especie, raza). La extracción de características forma parte de la arquitectura de Neural Networks del modelo, como una Neural Networks convolucional (CNN).

Primero, el modelo toma datos de entrada, luego el extractor de características transforma los datos en una representación numérica que se puede usar para calcular los métodos de reducción de dimensionalidad para la extracción de características. Estas representaciones se almacenan en vectores de características para que el modelo realice algoritmos para la reducción de datos. 

Después de la extracción, a veces es necesario estandarizar los datos mediante la normalización de característica, especialmente cuando se utilizan ciertos algoritmos que son sensibles a la magnitud y escala de las variables (algoritmos de descenso basados en gradientes, k-means clúster).

Se pueden seguir diferentes métodos para lograr ciertos resultados dependiendo de las tareas.

Todos los métodos buscan simplificar los datos preservando la información más valiosa. La mayoría de los modelos modernos de IA realizan la extracción automática de características, pero sigue siendo útil comprender las diversas formas de manejarla. Estos son algunos métodos comunes de extracción de características utilizados para la dimensión:

Análisis de componentes principales (PCA): esta técnica reduce el número de características en grandes conjuntos de datos a componentes principales o nuevas características que utilizará el clasificador del modelo para sus tareas específicas.

PCA es popular debido a su capacidad para crear datos originales que no están correlacionados, lo que significa que las nuevas dimensiones que crea PCA son independientes entre sí.⁷ Esto convierte a PCA en una solución eficiente para el sobreajuste debido a la falta de redundancia de datos porque cada característica es única.   
 
Análisis discriminante lineal (LDA): Esta técnica se utiliza comúnmente en el aprendizaje automático supervisado para separar múltiples clases y característica para resolver problemas de clasificación.

Esta técnica se utiliza comúnmente para optimizar los modelos de machine learning. Los nuevos puntos de datos se clasifican utilizando estadísticas bayesianas para modelar la distribución de datos para cada clase. 

Incorporación de vecinos estocásticos distribuidos en T (t-SNE): esta técnica de machine learning se aplica comúnmente a tareas como la visualización de características en el aprendizaje profundo.⁸ Esto es especialmente útil cuando la tarea es renderizar visualizaciones de datos de alta dimensión en 2D o 3D.

Esto se usa comúnmente para analizar patrones y relaciones en la ciencia de datos. Debido a su naturaleza no lineal, t-SNE es costoso desde el punto de vista informático y, por lo general, solo se utiliza para tareas de visualización.

Frecuencia de términos-Frecuencia inversa del documento (TF-IDF): este método estadístico evalúa la importancia de las palabras en función de la frecuencia con la que aparecen. El término frecuencia en un documento específico se pondera en función de la frecuencia con la que aparece en todos los documentos de una colección o corpus.⁹ 

Esta técnica se utiliza comúnmente en NLP para clasificación, clúster y recuperación de información. Bag of words (Bag of words) es una técnica similar, pero en lugar de considerar la relevancia del término, trata efectivamente todas las palabras por igual. 

Procesamiento de imágenes y visión artificial: el proceso de extracción de características identifica y extrae las características clave de imágenes y videos. Los datos de imagen sin procesar (píxeles) se transforman en características que la máquina puede aplicar algoritmos para extraer y clasificar un nuevo conjunto de características. Por ejemplo, el histograma de gradientes orientados (HOG) es un algoritmo de extracción de características utilizado para la detección de objetos.

Procesamiento de lenguaje natural: La extracción de características convierte los datos de texto sin procesar en una estructura de formato que el modelo de machine learning puede procesar. Esto es útil para tareas como la clasificación, el análisis de sentimientos o el reconocimiento de entidades nombradas (NER). Esta técnica se puede aplicar en todas las industrias, en interfaces de chat e incluso en el estado. Esta investigación sugiere que la extracción de características ayuda en el reconocimiento multimodal de emociones para monitorear la salud del paciente.¹⁰

Procesamiento de señales: esta técnica se utiliza para analizar y extraer información significativa de datos de señales sin procesar (audio, imágenes o incluso datos de series temporales) para facilitar tareas como la clasificación, la detección o la predicción. Si bien el procesamiento de señales se asocia tradicionalmente con áreas como el reconocimiento de voz, el procesamiento de audio y el análisis de imágenes, también se puede aplicar en muchos otros dominios. Por ejemplo, en el contexto médico, se utilizan señales psicológicas, como lecturas de ECG, para detectar tendencias.¹¹