KAIST presenta tecnología para la eficiencia del aprendizaje de IA y la respuesta a la deriva de datos

Un nuevo aprendizaje desarrollado recientemente por investigadores de KAIST se centra en reducir la carga temporal del proceso de aprendizaje básico de la IA, mediante la optimización de complejos procesos de cálculo y el uso eficiente de los recursos ¹.

Clave para reducir los tiempos de entrenamiento: cálculo eficiente y gestión de datos

Esta investigación de KAIST presenta dos direcciones principales para mejorar la eficiencia del aprendizaje de los modelos de IA. Una es una tecnología de optimización de cálculos que reduce drásticamente el tiempo de entrenamiento, y la otra es un marco de gestión de datos que mantiene el rendimiento del modelo incluso en entornos de datos cambiantes.

Reducción drástica del tiempo de entrenamiento

Según los informes, el equipo de investigación de KAIST desarrolló una tecnología que reduce significativamente el tiempo de aprendizaje de los modelos de IA ¹. Esta reducción en los tiempos de entrenamiento permite a los aprendices repetir más rápidamente los ciclos de prueba-error-retroalimentación, lo que se espera que reduzca el tiempo necesario para la comprensión conceptual y la práctica en los modelos de IA.

Selección de datos de aprendizaje frente al deriva (drift) de datos

Tan importante como la eficiencia estructural del modelo es la calidad y la gestión de los cambios en los datos. El equipo del profesor Yijong Hwang, del Departamento de Ingeniería Eléctrica y Electrónica de KAIST, desarrolló una nueva tecnología de selección de datos de aprendizaje que evita la degradación del rendimiento de los modelos de IA, incluso en entornos con 'deriva' (drift), donde la distribución de los datos cambia con el tiempo ².

Normalmente, los modelos de IA asumen un entorno estático en el que la distribución de los datos durante el entrenamiento y durante las pruebas es la misma ². Sin embargo, en escenarios reales, la deriva ocurre debido a cambios continuos en las lecturas de los sensores causados por el envejecimiento del equipo o las inspecciones ². Esto provoca una discrepancia entre los criterios de decisión (frontera de decisión) del modelo entrenado previamente y los datos actuales, deteriorando el rendimiento ².

Para resolver este problema, el equipo del profesor Hwang utilizó el concepto de 'gradiente' ². El gradiente es una métrica que indica cuánto y en qué dirección se actualizan los parámetros del modelo al aprender con los datos ². Utilizando esto, el equipo propuso un marco que selecciona los datos más efectivos para el aprendizaje actual y preprocesa los propios datos para que el modelo se adapte de manera robusta a los entornos cambiantes ². Esta técnica tiene la ventaja de ser escalable sin depender de arquitecturas de modelos específicas ².

Ventajas prácticas derivadas de la mejora de la eficiencia del aprendizaje

Los dos enfoques técnicos propuestos por KAIST contribuyen a reducir el tiempo del proceso de aprendizaje de la IA y estabilizar su calidad.

1. Aceleración de la velocidad de desarrollo: la reducción del tiempo de entrenamiento acorta los ciclos de experimentación ¹. Los aprendices pueden probar más modelos variantes en el mismo tiempo, lo que ayuda a la comprensión intuitiva de los principios básicos de la IA.
2. Mayor eficiencia operativa: la tecnología de adaptación a la deriva ayuda a gestionar los ciclos de reentrenamiento tras el despliegue del modelo o a reducir los costes de reemplazo innecesarios del modelo ². Se trata de un método eficiente que puede contribuir a la reducción del costo total de propiedad (TCO) durante el mantenimiento a largo plazo de los sistemas de IA ².

Antecedentes de la investigación y aspectos a tener en cuenta

¹ hace referencia a investigaciones sobre la reducción del tiempo de aprendizaje de la IA, y los resultados del equipo del profesor Yijong Hwang mencionados en ² fueron presentados en el simposio internacional de inteligencia artificial (AAAI) celebrado en Vancouver, Canadá, en febrero pasado ².

Ambas tecnologías demuestran la posibilidad de que los modelos de IA se aprendan y operen eficazmente con menos recursos o en estados más estables. En particular, en ², el estudiante de doctorado Minsu Kim (primer autor) afirmó: "Es importante aprender bien una vez la inteligencia artificial, pero aún más importante es gestionarla continuamente y mantener su rendimiento conforme a los entornos cambiantes" ². Esto sugiere que, más allá de la simple reducción del tiempo de entrenamiento, la gestión sostenible del rendimiento de los modelos aprendidos es clave en la práctica de la IA.

Los lectores deben tener en cuenta que, al adoptar nuevos modelos de IA, no solo es importante considerar la eficiencia del tiempo de entrenamiento, sino también la robustez frente a los cambios en la distribución de los datos.