Shadow-Trainer
Motor de entrenamiento eficiente de modelos de IA bajo restricciones de memoria y cómputo.
Shadow Trainer es un sistema experimental orientado a reducir las barreras computacionales para entrenar y adaptar modelos de deep learning en hardware limitado.
El problema
Muchos equipos pueden ejecutar modelos de inteligencia artificial, pero entrenarlos o ajustarlos sigue requiriendo GPUs con grandes cantidades de memoria. Esto limita a laboratorios, universidades y equipos pequeños que ya cuentan con hardware, pero no con infraestructura de alto costo.
Qué hace
Shadow Trainer explora estrategias de optimización de memoria y cómputo para permitir entrenamientos que, de forma convencional, excederían los recursos disponibles.
El objetivo es aprovechar mejor el hardware existente y reducir la necesidad de infraestructura adicional.
Estado actual
El enfoque ya ha mostrado viabilidad inicial con STUNet, un modelo de segmentación médica 3D, en experimentos bajo restricciones de memoria.
La siguiente etapa consiste en completar entrenamientos a mayor escala y comparar de forma reproducible:
- memoria máxima utilizada;
- tiempo de entrenamiento;
- throughput;
- estabilidad;
- desempeño final del modelo.
Visión
Queremos evolucionar Shadow Trainer hacia un motor capaz de adaptar automáticamente las estrategias de entrenamiento al modelo y al hardware disponible.
Actualmente en etapa de validación técnica.