AWS anunció las APIs de sesiones de entrenamiento de SageMaker

AWS anunció el 22 de octubre de 2026 las APIs de sesiones de entrenamiento de SageMaker AI. Permiten que el desarrollador escriba en Python el bucle de entrenamiento y decida qué operaciones ejecutar, mientras AWS gestiona las GPU y la ejecución distribuida.

Una sesión mantiene el modelo cargado entre llamadas. Así, el equipo controla el algoritmo sin tener que elegir ni administrar un clúster de GPU, aunque sigue teniendo que escribir y ejecutar el código y preparar los permisos y la salida del entrenamiento.

Qué controlan las APIs de sesiones

El desarrollador organiza operaciones como sample(), forward_backward() y optim_step() para construir un procedimiento de ajuste fino supervisado o de aprendizaje por refuerzo. En este contexto, una sesión con estado conserva el modelo cargado en las GPU mientras se encadenan esas llamadas.

El SDK de Python organiza el trabajo en tres clientes que se crean en secuencia: ServiceClient inicia y gestiona la sesión, TrainingClient ejecuta operaciones de entrenamiento y guardado, y SamplingClient genera respuestas y calcula probabilidades. En un bucle de aprendizaje por refuerzo, por ejemplo, el código puede pedir respuestas al modelo, calcular localmente las recompensas y enviar después las operaciones de actualización a las GPU gestionadas por SageMaker AI.

AWS gestiona el aprovisionamiento de GPU, la carga del modelo y de LoRA, la ejecución distribuida, la sincronización de gradientes, la recuperación ante fallos, el aislamiento entre usuarios y los puntos de control. El equipo conserva el control del código Python, los datos y la lógica del algoritmo, incluidas las recompensas y los entornos de aprendizaje por refuerzo.

Qué exige la API directa CreateTrainingSession

La llamada de bajo nivel CreateTrainingSession exige cinco campos: LoraConfig, ModelConfig, OutputConfig, RoleArn y TrainingSessionName. Si la solicitud se completa, devuelve un TrainingSessionArn, el identificador de la sesión.

El rol de AWS Identity and Access Management (IAM) debe tener permisos para acceder a la ruta de salida de Amazon S3 y al grupo de paquetes del modelo. ModelPackageGroupArn, Tags y VpcConfig son campos opcionales. La referencia oficial de CreateTrainingSession detalla el contrato de la solicitud.

Estos campos corresponden a la API directa. El flujo de conveniencia del SDK, en cambio, crea un cliente de entrenamiento con una llamada como ServiceClient.create_lora_training_client; son dos formas relacionadas de iniciar el trabajo, no la misma interfaz.

Modelos, regiones y sesiones simultáneas

AWS enumera cuatro modelos base con disponibilidad en regiones de AWS específicas. El máximo predeterminado es de dos sesiones simultáneas de ajuste fino, y AWS indica que esa cuota se puede modificar.

La guía oficial de las APIs de sesiones recoge estas combinaciones. Una sesión activa cuenta para la cuota hasta que se detiene o caduca, así que conviene cerrar la sesión cuando termina el trabajo.

Qué cubre la facturación por tokens

AWS identifica tres dimensiones de facturación: prefill, el procesamiento de los tokens de entrada; sample, los tokens que genera el modelo durante las muestras; y train, el procesamiento de entrenamiento asociado a la actualización de los pesos.

AWS también señala que el cálculo local de recompensas no consume tiempo de GPU mientras se ejecuta en el equipo del usuario. Es una distinción útil para organizar el bucle: la lógica local de evaluación no es una operación de GPU, mientras que el muestreo y las actualizaciones sí utilizan las operaciones gestionadas de la sesión.

Cómo se compara con otras opciones de SageMaker

Las opciones de SageMaker difieren en cuánto control conserva el equipo sobre el bucle y cuánto trabajo de infraestructura asume. Las sesiones de entrenamiento se sitúan entre las API administradas, que limitan el flujo a opciones predefinidas, y las alternativas que requieren elegir instancias o gestionar clústeres persistentes.

Si el objetivo es usar un procedimiento estándar con pocas decisiones sobre el algoritmo, las APIs administradas requieren menos control del bucle. Las sesiones encajan cuando el equipo necesita implementar una lógica propia sin operar la infraestructura GPU. Training Jobs y HyperPod mantienen el control del entrenamiento, pero sitúan más decisiones de infraestructura en manos del usuario.

AWS publicó dos ejemplos de resultados de entrenamiento. En su ejemplo con GSM8K, diez pasos sobre 40 problemas elevaron la precisión en problemas reservados para evaluación del 56 % al 75 %. En un ejemplo de aprendizaje por refuerzo para programación competitiva, AWS informó de una ejecución de 50 pasos con GPT-OSS 20B y LoRA de rango 32, con 128 problemas por paso, ocho respuestas por problema, dos turnos y un límite de antigüedad de política k=3. La recompensa pasó de 0,46 a 0,60 y la precisión en 200 problemas reservados pasó del 40 % al 50,5 %.