A AWS anunciou em 22 de outubro de 2026 as APIs de sessões de treinamento do Amazon SageMaker AI, que permitem criar loops de treinamento personalizados em Python enquanto o serviço gerencia as operações de GPU. O desenvolvedor continua responsável pelo código, pelos dados e pela configuração da sessão; a proposta é dispensar a operação de um cluster de GPUs próprio.
Isso dá mais controle sobre o algoritmo do que um fluxo de personalização gerenciado, sem exigir que o usuário escolha e administre as instâncias de GPU. Para avaliar um protótipo, porém, é preciso conferir o contrato da API direta, as permissões, a região compatível com o modelo e o limite de sessões simultâneas.
O que fica sob controle do desenvolvedor
Uma sessão de treinamento mantém o modelo carregado entre chamadas da API. O desenvolvedor organiza o loop em Python e decide quando executar operações como sample(), forward_backward() e optim_step(). Elas permitem, respectivamente, gerar respostas, calcular a etapa de treinamento e atualizar os parâmetros do modelo.
No SDK Python, o fluxo descrito pela AWS passa por ServiceClient, TrainingClient e SamplingClient. O primeiro controla operações da sessão; os outros apoiam o loop de treinamento e a geração de respostas. Na prática, o código do desenvolvedor coordena dados, lógica de recompensa e etapas do algoritmo, enquanto o SageMaker AI gerencia o processamento nas GPUs, a execução distribuída e a sincronização de gradientes.
Essa divisão aparece no exemplo de aprendizado por reforço para programação da AWS. O código gerado é executado localmente contra testes unitários em um contêiner SandboxFusion, e o loop usa os resultados para calcular recompensas. O trabalho local de pontuação não consome tempo de GPU enquanto está sendo executado; as operações de amostragem e treinamento, por sua vez, usam as GPUs gerenciadas pelo SageMaker AI.
O que a API direta exige
A chamada de baixo nível CreateTrainingSession exige cinco campos: LoraConfig, ModelConfig, OutputConfig, RoleArn e TrainingSessionName. A função IAM informada em RoleArn precisa ter acesso ao caminho de saída no Amazon S3 e ao grupo de pacotes de modelos. Quando a criação é bem-sucedida, a API retorna um TrainingSessionArn.
ModelPackageGroupArn, Tags e VpcConfig são campos opcionais. Esses requisitos pertencem à API direta. O exemplo do SDK usa uma chamada de conveniência, ServiceClient.create_lora_training_client, que não deve ser confundida com o conjunto de campos exigido por CreateTrainingSession. A referência oficial da API detalha os campos e o retorno.
Modelos compatíveis e limite de sessões
A AWS lista estes pares de modelo e região para as sessões de treinamento:
| Identificador do modelo | Regiões AWS listadas |
openai/gpt-oss-20b | us-east-1, us-west-2, ap-south-1 |
google/gemma-4-31B-it | us-west-2, ap-south-1 |
Qwen/Qwen3.6-27B | us-west-2, ap-south-1 |
Qwen/Qwen3.8-27B | us-west-2 |
A disponibilidade é específica para cada combinação. A região indicada é uma região da AWS, não o país de quem desenvolve o modelo. O guia da AWS também define um limite padrão de duas sessões simultâneas de fine-tuning, com possibilidade de ajuste da quota. A documentação de sessões de treinamento reúne as combinações de modelos e regiões e as condições do serviço.
Como a cobrança acompanha o uso
A AWS identifica três dimensões de cobrança por processamento de tokens: prefill, que processa o contexto de entrada; sample, ligado às respostas geradas; e train, associado ao treinamento. No exemplo de aprendizado por reforço, a pontuação de recompensas feita localmente não consome tempo de GPU enquanto esse trabalho local ocorre.
Qual opção do SageMaker combina com cada nível de controle
As opções diferem pelo controle do loop de treinamento e pela infraestrutura que o usuário precisa administrar:
| Opção do SageMaker | Controle do treinamento | Modelo de infraestrutura |
| APIs gerenciadas do Serverless Model Customization | Escolher um modelo, hiperparâmetros disponíveis e dados | Sem servidor; não exige selecionar instâncias |
| APIs de sessões de treinamento | Escrever o loop e chamar operações de treinamento | Sessões de GPU sem servidor, gerenciadas pela AWS |
| SageMaker Training Jobs | Controle completo do treinamento dentro de um job enviado | Jobs gerenciados e temporários; o usuário seleciona o tipo de instância |
| SageMaker HyperPod | Controle completo do treinamento | Clusters persistentes gerenciados, com recuperação avançada de falhas |
As sessões atendem a quem precisa definir a lógica do treinamento, mas não quer escolher nem operar o cluster de GPU. O Serverless Model Customization deixa mais decisões algorítmicas a cargo do serviço; Training Jobs e HyperPod oferecem controle amplo com responsabilidades diferentes sobre a infraestrutura.
O que mostram os exemplos da AWS
No exemplo de matemática GSM8K, a AWS relata que 10 etapas de treinamento com 40 problemas elevaram a acurácia em questões reservadas para avaliação de 56% para 75%.
Em outro exemplo, de aprendizado por reforço para programação, a AWS relata uma execução de 50 etapas com GPT-OSS 20B e LoRA de rank 32. Cada etapa usou 128 problemas, com oito respostas por problema, duas interações e limite de defasagem k=3. A recompensa passou de 0,46 para 0,60, e a acurácia em 200 problemas reservados para avaliação foi de 40% para 50,5%. Esses números descrevem as execuções de exemplo relatadas pela AWS.
