AWS kondigde op 22 oktober 2026 de SageMaker training-session-API’s aan: daarmee schrijf je zelf een Python-trainingslus, terwijl Amazon SageMaker AI de GPU-infrastructuur beheert. Zo bepaal je de trainingslogica zonder zelf een GPU-cluster te kiezen of te beheren.
Een trainingssessie is een stateful GPU-omgeving waarin het model tussen API-aanroepen geladen blijft. Je schrijft nog steeds de code en levert de benodigde configuratie, data en toegangsrechten aan.
Welke onderdelen beheer je zelf?
Met de API’s bouw je de trainingslus op uit afzonderlijke bewerkingen. In het SageMaker Python SDK lopen de stappen via ServiceClient, TrainingClient en SamplingClient: de eerste beheert sessies, de tweede voert trainingsbewerkingen uit en de derde verzorgt generatie en scoring.
Een lus kan bijvoorbeeld sample() gebruiken om antwoorden te genereren, forward_backward() om een trainingsstap met voorwaartse en terugwaartse berekening uit te voeren, en optim_step() om de modelgewichten bij te werken. Je bepaalt zelf hoe die stappen samenhangen en levert onder meer de data, het algoritme en, bij reinforcement learning, de beloningslogica aan. Reinforcement learning is een trainingsmethode waarbij een model leert op basis van beloningen voor zijn antwoorden.
SageMaker AI beheert de GPU-provisioning en verdeelde uitvoering. AWS beschrijft ook het laden van het model en LoRA, synchronisatie van gradiënten, herstel bij storingen en ondersteuning voor checkpoints als beheerde taken. LoRA is een methode om een model aan te passen met een kleinere set trainbare parameters.
Wat vraagt de directe API?
De SDK-gemaksroute en de directe service-API zijn verschillende manieren om een sessie te starten. De SDK-voorbeeldroute gebruikt onder meer ServiceClient.create_lora_training_client; de directe CreateTrainingSession-aanroep heeft een eigen aanvraagcontract.
De AWS API-referentie voor CreateTrainingSession noemt vijf verplichte velden: LoraConfig, ModelConfig, OutputConfig, RoleArn en TrainingSessionName. Bij een geslaagde aanvraag geeft de API een TrainingSessionArn terug. Het IAM-role moet toegang hebben tot het S3-uitvoerpad en de model package group. Optionele velden zijn ModelPackageGroupArn, Tags en VpcConfig.
Welke modellen en AWS-regio’s staan vermeld?
AWS koppelt de ondersteunde basismodellen aan specifieke regio’s. Een AWS-regio is de locatie van de clouddiensten, niet een aanduiding van beschikbaarheid in Nederland.
| Basismodel | Vermelde AWS-regio’s |
openai/gpt-oss-20b | us-east-1, us-west-2, ap-south-1 |
google/gemma-4-31B-it | us-west-2, ap-south-1 |
Qwen/Qwen3.6-27B | us-west-2, ap-south-1 |
Qwen/Qwen3.8-27B | us-west-2 |
De AWS-gids voor training-session-API’s vermeldt standaard een maximum van twee gelijktijdige fine-tuningsessies. AWS zegt dat deze quota kan worden aangepast. Een actieve sessie telt mee totdat die wordt gestopt of verloopt.
Welke tokenverwerking telt mee voor de facturering?
AWS noemt drie factureringsdimensies: prefill-tokens, sample-tokens en train-tokens. Die slaan respectievelijk op de verwerking voorafgaand aan het genereren, het genereren van voorbeelden en de training. Tijdens lokale berekening van beloningen wordt geen GPU-tijd gebruikt; die berekening hoort bij de code die je zelf uitvoert.
Hoe verhouden de SageMaker-opties zich tot elkaar?
De keuze hangt af van hoeveel controle je over de trainingslus wilt en hoeveel infrastructuur je zelf beheert. In AWS’ beschrijving bieden training sessions veel controle over de lus zonder dat je een GPU-instantietype kiest.
| SageMaker-optie | Controle over de trainingslus | Infrastructuurmodel |
| Serverless Model Customization-API’s | Je kiest een model en hyperparameters en levert data aan. | Serverless; je selecteert geen instantie. |
| Training-session-API’s | Je schrijft de lus en roept afzonderlijke trainingsbewerkingen aan. | Serverless GPU-sessies; geen clusterbeheer of instantiekeuze. |
| SageMaker Training Jobs | Volledige controle binnen een ingediende trainingsjob. | Beheerde, tijdelijke jobs; je kiest het instantietype. |
| SageMaker HyperPod | Volledige controle over de training. | Beheerde, permanente clusters met geavanceerd herstel bij storingen. |
Wie vooral een model met beschikbare hyperparameters en eigen data wil aanpassen, heeft minder reden om zelf een trainingslus te schrijven. Training sessions passen beter wanneer de volgorde en logica van de bewerkingen belangrijk zijn, maar zelf een cluster beheren niet gewenst is. Training Jobs en HyperPod bieden meer infrastructuurkeuzes, met respectievelijk een tijdelijke job en een permanent cluster.
Wat laten AWS’ voorbeeldruns zien?
AWS rapporteerde voor een GSM8K-voorbeeld met GPT-OSS 20B dat de nauwkeurigheid op achtergehouden rekenopgaven na 10 trainingsstappen op 40 problemen steeg van 56% naar 75%. Het voorbeeld gebruikte GRPO, een methode voor reinforcement learning, met een LoRA-adapter.
Voor een voorbeeld met reinforcement learning voor code rapporteerde AWS een GPT-OSS 20B-run van 50 stappen, met 128 problemen per stap, 8 antwoorden per probleem, twee beurten en staleness bound k=3. De beloningsscore steeg volgens AWS van 0,46 naar 0,60; de nauwkeurigheid op 200 achtergehouden problemen ging van 40% naar 50,5%. In dit voorbeeld werden gegenereerde Python-antwoorden lokaal in een SandboxFusion-container tegen unittests uitgevoerd. AWS rapporteerde deze cijfers als resultaten van eigen voorbeeldruns, niet als onafhankelijke benchmarks of algemene prestatiegarantie.
