Amazon Web Services (AWS) kündigte am 22. Oktober 2026 die SageMaker Training Session APIs an. Sie lassen Entwickler eigene Trainingsschleifen in Python schreiben, während Amazon SageMaker AI den Betrieb der GPU-Sitzungen übernimmt. Das Modell bleibt über mehrere API-Aufrufe hinweg geladen. Der Ansatz gibt Teams mehr Kontrolle über ihre Trainingslogik, ohne dass sie einen GPU-Cluster betreiben müssen.
Was Entwickler steuern und AWS übernimmt
Eine Trainingsschleife legt fest, in welcher Reihenfolge ein Modell Daten verarbeitet, Antworten erzeugt und anhand von Fehlern oder Belohnungen angepasst wird. Bei den Training Session APIs schreiben Entwickler diese Logik selbst; AWS kümmert sich um die GPU-Infrastruktur und die verteilte Ausführung.
Im Python-SDK sind drei Clients vorgesehen: ServiceClient zum Erstellen, Auflisten und Beenden von Sitzungen, TrainingClient für Trainingsoperationen und SamplingClient für die Generierung und Bewertung von Antworten. Zu den möglichen Aufrufen gehören sample(), forward_backward() und optim_step(). Vereinfacht gesagt: sample() lässt das Modell Antworten erzeugen, forward_backward() berechnet den Trainingsschritt und optim_step() wendet die Optimierung an.
Die Daten, die Trainingsschleife und bei Reinforcement Learning auch Umgebung, Agent und Belohnungslogik bleiben Aufgaben des Entwicklers. AWS beschreibt als verwaltete Aufgaben unter anderem das Bereitstellen der GPUs, die verteilte Ausführung, den Gradientenabgleich, die Fehlerbehandlung und die Unterstützung von Checkpoints.
Was CreateTrainingSession voraussetzt
Der direkte Service-Aufruf CreateTrainingSession benötigt fünf Felder: LoraConfig, ModelConfig, OutputConfig, RoleArn und TrainingSessionName. Bei Erfolg gibt die API eine TrainingSessionArn zurück. Die IAM-Rolle muss auf den angegebenen S3-Ausgabepfad und die Modellpaketgruppe zugreifen können. Die AWS-API-Referenz zu CreateTrainingSession führt die einzelnen Felder auf.
Dieser direkte API-Aufruf ist vom SDK-Ablauf zu unterscheiden: Das SDK-Beispiel erstellt den Trainingsclient über ServiceClient.create_lora_training_client. Die beiden Wege beschreiben unterschiedliche Schnittstellen für die Einrichtung einer Sitzung.
Welche Modelle in welchen AWS-Regionen aufgeführt sind
AWS nennt für die Training Session APIs folgende Modell- und Regionskombinationen:
| Basismodell | Aufgeführte AWS-Regionen |
openai/gpt-oss-20b | us-east-1, us-west-2, ap-south-1 |
google/gemma-4-31B-it | us-west-2, ap-south-1 |
Qwen/Qwen3.6-27B | us-west-2, ap-south-1 |
Qwen/Qwen3.8-27B | us-west-2 |
Die Zuordnung gilt je Modell, nicht pauschal für alle aufgeführten Modelle in jeder Region. AWS nennt außerdem ein Standardlimit von zwei gleichzeitig laufenden Fine-Tuning-Sitzungen. Das Kontingent lässt sich anpassen. Die AWS-Anleitung zu Training Session APIs enthält die Modell- und Regionsliste sowie die Kontingentangabe.
Welche Token-Kategorien in die Abrechnung eingehen
AWS führt Prefill-, Sample- und Train-Token als Abrechnungsdimensionen auf. Vereinfacht stehen sie für die Verarbeitung der Eingabe, die erzeugten Antworten und die Trainingsverarbeitung. Bei lokal ausgeführter Belohnungsberechnung fällt laut AWS während dieser Arbeit keine GPU-Zeit an.
Wie sich die SageMaker-Optionen unterscheiden
AWS ordnet die vier SageMaker-Optionen nach der Kontrolle über das Training und dem Aufwand für die Infrastruktur ein:
| SageMaker-Option | Kontrolle über das Training | Infrastrukturmodell |
| Serverless Model Customization | Modell, Hyperparameter und Daten auswählen | Serverlos; keine Instanz auswählen |
| Training Session APIs | Eigene Trainingsschleife und einzelne Operationen festlegen | Serverlose GPU-Sitzungen; kein Clusterbetrieb |
| SageMaker Training Jobs | Volle Kontrolle innerhalb eines eingereichten Jobs | Verwaltete, kurzlebige Jobs; Nutzer wählen den Instanztyp |
| SageMaker HyperPod | Volle Kontrolle über das Training | Verwaltete, dauerhafte Cluster mit erweiterter Fehlerbehandlung |
Wer vor allem ein Modell mit verfügbaren Hyperparametern und eigenen Daten anpassen möchte, kann mit Serverless Model Customization mehr Algorithmusarbeit an den Dienst abgeben. Training Session APIs passen zu eigenen Trainingsverfahren, wenn der Betrieb eines GPU-Clusters vermieden werden soll. Training Jobs und HyperPod bieten laut AWS volle Trainingskontrolle, setzen aber unterschiedliche Infrastrukturmodelle voraus.
Was AWS’ Beispielresultate aussagen
AWS berichtet für sein GSM8K-Beispiel, dass ein Lauf mit GPT-OSS 20B nach zehn Trainingsschritten mit 40 Aufgaben eine Genauigkeit von 75 Prozent auf zurückgehaltenen Aufgaben erreichte; zuvor lag sie bei 56 Prozent.
Für einen Code-RL-Lauf mit GPT-OSS 20B und LoRA nennt AWS 50 Schritte, 128 Aufgaben pro Schritt, acht Antworten je Aufgabe, zwei Dialogrunden und die Staleness-Grenze k=3. Dabei stieg der Reward laut AWS von 0,46 auf 0,60. Auf 200 zurückgehaltenen Aufgaben erhöhte sich die Genauigkeit laut AWS von 40 auf 50,5 Prozent.
