Amazon Web Services (AWS) ogłosiło 22 października 2026 r. API sesji treningowych Amazon SageMaker AI, które pozwalają programistom pisać własną pętlę treningową w sesji GPU zarządzanej przez AWS. Dzięki temu można kontrolować przebieg uczenia bez samodzielnego zarządzania klastrem GPU. Kod, konfiguracja i uprawnienia nadal pozostają po stronie programisty.

Jaką kontrolę daje sesja treningowa

Sesja jest stanowa: model pozostaje załadowany między wywołaniami API. Programista układa pętlę w Pythonie i decyduje, kiedy wywołać operacje takie jak sample(), forward_backward() i optim_step(). W uproszczeniu: to programista prowadzi eksperyment, a SageMaker AI obsługuje jego zaplecze GPU.

W opisanym przez AWS modelu programista przygotowuje dane, logikę algorytmu, środowisko i agentów do uczenia ze wzmocnieniem oraz sposób obliczania nagrody. SageMaker AI zarządza przydzielaniem GPU, ładowaniem modelu i LoRA, wykonaniem rozproszonym, synchronizacją gradientów, odzyskiwaniem po awarii i obsługą punktów kontrolnych.

W Python SDK występują trzy klienty: ServiceClient do zarządzania sesją, TrainingClient do operacji treningowych i SamplingClient do generowania odpowiedzi oraz obliczania logarytmów prawdopodobieństwa. W przepływie SDK opisanym przez AWS klient treningowy powstaje przez ServiceClient.create_lora_training_client, a klient próbkowania przez create_sampling_client(). To wygodna ścieżka SDK, odrębna od bezpośredniego wywołania usługi CreateTrainingSession.

Co przygotować do CreateTrainingSession

Bezpośrednie wywołanie CreateTrainingSession wymaga pięciu pól: LoraConfig, ModelConfig, OutputConfig, RoleArn i TrainingSessionName. Rola IAM musi mieć dostęp do wyjściowej ścieżki S3 i grupy pakietów modeli. Po pomyślnym utworzeniu sesji API zwraca TrainingSessionArn.

Pola ModelPackageGroupArn, Tags i VpcConfig są opcjonalne. Szczegóły kontraktu opisuje dokumentacja API CreateTrainingSession. Warto odróżnić te wymagania od przykładowego wywołania SDK: bezpośredni interfejs usługi ma własny zestaw pól żądania.

Modele i regiony AWS

AWS wymienia cztery modele bazowe, ale dostępność zależy od konkretnej pary modelu i regionu:

  • openai/gpt-oss-20b: us-east-1, us-west-2, ap-south-1.
  • google/gemma-4-31B-it: us-west-2, ap-south-1.
  • Qwen/Qwen3.6-27B: us-west-2, ap-south-1.
  • Qwen/Qwen3.8-27B: us-west-2.

Region AWS to lokalizacja infrastruktury AWS, a nie kraj użytkownika. Przed wyborem modelu trzeba więc dopasować go do regionu, w którym ma działać sesja. AWS podaje też domyślny limit dwóch równoczesnych sesji fine-tuningowych; limit można zmienić. Aktywna sesja obciąża ten limit do chwili jej zatrzymania lub wygaśnięcia. Pary model-region i limit opisuje przewodnik AWS po API sesji treningowych.

Jakie tokeny uwzględnia rozliczenie

AWS wymienia trzy wymiary rozliczeń za przetwarzanie tokenów: prefill, sample i train. Obliczanie nagrody lokalnie nie zużywa czasu GPU w trakcie wykonywania tej lokalnej pracy. Własna pętla daje więc kontrolę nad logiką eksperymentu, ale nadal wymaga śledzenia użycia w poszczególnych fazach.

Jak sesje wypadają na tle innych opcji SageMaker

AWS opisuje cztery opcje, które różnią się zakresem kontroli nad pętlą i ilością infrastruktury pozostającej po stronie użytkownika.

Opcja SageMakerKontrola nad pętlą treningowąModel infrastruktury
Serverless Model CustomizationWybór modelu, dostępnych hiperparametrów i danychUsługa bezserwerowa; użytkownik nie wybiera instancji
API sesji treningowychProgramista pisze pętlę i wywołuje operacje treningoweSesje GPU zarządzane przez AWS; bez zarządzania klastrem i wyboru instancji
SageMaker Training JobsPełna kontrola w ramach wysłanego zadaniaZarządzane, efemeryczne zadanie; użytkownik wybiera typ instancji
SageMaker HyperPodPełna kontrola nad treningiemZarządzany, trwały klaster z zaawansowanym odzyskiwaniem po awarii

Sesje treningowe pasują do eksperymentu wymagającego własnej logiki, gdy zespół nie chce samodzielnie obsługiwać klastra. Training Jobs dają pełną kontrolę w ramach zadania, ale wymagają wyboru typu instancji; HyperPod oznacza pracę z trwałym klastrem. Serverless Model Customization pozostawia mniej decyzji algorytmicznych po stronie programisty.

Jak czytać przykładowe wyniki AWS

W przykładzie GSM8K AWS podało, że po 10 krokach treningu na 40 zadaniach dokładność na zbiorze testowym wzrosła z 56% do 75%. W przykładzie Code RL z modelem GPT-OSS 20B i adapterem LoRA o randze 32 AWS raportowało wzrost wyniku nagrody z 0,46 do 0,60 oraz dokładności na 200 zadaniach testowych z 40% do 50,5%. Ten przebieg obejmował 50 kroków, 128 zadań na krok, osiem odpowiedzi na zadanie, dwie tury i ograniczenie nieaktualności k=3.

Są to wyniki konkretnych przykładów treningowych opisanych przez AWS. Przy planowaniu własnego eksperymentu istotne pozostają jego własny zestaw danych, logika nagrody i konfiguracja pętli.