AWS meldde in augustus 2026 dat SageMaker AI Serverless Model Customization full fine-tuning (FFT) ondersteunt voor meer dan 25 open-source modellen. De technische blog die AWS op 18 november publiceerde, beschrijft latere proeven met FFT en LoRA; die resultaten zijn geen algemene garantie dat één methode beter presteert. AWS’ aankondiging noemt modellen uit de families gpt-oss, Gemma, Llama, Nemotron en Qwen.

Welke AWS-regio’s staan in de aankondiging?

AWS noemt US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) en Europe (Ireland). De aankondiging zegt daarmee waar AWS deze functie noemt; ze geeft geen afzonderlijk overzicht van beschikbaarheid per land.

Wat verandert serverless aan het fine-tunen?

Donkere Engelstalige SageMaker-interface met trainingsgegevens, de status ‘Completed’ en grafieken voor trainings- en validatieverlies.

Serverless betekent hier dat SageMaker de toewijzing van rekenkracht en het beheer van checkpoints regelt. De gebruiker geeft het basismodel, de dataset en de hyperparameters op. Het verandert niet welke modelgewichten de gekozen fine-tuningmethode aanpast.

FFT werkt alle modelparameters bij. LoRA (Low-Rank Adaptation) houdt de vooraf getrainde gewichten vast en traint in plaats daarvan kleine, laag-rangige aanpassingsmatrices. Dat is het technische verschil tussen de methoden; de serverless dienst neemt het beheer van de rekenomgeving uit handen.

MethodeGewichten die worden aangepastOpzet van de aanpassing
FFTAlle modelparametersHet model wordt volledig verder getraind
LoRADe vooraf getrainde gewichten blijven bevrorenLaag-rangige aanpassingsmatrices worden getraind

Wat laten AWS’ codeproeven zien?

In de technische blog beschrijft AWS een vergelijking van supervised fine-tuning op Qwen3-4B. Voor FFT en LoRA gebruikte AWS dezelfde prompts, doeluitvoer en evaluatiecode. De dataset Magicoder-Evol-Instruct-110K was verdeeld in 99.000 trainingsrecords, 5.500 validatierecords en 5.500 apart gehouden testrecords. AWS beschrijft de opzet en resultaten.

AWS rapporteert voor één codeproef een score van 90,0% voor semantische correctheid na drie epochs. In een afzonderlijke vergelijking met een LLM als beoordelaar scoorde LoRA 81,5% en FFT 79,5%. Die twee uitkomsten horen bij verschillende vergelijkingen; ze vormen samen geen enkelvoudige ranglijst.

De evaluaties meten bovendien verschillende zaken. AWS gebruikte Amazon Nova Pro als LLM-beoordelaar voor logische correctheid. PRIMECODE beoordeelde codeovereenkomst met BLEU-, ROUGE- en F1-maten. MMLU, met vragen uit 57 academische vakgebieden, diende om het behoud van algemene kennis te meten. Een hoge score op één maatstaf zegt dus niet op zichzelf hoe een methode op de andere uitvalt.

Beoordeel fine-tuning op de taak en de maatstaven die voor jouw model tellen, niet op één los percentage.

Wat gebeurde er met kennisbehoud?

In AWS’ proeven scoorden zowel FFT als LoRA lager dan het basismodel op exact-match-vragen uit MATH. Bij FFT-leersnelheden van ten minste 5e-5 rapporteerde AWS MATH-scores van 2–3% en een MMLU-nauwkeurigheid van 3,6%. Dat zijn uitkomsten uit deze experimenten, geen voorspellingen voor andere modellen of datasets.

Van de geteste instellingen behield een leersnelheid van 2e-5, een globale batchgrootte van 8 en een opwarmfase van 5% volgens AWS de meeste algemene kennis op MMLU. AWS benadrukt dat bruikbare instellingen afhangen van de taak.