AWS aveva già annunciato nell’agosto 2026 che SageMaker AI Serverless Model Customization supporta il fine-tuning completo (FFT). Il post tecnico pubblicato da AWS il 18 novembre racconta invece esperimenti successivi sul codice: i risultati cambiano a seconda della metrica e del confronto, quindi non indicano una superiorità generale di FFT rispetto a LoRA. Avviso AWS · Esperimenti di AWS
Da quando SageMaker supporta il fine-tuning completo?
L’avviso AWS dell’agosto 2026 indica il supporto a FFT per oltre 25 modelli open source delle famiglie gpt-oss, Gemma, Llama, Nemotron e Qwen. AWS elenca quattro Region: US East (N. Virginia), US West (Oregon), Asia Pacific (Tokyo) ed Europe (Ireland). Il post del 18 novembre è un resoconto tecnico successivo, non il primo annuncio della disponibilità.
Che cosa gestisce SageMaker serverless?
Il servizio gestisce l’allocazione delle risorse di calcolo e i checkpoint; chi avvia l’addestramento fornisce il modello di base, il dataset e gli iperparametri. «Serverless» descrive dunque la gestione dell’infrastruttura, non il metodo con cui vengono aggiornati i pesi del modello.
Che cosa cambia tra FFT e LoRA?
Con FFT si aggiornano tutti i parametri del modello. LoRA lascia fermi i pesi preaddestrati e apprende matrici di adattamento a basso rango. La differenza riguarda quindi l’ampiezza dell’aggiornamento, non la modalità con cui SageMaker gestisce il lavoro.
| Metodo | Pesi aggiornati | Struttura dell’adattamento |
| FFT | Tutti i parametri del modello | Aggiornamento diretto dei pesi |
| LoRA | I pesi preaddestrati restano fissi | Apprendimento di matrici di adattamento a basso rango |
La documentazione AWS descrive anche i compromessi operativi: FFT richiede più risorse di calcolo e tempo di addestramento rispetto a LoRA e produce artefatti più grandi; evita però il sovraccarico degli adattatori durante l’inferenza. AWS indica inoltre che i modelli personalizzati con FFT non supportano ulteriori personalizzazioni. Documentazione AWS sul fine-tuning completo
Che cosa mostrano gli esperimenti di AWS sul codice?
AWS ha confrontato FFT e LoRA con supervised fine-tuning di Qwen3-4B, usando gli stessi prompt, target e codice di valutazione. Il dataset Magicoder-Evol-Instruct-110K comprendeva 110.000 esempi: 99.000 per l’addestramento, 5.500 per la validazione e 5.500 per il test.
Le valutazioni coprivano aspetti diversi. Amazon Nova Pro era usato come giudice per la correttezza semantica; PRIMECODE misurava la somiglianza del codice con BLEU, ROUGE-1/2/L e F1; MMLU valutava conoscenze in 57 materie accademiche.
Nel risultato riportato per tre epoche, AWS ha ottenuto il 90,0% di correttezza semantica. In un confronto distinto basato su LLM-as-Judge, AWS ha riportato l’81,5% per LoRA e il 79,5% per FFT. Sono risultati di confronti diversi, non due misure della stessa prova: il dato più alto di un singolo test non basta a stabilire quale metodo funzioni meglio in generale.
Quale rischio emerge dai test di AWS?
Nei suoi esperimenti, AWS riferisce che sia FFT sia LoRA hanno ottenuto risultati inferiori al modello di base nel test MATH con corrispondenza esatta. Con tassi di apprendimento FFT pari o superiori a 5e-5, i risultati riportati sono stati del 2–3% su MATH e del 3,6% su MMLU.
Tra le configurazioni provate, AWS indica un tasso di apprendimento di 2e-5, una dimensione globale del batch pari a 8 e un warmup del 5% come combinazione che ha preservato meglio le conoscenze generali misurate da MMLU. AWS precisa che le impostazioni efficaci dipendono dall’attività: quei valori descrivono i suoi esperimenti, non una configurazione universale.