Anat Ashkenazi, direttrice finanziaria di Google, ha previsto una crescita significativa dei ricavi dalle vendite di TPU nel 2027, secondo quanto riferito da Business Insider sui commenti della conference call sui risultati del terzo trimestre del 28 ottobre. Nello stesso resoconto, Thomas Kurian, a capo di Google Cloud, ha definito le vendite di TPU un contributo significativo ai risultati del trimestre.

Il 27 ottobre Google e Oracle avevano annunciato separatamente l’accesso ai TPU attraverso Oracle Cloud Infrastructure (OCI) nel corso del 2027, con una capacità destinata a crescere nell’arco di più anni.

Il piano per portare i TPU su OCI

L’accordo prevede che Google offra i propri acceleratori TPU tramite OCI. Oracle fornirà l’alimentazione, il raffreddamento e la rete dei data center necessari all’infrastruttura.

Per chi vuole capire come i TPU potranno essere usati fuori dal cloud di Google, la novità è la possibilità prevista di accedervi attraverso OCI. Le società indicano il 2027 come anno di avvio del servizio e parlano di un’espansione graduale su più anni.

TPU 8t e TPU 8i: addestramento e inferenza

Google e Oracle hanno associato due modelli di ottava generazione a ruoli diversi: TPU 8t all’addestramento dei modelli e TPU 8i all’inferenza, cioè l’elaborazione delle richieste da parte di un modello già addestrato.

ModelloRuolo annunciato
TPU 8tAddestramento
TPU 8iInferenza

I carichi di lavoro citati comprendono addestramento e post-addestramento di modelli di grandi dimensioni, inclusi quelli densi e quelli basati su una miscela di esperti (Mixture of Experts). Per l’inferenza in produzione, l’annuncio menziona applicazioni di ragionamento, basate su agenti e con contesti lunghi.

Google afferma che TPU 8t raggiunge quasi tre volte le prestazioni di calcolo per pod della generazione precedente. Il dato riguarda le prestazioni per pod, l’insieme di acceleratori e componenti di calcolo usato come unità di riferimento nel confronto.