Amazon prova a rendere più facile scegliere i propri chip AI, intervenendo sul software che gli sviluppatori utilizzano già. Il 19 ottobre ha annunciato TorchNeuron, uno strumento che, secondo la società, permette di eseguire codice PyTorch su AWS Trainium cambiando una configurazione, senza riscrivere il programma. Il rilascio open source è previsto per il 20 ottobre, alla PyTorch Conference North America.
Per le azioni Amazon l’aggancio è la competitività di AWS: ridurre il lavoro necessario per provare un processore diverso può favorire l’utilizzo dell’infrastruttura proprietaria. Non equivale però a un aumento dei ricavi già acquisito né dimostra che ogni applicazione sarà più economica. La novità commerciale va letta insieme ai costi di migrazione, alle prestazioni e alla disponibilità della capacità di calcolo.
Che cosa cambia con TorchNeuron
Nell’annuncio ufficiale di Amazon, il supporto riguarda Trainium2 e Trainium3 e il software sarà distribuito sotto licenza Apache 2.0. PyTorch è un framework, ossia un insieme di strumenti per costruire e addestrare modelli AI: non è il chip e non coincide con un servizio cloud.
TorchNeuron collega questo ambiente ai processori Trainium. Amazon descrive una dimostrazione nella quale lo stesso programma di addestramento viene eseguito su hardware diverso cambiando l’impostazione del dispositivo. La società cita inoltre utilizzi iniziali da parte di Cartesia e del Lieber Institute for Brain Development. Sono esempi di adozione comunicati dal fornitore, non una misura completa della diffusione del prodotto.
Il costo che non compare nel prezzo del chip
Quando un’impresa valuta un’infrastruttura AI, il conto non comprende soltanto la tariffa oraria del server. Occorre aggiungere il tempo dei tecnici per adattare il codice, verificare i risultati, individuare errori e mantenere il sistema. Un prezzo di calcolo inferiore può perdere attrattiva se richiede mesi di lavoro preliminare.
La promessa di TorchNeuron interviene su questo costo iniziale. Se il programma funziona con modifiche limitate, diventa più semplice effettuare un confronto economico fra le alternative. Eseguire il codice, ottenere gli stessi risultati e spendere meno restano però tre condizioni differenti. Un software compatibile può aver bisogno di ottimizzazioni per sfruttare appieno un nuovo processore.
Un esempio illustrativo: con 100.000 euro di costo iniziale di migrazione e un risparmio netto di 10.000 euro al mese, il recupero richiede dieci mesi. Se gli strumenti riducessero il costo iniziale a 20.000 euro, a parità di risparmio il tempo scenderebbe a due mesi. Non sono dati di TorchNeuron: mostrano perché ridurre l’attrito tecnico può cambiare una decisione di acquisto anche senza modificare il prezzo dell’hardware.
Come potrebbe incidere sui margini di AWS
Per Amazon lo scenario favorevole combina più utilizzo di Trainium, maggiore occupazione dei server e capacità di attrarre nuovi carichi di lavoro. Progettare chip propri può offrire più controllo sulle caratteristiche dell’infrastruttura, ma comporta anche ricerca, sviluppo, produzione e investimenti nei data center.
Il margine dipende quindi dal rapporto fra costi complessivi e ricavi ottenuti. Se parte del beneficio viene trasferita ai clienti con prezzi più bassi, il risultato potrebbe essere crescita dei volumi anziché un incremento immediato della redditività percentuale. Se l’adozione resta limitata, gli investimenti continuano a pesare senza un corrispondente aumento dell’utilizzo.
La concorrenza con Nvidia si gioca anche negli strumenti
Un ecosistema software familiare rende più semplice restare su una piattaforma. Strumenti che facilitano il passaggio possono aumentare la possibilità di confronto e il potere negoziale del cliente. Questo non implica che i processori siano intercambiabili in ogni impiego: memoria, reti, disponibilità e assistenza continuano a incidere sulla scelta.
Per valutare l’effetto sul titolo Amazon, i segnali più utili saranno l’adozione dopo il rilascio, i risparmi misurati sui carichi reali e il contributo alla crescita redditizia di AWS. L’annuncio migliora le condizioni per provare Trainium; la prova economica sarà convertire quella facilità in utilizzo ricorrente, senza confondere il software open source con capacità di calcolo gratuita.
