Blog

May 25, 2023

Jetson ottiene una spinta missilistica: mani

It's been six months since NVIDIA's Jensen Huang took to the stage at the GPU

Sono passati sei mesi da quando Jensen Huang di NVIDIA è salito sul palco della GPU Technology Conference (GTC) '22 e ha presentato il sistema su modulo (SOM) Jetson Orin Nano ad alte prestazioni e basso consumo, mirato all'intelligenza artificiale (AI) a il bordo. Ora è il GTC '23 e Huang è tornato sul palco, questa volta lanciando il bundle Jetson Orin Nano Developer Kit con disponibilità immediata.

Offrendo prestazioni dichiarate "80 volte" superiori a quelle del Jetson Nano, il nuovo Jetson Orin Nano è progettato per portare l'architettura dell'unità di elaborazione grafica (GPU) Orin di ultima generazione dell'azienda al livello base, ma sarà in grado di mantenere le alte promesse dell'azienda?

Il Jetson Orin Nano SOM è attualmente disponibile in due versioni, una delle quali ha effettivamente la metà delle prestazioni dell'altra. Il Jetson Orin Nano 4GB entry-level ha, come suggerisce il nome, 4 GB di memoria LPDDR5 con larghezza di banda di 32 GB/s, una CPU Arm Cortex-A78AE a sei core che funziona fino a 1,5 GHz e una GPU Orin con 512 core CUDA e 16 core tensoriali che offrono 20 tera-operazioni al secondo (TOPS) dichiarate di calcolo INT8. Il Jetson Orin Nano 8GB, al contrario, raddoppia sia la capacità che la larghezza di banda della memoria integrata, nonché il numero di core CUDA e Tensor core nella GPU, ma lascia sola la CPU, offrendo 40 TOPS dichiarati.

Per coloro che desiderano acquistare il kit per sviluppatori, la differenza è discutibile: è disponibile solo con Jetson Orin Nano da 8 GB pre-aggregato. La scheda portante, in cui il SOM è stato facilmente preinstallato, tecnicamente accetterà SOM o anche uno dei SOM Jetson Orin NX di fascia alta, ma anche questo è discutibile, poiché non è possibile acquistare la scheda portante al di fuori di il pacchetto del kit per sviluppatori.

La stessa scheda portante compatta presenta le caratteristiche più essenziali del Jetson Orin Nano SOM. C'è una singola uscita video DisplayPort 1.2, quattro porte USB 3.2 Gen. 2 Type-A, una porta Gigabit Ethernet e una porta USB Type-C, non per l'alimentazione, che viene gestita tramite un alimentatore da 45 W in bundle e un jack CC, ma per il debug e il funzionamento del dispositivo USB.

A sinistra delle porte principali ci sono due porte MIPI Camera Serial Interface (CSI) a 22 pin, che possono essere utilizzate al posto o in aggiunta alle fotocamere USB. A destra c'è un header GPIO (Input/Output per uso generale) a 40 pin popolato che include il supporto UART, SPI, I2C, I2S e la modulazione di larghezza di impulso (PWM). C'è anche un connettore PWM a velocità controllata per il dissipatore di calore e la ventola in bundle, insieme a un connettore a 12 pin per il controllo dei pulsanti esterni, posizionato in modo un po' scomodo sotto il bordo superiore del SOM.

Capovolgi la scheda e troverai le sue ultime opzioni di espansione: uno slot microSD nascosto quasi invisibilmente sotto il bordo superiore del SOM, uno slot M.2 Key E prepopolato con un modulo Wi-Fi 802.11ac e due Slot M.2 Key M rispettivamente con quattro e due corsie PCI Express (PCIe) Gen. 3, ma tieni presente che uno è limitato a moduli corti di dimensioni 2230, mentre l'altro offre un punto di montaggio solo per moduli 2280.

L'affermazione più importante di NVIDIA è che il Jetson Orin Nano offre "prestazioni AI 80 volte superiori" rispetto al vecchio e notevolmente più economico Jetson Nano - e questo è tecnicamente vero, ma con un grande avvertimento. I calcoli di NVIDIA si basano su calcoli grezzi utilizzando la precisione FP16 su Jetson Nano ma la precisione INT8 su Jetson Orin Nano. Utilizzando la precisione FP32 su entrambi i dispositivi, per condizioni di parità, il guadagno scende da 80x a un ancora impressionante 5,4x, anche se INT8 rispetto a FP16 è ancora un confronto ragionevole da fare, poiché il supporto per la precisione INT8 sarà un ottimo motivo per eseguire l'aggiornamento al nuovo dispositivo.

Questo non vuol dire che non ci sia alcun miglioramento rispetto al supporto per INT8, dopo tutto, quel guadagno di 5,4x FP32 deve provenire da qualche parte. Oltre al passaggio a una nuova e più potente architettura GPU, Jetson Orin Nano racchiude otto volte il numero di core CUDA del Jetson Nano più 32 core Tensor per buona misura. Il processore è inoltre passato a una nuova architettura Arm Cortex, vanta due core aggiuntivi che funzionano a una velocità di clock leggermente più veloce e c'è il doppio della memoria con il passaggio a LPDDR5 che offre più di due volte e mezzo la larghezza di banda.