ΑρχικήNvidiaNVIDIA Vera Rubin: 72 GPUs Rubin και 36 CPUs Vera σε ένα...

NVIDIA Vera Rubin: 72 GPUs Rubin και 36 CPUs Vera σε ένα σύστημα για την εποχή του agentic AI

0
(0)

Loading

Η NVIDIA παρουσιάζει την πλατφόρμα Vera Rubin ως τη νέα υποδομή της για συστήματα τεχνητής νοημοσύνης που εκτελούν σύνθετες, πολυβήματες εργασίες. Στο επίκεντρο βρίσκεται το Vera Rubin NVL72, ένα rack-scale σύστημα που συνδυάζει 72 GPUs Rubin και 36 CPUs Vera, μαζί με εξειδικευμένα υποσυστήματα δικτύωσης και διαχείρισης δεδομένων.

Με λίγα λόγια

  • Το Vera Rubin NVL72 ενσωματώνει 72 GPUs Rubin και 36 CPUs Vera.
  • Χρησιμοποιεί NVLink 6, ConnectX-9 SuperNICs και BlueField-4 DPUs.
  • Η NVIDIA αναφέρει συνολική μνήμη GPU 20,7 TB HBM4 στο σύστημα DGX Vera Rubin NVL72.
  • Η αρχιτεκτονική στοχεύει σε εκπαίδευση και inference μεγάλων μοντέλων, με έμφαση σε agentic AI workloads.

Ένα rack ως ενιαίο υπολογιστικό σύστημα

Η προσέγγιση της NVIDIA δεν περιορίζεται στην αύξηση της ισχύος μιας μεμονωμένης GPU. Το NVL72 σχεδιάζεται ως ενιαίο rack-scale σύστημα, στο οποίο οι επιταχυντές, οι επεξεργαστές και τα υποσυστήματα επικοινωνίας συνεργάζονται για να μειώσουν τα σημεία συμφόρησης στη μεταφορά δεδομένων.

Σύμφωνα με τα τεχνικά στοιχεία της εταιρείας για το DGX Vera Rubin NVL72, το σύστημα διαθέτει 20,7 TB μνήμης HBM4 και συνολικό bandwidth 1.400 TB/s. Η NVIDIA αναφέρει επίσης 216 TB/s bandwidth μέσω NVLink, στοιχείο που έχει ιδιαίτερη σημασία όταν πολλά GPUs πρέπει να ανταλλάσσουν δεδομένα κατά την εκτέλεση μεγάλων μοντέλων.

Νέο Transformer Engine και υποδομή δικτύωσης

Το NVL72 ενσωματώνει Transformer Engine με adaptive compression για την επιτάχυνση εργασιών inference σε μορφή NVFP4. Η πλατφόρμα συνδυάζει επίσης ConnectX-9 SuperNICs και BlueField-4 DPUs, ενώ η επικοινωνία μεταξύ των GPUs βασίζεται στο NVLink 6. Για τη διασύνδεση μεταξύ racks, η NVIDIA αναφέρει υποστήριξη Quantum-X800 InfiniBand και Spectrum-X Ethernet.

Ένα ακόμη στοιχείο είναι η ενσωμάτωση λειτουργιών Confidential Computing σε επίπεδο rack, μαζί με μηχανισμούς αξιοπιστίας και διαθεσιμότητας. Αυτές οι δυνατότητες έχουν σημασία για cloud παρόχους και επιχειρήσεις που θέλουν να εκτελούν ευαίσθητα workloads AI σε μεγάλη κλίμακα.

Γιατί η NVIDIA εστιάζει στο agentic AI

Τα συστήματα agentic AI δεν περιορίζονται στην παραγωγή μιας απάντησης. Μπορούν να σχεδιάζουν ακολουθίες ενεργειών, να καλούν εργαλεία, να επεξεργάζονται μεγάλα σύνολα δεδομένων και να επαναλαμβάνουν βήματα μέχρι να ολοκληρωθεί μια εργασία. Αυτό δημιουργεί διαφορετικές απαιτήσεις από την απλή παραγωγή κειμένου, καθώς αυξάνεται η ανάγκη για γρήγορο inference, μεγάλο διαθέσιμο context και αποτελεσματική επικοινωνία ανάμεσα στα υποσυστήματα.

Η NVIDIA τοποθετεί τη Vera Rubin ως πλατφόρμα για τέτοιες AI factories. Οι ισχυρισμοί της για υψηλότερη απόδοση και χαμηλότερο κόστος ανά token σε σχέση με την Blackwell είναι εταιρικοί και θα πρέπει να αξιολογηθούν με ανεξάρτητα benchmarks και πραγματικά workloads όταν αυτά γίνουν διαθέσιμα.

Τι σημαίνει για την αγορά υποδομών AI

Η Vera Rubin δείχνει τη μετατόπιση της αγοράς από την αγορά μεμονωμένων επιταχυντών προς ολοκληρωμένα συστήματα που συνδυάζουν GPUs, CPUs, μνήμη, δίκτυα και λογισμικό. Για τους παρόχους cloud και τα μεγάλα ερευνητικά κέντρα, το ζητούμενο δεν είναι μόνο η μέγιστη υπολογιστική ισχύς, αλλά και η ενεργειακή αποδοτικότητα, η αξιοπιστία και το κόστος λειτουργίας ανά παραγόμενη μονάδα AI εργασίας.

Πηγές: NVIDIA – Vera Rubin Platform · NVIDIA – Τεχνικό δελτίο DGX Vera Rubin NVL72.

How useful was this post?

Click on a star to rate it!

Average rating 0 / 5. Vote count: 0

No votes so far! Be the first to rate this post.

George S. Metallidis
George S. Metallidishttps://technode.gr
Όλα ξεκίνησαν το 1988 όταν μπήκε στο σπίτι το πρώτο PC ένας 32bit 80386 με 4mb ram, CGA γραφικά σε 16colours monitor....και φυσικά λιώσιμο με το DOS game Grand Prix Circuit της Accolade
Σχετικά άρθρα

ΑΦΗΣΤΕ ΜΙΑ ΑΠΑΝΤΗΣΗ

ΔΕΙΤΕ ΑΚΟΜΑ!