- Dell giới thiệu các giải pháp AI Factory toàn diện trang bị công nghệ từ NVIDIA
- NVIDIA GTC 2024: TSMC và Synopsys mang nền tảng NVIDIA Computational Lithography vào sản xuất chip bán dẫn
- NVIDIA Healthcare có thêm hơn 20 dịch vụ vi mô sử dụng AI tạo sinh
- CEO NVIDIA sẽ tiết lộ những đột phá mới nhất trong Điện toán tăng tốc, AI tạo sinh và Robot học tại hội nghị GTC 2024
Hai bộ chuyển mạch mạng mới vừa được NVIDIA trình làng gồm NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet sẽ giúp các hệ thống mạng đạt thông lượng 800 Gb/s từ đầu đến cuối, vượt qua các ranh giới về hiệu suất mạng cho khối lượng công việc điện toán và AI.
Gilad Shainer, phó chủ tịch cấp cao về Mạng tại NVIDIA cho biết: “Mạng NVIDIA là trung tâm cho khả năng mở rộng cơ sở hạ tầng siêu máy tính AI của chúng tôi. Bộ chuyển mạch NVIDIA X800 là nền tảng mạng đầu cuối cho phép chúng tôi đạt được AI tạo sinh có quy mô nghìn tỷ tham số cần thiết cho cơ sở hạ tầng AI mới.”
NVIDIA Quantum-X800 InfiniBand đặt ra tiêu chuẩn mới trong việc mang lại hiệu suất cao nhất cho các cơ sở hạ tầng dành riêng cho AI. Bộ chuyển mạch mạng này bao gồm bộ chuyển mạch NVIDIA Quantum Q3400 và NVIDIA ConnectX®-8 SuperNIC™ để cùng nhau đạt được bằng thông đầu cuối 800 Gb/s. Đây là dung lượng băng thông cao hơn gấp 5 lần và tốc độ tính toán trong mạng tăng gấp 9 lần với Giao thức tổng hợp và giảm thiểu phân cấp có thể mở rộng (SHARPv4) của NVIDIA so với thế hệ trước.
Trong khi đó, NVIDIA Spectrum™-X800 Ethernet mang lại hiệu suất mạng được tối ưu hóa cho cơ sở hạ tầng doanh nghiệp và đám mây AI. Bằng cách sử dụng bộ chuyển đổi Spectrum SN5600 800 Gb/s và NVIDIA BlueField®-3 SuperNIC, bộ chuyển mạch mạng này cung cấp các bộ tính năng nâng cao quan trọng cho các đám mây AI tạo sinh cho đối tác thuê dùng và các doanh nghiệp lớn.
NVIDIA Spectrum™-X800 Ethernet đồng thời tối ưu hóa hiệu suất mạng, tạo điều kiện xử lý, phân tích và thực thi khối lượng công việc AI nhanh hơn, từ đó đẩy nhanh quá trình phát triển, triển khai và thời gian đưa ra thị trường các giải pháp AI.
Được thiết kế đặc biệt cho môi trường nhiều người thuê, NVIDIA Spectrum™-X800 Ethernet đảm bảo cách ly hiệu suất cho khối lượng công việc AI của từng người thuê để duy trì mức hiệu suất tối ưu và nhất quán, nâng cao sự hài lòng của khách hàng và chất lượng dịch vụ.
Ngoài ra, NVIDIA đồng thời cung cấp bộ thư viện tăng tốc mạng, bộ công cụ phát triển phần mềm và phần mềm quản lý toàn diện để tối ưu hóa hiệu suất cho các mô hình AI nghìn tỷ tham số.
Điều này bao gồm Thư Viện Truyền Thông Cộng Đồng NVIDIA (NCCL), mở rộng các tác vụ điện toán song song GPU cho kết cấu mạng Quantum-X800, tận dụng khả năng Điện toán trong mạng mạnh mẽ của nền tảng này với SHARPv4 hỗ trợ FP8, tăng hiệu suất cho đào tạo mô hình lớn và AI tạo sinh.
Phương pháp tiếp cận phần mềm đầy đủ của NVIDIA cung cấp khả năng lập trình nâng cao, giúp mạng trung tâm dữ liệu linh hoạt, đáng tin cậy và phản hồi nhanh hơn, cuối cùng là tăng hiệu quả hoạt động tổng thể và hỗ trợ nhu cầu của các ứng dụng và dịch vụ hiện đại.
Những đơn vị đầu tiên trang bị NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet trên hệ thống mạng của mình gồm Microsoft Azure và Cơ sở hạ tầng đám mây Oracle.
“AI là một công cụ mạnh mẽ để biến dữ liệu thành kiến thức. Đằng sau sự chuyển đổi này là sự phát triển của các trung tâm dữ liệu thành các công cụ AI hiệu suất cao với nhu cầu ngày càng tăng về cơ sở hạ tầng mạng”, Nidhi Chappell, Phó Chủ tịch Cơ sở hạ tầng AI tại Microsoft Azure cho biết. “Với sự tích hợp mới của các giải pháp mạng NVIDIA, Microsoft Azure sẽ tiếp tục xây dựng cơ sở hạ tầng vượt qua các ranh giới của AI trên đám mây.”
Trong năm tới, NVIDIA Quantum-X800 InfiniBand và NVIDIA Spectrum™-X800 Ethernet sẽ có sẵn từ nhiều nhà cung cấp hệ thống và cơ sở hạ tầng hàng đầu trên toàn thế giới, bao gồm Aivres, DDN, Dell Technologies, Eviden, Hitachi Vantara, Hewlett Packard Enterprise, Lenovo, Supermicro và VAST Dat.
Tùng Nguyễn