Nền tảng mạng Ethernet mới được NVIDIA xây dựng bằng công nghệ mạng NVIDIA Spectrum-X mới nhất, sẽ được tích hợp trên các hệ thống máy chủ dành cho AI thế hệ mới của Dell Technologies, Hewlett Packard Enterprise và Lenovo.

Được thiết kế dành riêng cho trí tuệ nhân tạo sáng tạo, Spectrum-X mang đến cho các doanh nghiệp một lớp mạng Ethernet mới có thể đạt được hiệu suất mạng cao gấp 1,6 lần so với các sản phẩm Ethernet truyền thống cho giao tiếp trí tuệ nhân tạo.

Các hệ thống mới từ ba trong số những nhà sản xuất hệ thống hàng đầu này kết hợp Spectrum-X với GPU NVIDIA Tensor Core, phần mềm NVIDIA AI Enterprise và phần mềm NVIDIA AI Workbench để mang đến cho doanh nghiệp công cụ cần thiết để chuyển đổi doanh nghiệp với trí tuệ nhân tạo tạo sinh.

 

"Trí tuệ nhân tạo tạo sinh và tính toán tăng tốc đang thúc đẩy sự chuyển đổi theo thế hệ mới khi các doanh nghiệp nâng cấp trung tâm dữ liệu của họ để phục vụ các khối công việc này", Jensen Huang, người sáng lập và CEO của NVIDIA, nói. "Mạng kết nối tăng tốc là yếu tố kích thích cho một làn sóng mới của các hệ thống từ các đối tác sản xuất máy chủ hàng đầu của NVIDIA để tăng tốc sự chuyển đổi vào kỷ nguyên của trí tuệ nhân tạo sáng tạo."

Việc tính toán và mạng kết nối tăng tốc là yếu tố quan trọng trong việc xây dựng các hệ thống để đáp ứng yêu cầu của các mô hình ngôn ngữ lớn và các ứng dụng trí tuệ nhân tạo. Ông Michael Dell, Chủ tịch và CEO của Dell Technologies cho biết: "Qua sự hợp tác này, Dell Technologies và NVIDIA đang cung cấp cho khách hàng cơ sở hạ tầng và phần mềm cần thiết để trích xuất thông tin từ dữ liệu của họ một cách nhanh chóng và an toàn."

Theo ông Antonio Neri, Tổng giám đốc và CEO của HPE, trí tuệ nhân tạo tạo sinh sẽ thúc đẩy sự đổi mới trong nhiều ngành. Những ứng dụng mạnh mẽ mới này sẽ đòi hỏi một kiến trúc cơ bản khác nhau để hỗ trợ nhiều tác vụ. Và HPE đang hợp tác với NVIDIA để xây dựng các hệ thống với sức mạnh, hiệu quả và khả năng mở rộng cần thiết để hỗ trợ các ứng dụng này.

Ông Yuanqing Yang, Chủ tịch và CEO của Lenovo, cho biết: "Hợp tác chặt chẽ với NVIDIA, Lenovo đang xây dựng các hệ thống hiệu suất cao với mạng, tính toán và phần mềm cần thiết để cung cấp năng lực cho các ứng dụng trí tuệ nhân tạo hiện đại."

Mạng Ethernet được xây dựng đặc biệt cho tăng tốc Trí tuệ Nhân tạo

Để đạt được hiệu suất tối đa cho công việc tải trọng trí tuệ nhân tạo, Spectrum-X kết hợp hiệu suất cực cao của công tắc Ethernet Spectrum-4; NVIDIA BlueField®-3 SuperNIC, một lớp thiết bị tăng tốc mạng mới cho việc tăng cường hiệu suất công việc trí tuệ nhân tạo quy mô lớn; cùng với phần mềm tăng tốc. Spectrum-X là bổ sung cho BlueField-3 DPUs, nền tảng tính toán cơ sở hạ tầng tiên tiến nhất trên thế giới. 

Spectrum-4 Ethernet 51Tb/giây đầu tiên trên thế giới dành cho trí tuệ nhân tạo, cung cấp thông lượng dữ liệu hiệu quả tại quy mô và trong tình trạng tải, đồng thời giảm thiểu tắc nghẽn mạng cho các công việc tải trọng đám đông, trên đám mây trí tuệ nhân tạo. Công nghệ định tuyến thông minh, được điều chỉnh tỉ mỉ, cho phép tận dụng tối đa cơ sở hạ tầng mạng vào bất kỳ thời điểm nào.

BlueField-3 SuperNIC được thiết kế cho tính toán song song quy mô lớn đòi hỏi kết nối mạng 400 Gb/s RDMA qua Ethernet hội tụ (RoCE) giữa các máy chủ GPU và tăng hiệu suất cho lưu lượng đào tạo và suy luận trí tuệ nhân tạo trên mạng nội bộ của cụm. Họ cũng cho phép môi trường trung tâm dữ liệu đa người dùng an toàn, đảm bảo hiệu suất xác định và cách ly giữa các công việc của người dùng. Với kích thước PCIe hiệu quả về năng lượng, BlueField-3 SuperNICs lý tưởng cho các máy chủ lớp doanh nghiệp.

Phần mềm tăng tốc cung cấp công cụ phát triển phần mềm NVIDIA như Cumulus Linux, Pure SONiC và NetQ — cùng nhau định hình hiệu suất tiến bộ của nền tảng — và khung phần mềm NVIDIA DOCA, là công cụ chính yếu của BlueField.

NVIDIA AI Enterprise cung cấp các khung mạch, mô hình được đào tạo trước và công cụ phát triển cho trí tuệ nhân tạo sản xuất an toàn, ổn định và được hỗ trợ. NVIDIA AI Workbench cho phép nhà phát triển nhanh chóng tạo ra, thử nghiệm và tùy chỉnh mô hình trí tuệ nhân tạo được đào tạo trước trên máy tính cá nhân hoặc máy trạm — sau đó mở rộng chúng lên hầu hết các trung tâm dữ liệu hoặc đám mây.

 

Siêu máy tính NVIDIA Israel-1 Spectrum-X

Spectrum-X cũng được trang bị trên siêu máy tính Israel-1 của NVIDIA, một kiến trúc tham khảo cho hệ thống trí tuệ nhân tạo thế hệ tiếp theo. Israel-1 là một dự án hợp tác với Dell Technologies, sử dụng máy chủ Dell PowerEdge XE9680 được xây dựng dựa trên nền tảng NVIDIA HGX H100 tám GPUvà DPUs BlueField-3 cùng SuperNICs với Spectrum- 4.

Các hệ thống máy chủ mới với đầy đủ bộ công cụ AI của NVIDIA từ Dell, HPE và Lenovo dự kiến sẽ có mặt trong quý đầu tiên của năm sau.

Tùng Nguyễn