Siêu chip thế hệ mới Grace Hopper GH200 được NVIDIA xây dựng cho kỷ nguyên của điện toán tăng tốc và trí tuệ nhân tạo khi sở hữu đến 144 nhân ARM Neoverse có hiệu năng tính toán AI lên đến 8 Petaflops cùng bộ nhớ HBM3e 282 GB.

Siêu chip Grace Hoppoer GH200 được NVIDIA trình làng tại Hội nghị Đồ họa Máy tính SIGGRAPH 2023 cùng loạt công nghệ xử lý đồ họa mới được hãng xây dựng và phát triển để xử lý các khối lượng công việc trí tuệ nhân tạo sinh phức tạp nhất trên thế giới, từ các mô hình ngôn ngữ lớn (LLM), hệ thống gợi ý và cơ sở dữ liệu vector đến những nền tảng mới sẽ có sẵn trong một loạt cấu hình với nhiều lựa chọn.

 

"Để đáp ứng nhu cầu bùng nổ về trí tuệ nhân tạo, các trung tâm dữ liệu đang cần những nền tảng tính toán tăng tốc với các yêu cầu chuyên biệt", ông Jensen Huang, Nhà sáng lập và CEO của NVIDIA, chia sẻ. 

Grace Hopper GH200 còn dễ dàng kết nối với các Superchip khác bằng công nghệ kết nối NVIDIA NVLink, cho phép chúng hoạt động cùng nhau để triển khai các mô hình lớn hơn cho trí tuệ nhân tạo ngày nay. Trong cấu hình hai lõi, công nghệ hiệu suất cao này cung cấp quyền truy cập đầy đủ của GPU vào bộ nhớ CPU, cung cấp tổng cộng 1,2 TB bộ nhớ tốc độ cao HBM3e. Bộ nhớ thế hệ mới này có tốc độ nhanh hơn 50%, cung cấp băng thông kết hợp 10 TB/giây và cho phép chạy các mô hình lớn hơn 3,5 lần so với phiên bản trước đó, đồng thời cải thiện hiệu suất với băng thông bộ nhớ nhanh gấp 3 lần.

Ngoài ra, siêu chip Grace Hopper GH200 với bộ nhớ HBM3e hoàn toàn tương thích với thông số kỹ thuật máy chủ NVIDIA MGX được NVIDIA giới thiệu tại COMPUTEX  2023. Với MGX, bất kỳ nhà sản xuất hệ thống nào cũng có thể nhanh chóng và hiệu quả về chi phí thêm Grace Hopper vào hơn 100 tùy chọn máy chủ khác nhau. Dự kiến, siêu chip Grace Hopper GH200 sẽ được NVIDIA cung cấp đến các nhà sản xuất hệ thống hàng đầu vào quý 2 năm 2024.

Tùng Nguyễn