Trong bài diễn thuyết tại sự kiện khai mạc triển lãm COMPUTEX 2023, nhà sáng lập và CEO NVIDIA Jensen Huang đã cho biết các nền tảng AI sinh trắc học hiện đang biến đổi các ngành công nghiệp từ quảng cáo đến sản xuất và viễn thông.

Trình bày trước khoảng 3.500 cử toạ, nhà sáng lập và CEO NVIDIA Jensen Huang mô tả các dịch vụ tính toán tăng tốc accelerated computing, phần mềm và hệ thống cho phép mô hình kinh doanh mới và làm cho các mô hình hiện tại hiệu quả hơn.

 

Một Động cơ Mới cho AI Doanh nghiệp

CEO NVIDIA đã thông báo rằng Grace Hopper hiện đã hoàn chỉnh. Nó kết hợp CPU NVIDIA Grace tiết kiệm năng lượng với GPU Tensor Core NVIDIA H100 hiệu năng cao trong một mô-đun duy nhất.

Đối với các doanh nghiệp cần hiệu suất AI tối ưu, ông công bố DGX GH200, một siêu máy tính AI có bộ nhớ lớn. Nó sử dụng NVIDIA NVLink để kết hợp tới 256 chip Superchips Grace Hopper NVIDIA GH200 thành một GPU có kích thước trung tâm dữ liệu duy nhất.

DGX GH200 có hiệu suất là exaflop và bộ nhớ chia sẻ 144 terabyte, gần 500 lần nhiều hơn so với hệ thống NVIDIA DGX A100 320GB đơn lẻ. Điều này cho phép các nhà phát triển xây dựng các mô hình ngôn ngữ lớn cho chatbot sinh trắc học, thuật toán phức tạp cho hệ thống gợi ý và các mạng lưới neural đồ thị được sử dụng cho phát hiện gian lận và phân tích dữ liệu.

Google Cloud, Meta và Microsoft là những người đầu tiên dự kiến được tiếp cận với DGX GH200 để khám phá khả năng của nó cho các công việc làm việc sinh trắc học. "Siêu máy tính AI DGX GH200 tích hợp các công nghệ tính toán và mạng tăng tốc tiên tiến nhất của NVIDIA để mở rộng biên giới AI", ông Huang nói.

NVIDIA đang xây dựng siêu máy tính AI khổng lồ riêng của mình, NVIDIA Helios, sẽ được triển khai vào năm nay. Nó sẽ sử dụng bốn hệ thống DGX GH200 liên kết với mạng lưới NVIDIA Quantum-2 InfiniBand với băng thông lên đến 400Gb/s để tăng tốc độ lưu lượng dữ liệu cho việc đào tạo các mô hình AI lớn.

DGX GH200 là thành quả của hàng trăm hệ thống được công bố tại sự kiện sử dụng GPU và CPU mới nhất của NVIDIA. Chúng đang mang lại AI sinh trắc học và tính toán tăng tốc cho hàng triệu người dùng.

Thu nhỏ để nhìn tổng thể, Huang thông báo hơn 400 cấu hình hệ thống đang đến thị trường với các kiến trúc Hopper, Grace và Ada Lovelace của NVIDIA. Chúng nhằm giải quyết những thách thức phức tạp nhất trong lĩnh vực trí tuệ nhân tạo, khoa học dữ liệu và tính toán hiệu năng cao.

Tăng tốc trong Mọi Quy Mô

Để phù hợp với nhu cầu của các trung tâm dữ liệu với mọi quy mô, Huang đã thông báo về NVIDIA MGX, một kiến trúc tham khảo mô-đun cho việc tạo ra các máy chủ tăng tốc. Nhà sản xuất hệ thống sẽ sử dụng nó để nhanh chóng và hiệu quả về chi phí khi xây dựng hơn một trăm cấu hình máy chủ khác nhau phù hợp với một loạt các ứng dụng AI, HPC và NVIDIA Omniverse.

MGX cho phép các nhà sản xuất xây dựng máy chủ CPU và tăng tốc bằng cùng một kiến trúc và các thành phần mô-đun chung. Nó hỗ trợ toàn bộ dòng sản phẩm GPU, CPU, đơn vị xử lý dữ liệu (DPU) và bộ chuyển mạng của NVIDIA cũng như bộ xử lý x86 và Arm trên một loạt các khung chassis làm mát không khí và làm mát bằng chất lỏng.

QCT và Supermicro sẽ là những người đầu tiên thị trường với các thiết kế MGX xuất hiện vào tháng tám. Hệ thống ARS-221GL-NR của Supermicro được công bố tại COMPUTEX sử dụng CPU Grace, trong khi hệ thống S74G-2U của QCT, cũng được công bố tại sự kiện, sử dụng Grace Hopper.

ASRock Rack, ASUS, GIGABYTE và Pegatron cũng sẽ sử dụng MGX để tạo ra máy tính tăng tốc thế hệ tiếp theo.

5G “cần" Grace Hopper

Bài diễn thuyết cũng cho thấy cách NVIDIA đang giúp tái tạo 5G với Grace Hopper. CEO NVIDIA thông báo rằng NVIDIA đang làm việc với một tập đoàn viễn thông để xây dựng một mạng lưới phân tán của các trung tâm dữ liệu tại Nhật Bản. Nó sẽ cung cấp dịch vụ 5G và các ứng dụng AI sinh trắc học trên một nền tảng đám mây chung.

Các trung tâm dữ liệu sẽ sử dụng Grace Hopper và BlueField-3 DPUs của NVIDIA trong các hệ thống MGX mô-đun cũng như các bộ chuyển mạng Ethernet Spectrum của NVIDIA để cung cấp độ chính xác cao mà giao thức 5G yêu cầu. Nền tảng này sẽ giảm chi phí bằng cách tăng hiệu suất phổ trong khi giảm tiêu thụ năng lượng.

Các hệ thống này sẽ giúp khám phá các ứng dụng trong lái xe tự động, các nhà máy AI, thực tế tăng cường và ảo, thị giác máy tính và nhân bản số. Các ứng dụng tương lai có thể bao gồm hội nghị video 3D và giao tiếp hình ảnh 3D.

Tăng tốc Mạng Đám Mây

Ngoài ra, ông Huang còn giới thiệu NVIDIA Spectrum-X, một nền tảng mạng được xây dựng để cải thiện hiệu suất và hiệu quả năng lượng của đám mây AI dựa trên Ethernet. Nó kết hợp các switch Ethernet Spectrum-4 với BlueField-3 DPUs và phần mềm để cung cấp tăng tốc 1.7 lần về hiệu suất AI và hiệu quả năng lượng so với các mạng lưới Ethernet truyền thống.

NVIDIA Spectrum-X, các switch Spectrum-4 và BlueField-3 DPUs hiện có sẵn từ các nhà sản xuất hệ thống bao gồm Dell Technologies, Lenovo và Supermicro.

NVIDIA đang xây dựng Israel-1, một siêu máy tính AI sinh trắc học tại trung tâm dữ liệu ở Israel. Với giá trị hàng trăm triệu đô la, nó sẽ được xây dựng với các máy chủ Dell PowerEdge, nền tảng siêu tính toán NVIDIA HGX H100 và nền tảng Spectrum-X với BlueField-3 DPUs và switch Spectrum-4.

Mang Nhân vật Game vào Cuộc Sống

AI sinh trắc học ảnh hưởng đến cách mọi người chơi game. Công nghệ NVIDIA Avatar Cloud Engine (ACE) cho rò chơi, một dịch vụ nhà máy mà các nhà phát triển có thể sử dụng để xây dựng và triển khai các mô hình AI tùy chỉnh cho lời nói, cuộc trò chuyện và hoạt hình. Nó sẽ mang lại kỹ năng giao tiếp cho các nhân vật không thể khiển để họ có thể phản ứng trả lời câu hỏi với những cá nhân hóa sống động tiến triển.

NVIDIA ACE cho Game bao gồm các mô hình nền tảng AI như NVIDIA Riva để phát hiện và ghi âm lời nói của người chơi. Văn bản sẽ kích hoạt NVIDIA NeMo để tạo ra các phản ứng tùy chỉnh được hoạt hình bằng NVIDIA Omniverse Audio2Face.

Tăng tốc AI sinh trắc học trên Windows

NVIDIA và Microsoft đang cùng nhau đẩy mạnh sự đổi mới cho máy tính Windows trong thời đại AI sinh trắc học. Các công cụ, framework và trình điều khiển mới và cải tiến đang làm cho việc phát triển và triển khai AI trên máy tính cá nhân dễ dàng hơn. Ví dụ, công cụ Olive của Microsoft để tối ưu hóa và triển khai mô hình AI tăng tốc bằng GPU và các trình điều khiển đồ họa mới sẽ cải thiện hiệu suất DirectML trên máy tính Windows với GPU của NVIDIA.

Sự cộng tác này sẽ nâng cao và mở rộng cơ sở cài đặt của 100 triệu máy tính sử dụng GPU RTX với Tensor Cores của NVIDIA, nâng cao hiệu suất của hơn 400 ứng dụng và trò chơi Windows tăng tốc AI.

Kỹ Thuật Số Hóa Các Ngành Công Nghiệp Lớn Nhất Thế Giới

AI sinh trắc học cũng tạo ra cơ hội mới trong ngành quảng cáo số có giá trị 700 tỷ USD. Ví dụ, WPP, tổ chức dịch vụ marketing lớn nhất thế giới, đang cùng NVIDIA xây dựng một động cơ nội dung có khả năng sinh trắc học đầu tiên trên nền tảng đám mây Omniverse.

Trong một phiên bản demo, Huang đã cho thấy các nhóm sáng tạo sẽ kết nối các công cụ thiết kế 3D của mình như Adobe Substance 3D để xây dựng các phiên bản số hóa của các sản phẩm khách hàng trong NVIDIA Omniverse. Sau đó, nội dung từ các công cụ AI sinh trắc học được đào tạo trên dữ liệu được cung cấp một cách có trách nhiệm và được xây dựng với NVIDIA Picasso sẽ cho phép họ nhanh chóng sản xuất các bộ quảng cáo, video và trải nghiệm 3D cho các thị trường và người dùng toàn cầu trên bất kỳ thiết bị web nào.

Nhà Máy Tự Động Hóa Tương Lai

Với ước tính có 10 triệu nhà máy, ngành sản xuất trị giá 46 nghìn tỷ đô la là một lĩnh vực phong phú cho số hóa công nghiệp. "Các ngành công nghiệp lớn nhất trên thế giới sản xuất các sản phẩm vật lý. Xây dựng chúng dưới dạng kỹ thuật số trước tiên có thể tiết kiệm hàng tỷ ", ông Huang nói.

Bài diễn thuyết đã cho thấy cách các nhà sản xuất điện tử bao gồm Foxconn Industrial Internet, Innodisk, Pegatron, Quanta và Wistron đang xây dựng quy trình làm việc số với các công nghệ của NVIDIA để hiện thực hóa tầm nhìn về một nhà máy thông minh hoàn toàn kỹ thuật số.

Họ sử dụng Omniverse và các API AI sinh trắc học để kết nối các công cụ thiết kế và sản xuất của mình để có thể xây dựng các phiên bản số hóa của các nhà máy. Ngoài ra, họ sử dụng NVIDIA Isaac Sim để mô phỏng và kiểm tra các robot và NVIDIA Metropolis, một khung nhìn AI thị giác, để kiểm tra tự động và kiểm tra quang học.

Thành phần mới nhất, NVIDIA Metropolis cho Các Nhà Máy, có thể tạo ra các hệ thống kiểm soát chất lượng tùy chỉnh, mang lại lợi thế cạnh tranh cho các nhà sản xuất. Nó đang giúp các công ty phát triển các ứng dụng AI hiện đại.

AI Tăng Tốc Quy Trình Lắp Ráp

Ví dụ, Pegatron - công ty sản xuất 300 sản phẩm trên toàn cầu, bao gồm laptop và điện thoại thông minh - đang tạo ra các nhà máy ảo với Omniverse, Isaac Sim và Metropolis. Điều này cho phép họ thử các quy trình trong một môi trường mô phỏng, tiết kiệm thời gian và chi phí.

Pegatron cũng đã sử dụng bộ công cụ phát triển phần mềm NVIDIA DeepStream để phát triển ứng dụng video thông minh đã giúp cải thiện 10 lần hiệu suất. Foxconn Industrial Internet, một chi nhánh dịch vụ của nhà sản xuất công nghệ lớn nhất thế giới, đang hợp tác với các đối tác của NVIDIA Metropolis để tự động hóa một phần quan trọng của các điểm kiểm tra chất lượng mạch điện tử.

Trong một video, Huang đã cho thấy cách Techman Robot, một công ty con của Quanta, đã sử dụng NVIDIA Isaac Sim để tối ưu hóa kiểm tra trên các dây chuyền sản xuất của tập đoàn đó có trụ sở tại Đài Loan. Nó thực chất sử dụng các robot mô phỏng để đào tạo các robot khác cách tạo ra các robot tốt hơn.

Một hệ sinh thái đối tác lớn - bao gồm ADLINK, Aetina, Deloitte, Quantiphi và Siemens - đang giúp đưa tất cả các giải pháp sản xuất này đến thị trường, Huang nói. Đó là một ví dụ khác về cách NVIDIA đang giúp các công ty cảm nhận được lợi ích của AI sinh trắc học với tính toán tăng tốc.

Tùng Nguyễn