NVIDIA ra mắt chip AI mạnh nhất thế giới

Gấu Nâu (Tuấn)

Th 3 14/11/2023

Nội dung bài viết

Nvidia H200, sản phẩm mới được công bố vào ngày 13/11, dự kiến sẽ đem lại sự tiến bộ đáng kể trong lĩnh vực siêu máy tính và đào tạo trí tuệ nhân tạo (AI), với khả năng vượt trội so với đàn anh H100 hiện tại. Dự kiến sẽ ra thị trường vào quý II/2024, H200 được kỳ vọng tạo ra những đột phá về hiệu suất, đặc biệt là trong khả năng suy luận của các mô hình AI xử lý dữ liệu lớn.

Trong các thử nghiệm sử dụng mô hình ngôn ngữ lớn Llama 2 của Meta với 70 tỷ tham số, H200 thể hiện hiệu suất gần gấp đôi so với H100, một trong những chip AI mạnh mẽ nhất hiện nay được sử dụng rộng rãi trong các ứng dụng tạo sinh AI, bao gồm GPT-4 của OpenAI.

Mặc dù Nvidia chưa công bố nhiều chi tiết về dòng GPU mới, nhưng nhấn mạnh rằng chúng đã được cải tiến đáng kể về dung lượng bộ nhớ và băng thông. H200 vẫn sử dụng kiến trúc Hopper nhưng có bộ nhớ HBM3e dung lượng 141 GB và băng thông 4,8 TB/s, so với H100 sử dụng bộ nhớ HBM3 80 GB và băng thông 3,35 TB/s.

NVIDIA HGX H200 (Ảnh: Sưu tầm)

Sản phẩm này sẽ được tích hợp vào các bo mạch Nvidia HGX với cấu hình bao gồm bốn hoặc tám GPU. Ngoài ra, Nvidia cũng cung cấp "siêu chip" GH200, kết hợp giữa H200 và CPU Grace với tổng cộng 624 GB bộ nhớ. Với cấu hình sử dụng tám GPU, HGX H200 có khả năng tính toán 32 petaflop mỗi giây, đồng thời khác biệt của H200 là khả năng tương thích với các hệ thống H100 trước đây, giúp dễ dàng nâng cấp cho các hệ thống hiện tại.

Nvidia tin rằng H200 sẽ nâng cao hiệu suất làm việc của các hệ thống AI tạo sinh và hệ thống điện toán hiệu năng cao (HPC), giúp giải quyết các thách thức quan trọng nhất đối với thế giới ngày nay. Các đối tác đầu tiên của Nvidia, bao gồm Amazon Web Services, Google Cloud, Microsoft Azure và Oracle, sẽ tích hợp H200 vào các nền tảng điện toán đám mây của họ khi sản phẩm ra thị trường vào năm sau. Mặt khác, siêu chip GH200 có thể sẽ xuất hiện trên siêu máy tính Venado của Phòng thí nghiệm quốc gia Los Alamos (Mỹ) hoặc siêu máy tính Alps (Thụy Sĩ), theo thông tin từ Tomshardware.

Mặc dù giá của H200 vẫn chưa được Nvidia công bố, nhưng mẫu chip tiền nhiệm H100 đang được săn đón trên thị trường với mức giá từ 25.000-40.000 USD.

Xem thêm