Máy chủ NVIDIA DGX Spark GPU Blackwell 1 PFLOP FP4/Grace 20 Core Arm/128GB LPDDR5x/SSD 4TB NVMe/WiFi 7/10GbE/DGX OS

NVIDIA DGX Spark (Project DIGITS) – Siêu Máy Tính AI Cá Nhân Thế Hệ Mới

NVIDIA DGX Spark là siêu máy tính AI cá nhân được thiết kế cho nhà phát triển, kỹ sư AI, nhà nghiên cứu và doanh nghiệp. Trang bị kiến trúc NVIDIA Grace Blackwell, hiệu năng AI đạt 1 PetaFLOP FP4, bộ nhớ hợp nhất 128GB LPDDR5X, hỗ trợ mô hình AI tới 200 tỷ tham số trong thiết kế nhỏ gọn, tiết kiệm điện năng.

Hiệu năng AI vượt trội với Grace Blackwell GB10

• Trang bị siêu chip NVIDIA GB10 Grace Blackwell Superchip tích hợp CPU và GPU trong cùng một kiến trúc thống nhất.
• CPU NVIDIA Grace 20 nhân Arm kết hợp GPU NVIDIA Blackwell thế hệ mới cho hiệu năng AI vượt trội.
• Tích hợp Tensor Core thế hệ thứ 5, CUDA Core hiệu năng cao và NPU AI chuyên dụng.
• Đạt hiệu năng lên đến 1 PetaFLOP AI FP4, đáp ứng các tác vụ AI chuyên sâu.
• Tăng tốc quá trình huấn luyện mô hình AI và suy luận (Inference).
• Hỗ trợ Generative AI, AI Agent và các mô hình ngôn ngữ lớn (LLM).
• Cho phép phát triển, thử nghiệm và triển khai AI ngay trên thiết bị cục bộ.
• Mang sức mạnh tính toán AI cấp trung tâm dữ liệu vào một hệ thống nhỏ gọn dành cho nhà phát triển, nhà nghiên cứu và doanh nghiệp.

Bộ nhớ hợp nhất 128GB LPDDR5X

• Trang bị 128GB Unified Memory LPDDR5X tốc độ cao với kiến trúc bộ nhớ hợp nhất tiên tiến.
• CPU và GPU cùng truy cập chung một vùng bộ nhớ, loại bỏ việc sao chép dữ liệu giữa các thành phần.
• Giảm độ trễ truyền dữ liệu và tối ưu hiệu suất xử lý AI.
• Tăng tốc huấn luyện mô hình và xử lý các tập dữ liệu lớn.
• Giảm hiện tượng nghẽn cổ chai (bottleneck) giữa CPU và GPU.
• Nâng cao hiệu quả sử dụng tài nguyên và tiết kiệm điện năng.
• Hỗ trợ tốt các tác vụ AI, Machine Learning và Generative AI quy mô lớn.
• Là nền tảng quan trọng giúp DGX Spark vận hành hiệu quả các mô hình AI có hàng trăm tỷ tham số.

Lưu trữ NVMe tốc độ cao

• Trang bị SSD NVMe dung lượng lên đến 4TB cho hiệu năng lưu trữ mạnh mẽ.
• Tăng tốc khởi động hệ thống và môi trường phát triển AI.
• Lưu trữ thoải mái các dataset AI lớn, mô hình huấn luyện và dữ liệu nghiên cứu.
• Truy xuất dữ liệu tốc độ cao, tối ưu quá trình huấn luyện và suy luận AI.
• Hỗ trợ cài đặt và vận hành nhiều môi trường phát triển AI song song.
• Giảm thời gian chờ khi tải dữ liệu và chạy mô hình.
• Đáp ứng tốt nhu cầu Deep Learning, Machine Learning và Data Science.
• Phù hợp cho nhà nghiên cứu, kỹ sư AI và doanh nghiệp phát triển AI quy mô lớn.

Tối ưu cho Generative AI và LLM

• Được tối ưu cho các lĩnh vực AI hiện đại như Large Language Models (LLM), AI Agents, Generative AI, Computer Vision, Deep Learning, Machine Learning và Data Science.
• Hỗ trợ phát triển, huấn luyện và suy luận các mô hình AI quy mô lớn ngay trên thiết bị cục bộ.
• Có khả năng xử lý mô hình lên đến 200 tỷ tham số trên một hệ thống DGX Spark.
• Hỗ trợ kết nối 2 DGX Spark để mở rộng khả năng xử lý lên đến 405 tỷ tham số.
• Phù hợp cho nghiên cứu AI, phát triển ứng dụng AI doanh nghiệp và xây dựng mô hình ngôn ngữ lớn.
• Tăng tốc quy trình thử nghiệm, tinh chỉnh và triển khai mô hình AI thế hệ mới.
• Giúp các tổ chức, doanh nghiệp và phòng nghiên cứu tiếp cận sức mạnh AI cấp trung tâm dữ liệu trong một hệ thống nhỏ gọn.
• Mở ra khả năng phát triển các giải pháp AI tiên tiến ngay tại văn phòng, phòng lab hoặc trung tâm R&D.

Thiết kế nhỏ gọn nhưng mạnh mẽ

• Thiết kế siêu nhỏ gọn với kích thước chỉ 150 x 150 x 50.5 mm.
• Trọng lượng khoảng 1.2kg, thuận tiện cho việc di chuyển và lắp đặt.
• Kích thước tương đương một mini PC cao cấp nhưng sở hữu sức mạnh AI vượt trội.
• Nhỏ gọn hơn rất nhiều so với các máy chủ AI truyền thống.
• Dễ dàng bố trí trên bàn làm việc mà không chiếm nhiều không gian.
• Triển khai nhanh chóng trong văn phòng, phòng nghiên cứu hoặc phòng lab AI.
• Phù hợp cho nhà phát triển, kỹ sư AI và doanh nghiệp cần hệ thống AI hiệu năng cao trong thiết kế nhỏ gọn.
• Kết hợp hiệu năng cấp trung tâm dữ liệu với tính linh hoạt của một thiết bị để bàn.

Tiết kiệm điện năng

• DGX Spark tiêu thụ điện năng khoảng 240W dù sở hữu hiệu năng AI rất mạnh.
• Đạt hiệu suất trên mỗi watt cao, tối ưu giữa hiệu năng và mức tiêu thụ điện.
• Giúp giảm chi phí vận hành so với các hệ thống AI truyền thống.
• Không cần hạ tầng datacenter phức tạp, dễ dàng triển khai hơn.
• Phù hợp cho doanh nghiệp vừa và nhỏ, startup AI và nhóm nghiên cứu.
• Tối ưu cho môi trường làm việc tại văn phòng hoặc phòng lab.
• Mang lại khả năng xử lý AI cấp cao trong một hệ thống nhỏ gọn và tiết kiệm năng lượng.

Hệ sinh thái AI hoàn chỉnh

• Cài sẵn Ubuntu Linux và NVIDIA DGX OS, sẵn sàng cho môi trường phát triển AI chuyên nghiệp.
• Tích hợp đầy đủ CUDA Toolkit, cuDNN và TensorRT-LLM để tối ưu huấn luyện và suy luận AI.
• Hỗ trợ NVIDIA Base Command và NGC Catalog giúp triển khai và quản lý mô hình nhanh chóng.
• Tương thích các framework phổ biến như PyTorch, Python và Jupyter Notebook.
• Trang bị các công cụ AI nâng cao như NVIDIA NeMo™, RAPIDS™, Blueprints và AI Enterprise.
• Giúp người dùng bắt đầu phát triển AI ngay sau khi khởi động thiết bị.
• Giảm thời gian cài đặt, cấu hình và thiết lập môi trường.
• Phù hợp cho nhà nghiên cứu, kỹ sư AI và doanh nghiệp triển khai AI thực tế.

Mở rộng dễ dàng lên hạ tầng DGX Cloud

DGX Spark hỗ trợ:

✔ Phát triển mô hình cục bộ

✔ Fine-tuning AI tại chỗ

✔ Triển khai lên DGX Cloud

✔ Kết nối trung tâm dữ liệu NVIDIA

✔ Mở rộng quy mô linh hoạt

Giúp rút ngắn thời gian từ nghiên cứu đến triển khai thực tế.

Bảo mật cấp doanh nghiệp

• Khi kết hợp NVIDIA AI Enterprise, DGX Spark mang đến nền tảng AI cấp doanh nghiệp hoàn chỉnh.
• Tăng cường bảo mật dữ liệu và mô hình AI theo tiêu chuẩn doanh nghiệp.
• Hỗ trợ quản lý tập trung, giúp kiểm soát tài nguyên và hệ thống AI hiệu quả hơn.
• Cung cấp hỗ trợ kỹ thuật chuyên sâu từ hệ sinh thái NVIDIA.
• Tối ưu cho triển khai AI trong môi trường Production ổn định và quy mô lớn.
• Phù hợp cho doanh nghiệp triển khai ứng dụng AI thực tế.
• Đáp ứng nhu cầu nghiên cứu tại viện nghiên cứu và trung tâm AI.
• Hỗ trợ đào tạo, giảng dạy và thử nghiệm AI tại trường đại học.
• Là nền tảng mạnh mẽ cho các trung tâm phát triển và nghiên cứu trí tuệ nhân tạo.

Ứng dụng thực tế

• AI & Machine Learning: Huấn luyện, suy luận mô hình AI, chạy LLM cục bộ, fine-tuning và xử lý Big Data.
• Nghiên cứu & phát triển AI: Thử nghiệm mô hình mới, nghiên cứu deep learning, phát triển ứng dụng AI doanh nghiệp.
• Sáng tạo nội dung cao cấp: Render video 4K/8K bằng AI, tạo hình ảnh generative AI, hỗ trợ VFX và CGI chuyên nghiệp.
• Workstation AI doanh nghiệp: Phục vụ kỹ sư AI, data scientist, phòng lab nghiên cứu, thay thế workstation truyền thống.
• Tính toán hiệu năng cao: 1 PFLOP FP4 tối ưu cho training/inference, xử lý song song dữ liệu lớn, rút ngắn thời gian huấn luyện mô hình.

Lý do chọn NVIDIA DGX Spark

• Hiệu năng AI đạt tới 1 PetaFLOP FP4, đáp ứng các tác vụ AI cường độ cao.
• Trang bị Grace Blackwell GB10 Superchip với kiến trúc CPU–GPU hợp nhất (CPU NVIDIA Grace 20 nhân Arm + GPU Blackwell Tensor Core Gen 5).
• Bộ nhớ hợp nhất 128GB LPDDR5X giúp truy cập dữ liệu nhanh, giảm độ trễ.
• SSD NVMe lên đến 4TB, đáp ứng lưu trữ mô hình và dataset lớn.
• Chạy được mô hình LLM đến 200 tỷ tham số, mở rộng tới 405 tỷ tham số khi kết nối 2 thiết bị.
• Tiêu thụ điện chỉ khoảng 240W, tối ưu hiệu suất trên mỗi watt.
• Thiết kế nhỏ gọn ~1.2kg, dễ triển khai và bố trí.
• Tích hợp hệ sinh thái NVIDIA AI, hỗ trợ Generative AI và AI Agent.
• Phù hợp nghiên cứu, phát triển và triển khai AI chuyên sâu.

Tổng kết

NVIDIA DGX Spark là bước tiến quan trọng trong việc đưa sức mạnh của siêu máy tính AI đến gần hơn với doanh nghiệp và nhà phát triển. Với hiệu năng 1 PetaFLOP FP4, bộ nhớ hợp nhất 128GB, kiến trúc Grace Blackwell hiện đại cùng hệ sinh thái phần mềm AI hoàn chỉnh, DGX Spark là giải pháp lý tưởng cho phát triển Generative AI, Large Language Models, AI Agent và các ứng dụng trí tuệ nhân tạo thế hệ mới.

Thông số kỹ thuật