Trong năm vừa qua, AI đã chuyển dịch từ giai đoạn thử nghiệm sang các triển khai thực tế cho doanh nghiệp. Các mô hình AI thế hệ mới không chỉ thực hiện tác vụ tạo nội dung cơ bản, mà còn có khả năng suy luận đa bước, vận hành tự động trợ lý ảo và hỗ trợ ra quyết định trong thời gian thực.
Tuy nhiên, cùng với sự phát triển đó là áp lực ngày càng lớn lên hạ tầng công nghệ. Các doanh nghiệp đang đối mặt với những thách thức của thời đại mới như nhu cầu xử lý khối lượng dữ liệu khổng lồ phục vụ huấn luyện và tinh chỉnh mô hình AI, yêu cầu phản hồi theo thời gian thực cho các ứng dụng AI Agent và Generative AI, các bài toán mở rộng quy mô hạ tầng khi số lượng mô hình và người dùng tăng nhanh, và trên hết là áp lực tối ưu hiệu suất và chi phí vận hành trung tâm dữ liệu.
Trong bối cảnh đó, khái niệm AI Factory đang trở thành hướng tiếp cận chiến lược giúp doanh nghiệp xây dựng năng lực AI ở quy mô lớn, tương tự như cách các nhà máy sản xuất tạo ra giá trị liên tục từ nguyên liệu đầu vào.
AI Factory – Nền tảng cho kỷ nguyên Agentic AI
AI Factory (Nhà máy AI) là mô hình hạ tầng được thiết kế chuyên biệt để phục vụ toàn bộ vòng đời AI, từ huấn luyện, tinh chỉnh, suy luận đến vận hành các ứng dụng AI trong môi trường sản xuất.
Khác với các cụm máy chủ truyền thống, AI Factory được tối ưu cho:
- Agentic AI và các mô hình reasoning.
- Generative AI quy mô doanh nghiệp.
- Các ứng dụng Physical AI và Robotics.
- Các tác vụ suy luận yêu cầu độ trễ thấp và khả năng mở rộng cao.
Để đáp ứng nhu cầu này, NVIDIA đã giới thiệu NVIDIA Blackwell Ultra DGX SuperPOD, nền tảng siêu máy tính AI doanh nghiệp được xây dựng sẵn, giúp các tổ chức nhanh chóng triển khai AI Factory mà không phải mất nhiều tháng thiết kế và tích hợp hạ tầng.
NVIDIA Blackwell Ultra DGX SuperPOD – Siêu máy tính AI sẵn sàng triển khai
NVIDIA DGX SuperPOD tích hợp các hệ thống DGX thế hệ mới dựa trên kiến trúc Blackwell Ultra cùng mạng kết nối tốc độ cao của NVIDIA, tạo nên một nền tảng AI hoàn chỉnh từ phần cứng đến phần mềm nhằm đáp ứng các yêu cầu khắt khe nhất của doanh nghiệp trong việc phát triển và vận hành AI ở quy mô lớn.
DGX SuperPOD thế hệ mới được xây dựng trên các hệ thống NVIDIA DGX GB300 và NVIDIA DGX B300, kết hợp cùng các công nghệ mạng tiên tiến của NVIDIA nhằm tạo nên một nền tảng AI hoàn chỉnh cho cả huấn luyện và suy luận.
DGX GB300 – Sức mạnh cho các mô hình AI suy luận thế hệ mới
NVIDIA DGX GB300 sử dụng các siêu chip NVIDIA Grace Blackwell Ultra, kết hợp:
- 36 CPU NVIDIA Grace.
- 72 GPU NVIDIA Blackwell Ultra.
- Kiến trúc rack-scale làm mát bằng chất lỏng.
- Công nghệ NVIDIA NVLink thế hệ thứ 5.
Hệ thống cung cấp tới 38TB bộ nhớ tốc độ cao và hiệu năng AI vượt trội, giúp tăng tốc các tác vụ huấn luyện và suy luận phức tạp cho những mô hình reasoning tiên tiến.
So với các hệ thống AI Factory dựa trên kiến trúc NVIDIA Hopper trước đây, DGX GB300 mang lại hiệu suất AI cao hơn tới 70 lần đối với một số khối lượng công việc nhất định, tạo nền tảng cho việc triển khai các AI Agent quy mô lớn trong doanh nghiệp.
DGX B300 – Đưa AI hiệu năng cao đến mọi trung tâm dữ liệu
Bên cạnh DGX GB300, NVIDIA cũng giới thiệu DGX B300 nhằm giúp nhiều doanh nghiệp tiếp cận hạ tầng AI tiên tiến hơn.
DGX B300 được trang bị:
- GPU NVIDIA Blackwell Ultra.
- 2,3TB bộ nhớ HBM3e.
- Hệ thống làm mát bằng không khí.
- Kết nối NVIDIA ConnectX-8 SuperNIC và BlueField-3 DPU.
Giải pháp mang lại hiệu năng suy luận nhanh hơn tới 11 lần và tốc độ huấn luyện nhanh hơn tới 4 lần so với thế hệ NVIDIA Hopper, giúp doanh nghiệp triển khai Generative AI và Agentic AI hiệu quả hơn mà vẫn tối ưu chi phí đầu tư.
Hoàn thiện hệ sinh thái AI từ phần cứng đến phần mềm
Một trong những yếu tố tạo nên khác biệt của NVIDIA DGX SuperPOD là khả năng cung cấp hệ sinh thái AI hoàn chỉnh.
Các hệ thống DGX mới được hỗ trợ bởi nền tảng NVIDIA AI Enterprise cùng hệ sinh thái phần mềm gồm NVIDIA NIM™ Microservices, AI Blueprints và NVIDIA Mission Control™. Sự kết hợp giữa phần cứng tăng tốc và phần mềm chuyên biệt giúp doanh nghiệp tự động hóa việc vận hành, giám sát và điều phối tài nguyên AI trong trung tâm dữ liệu, giảm đáng kể độ phức tạp khi quản lý các môi trường AI quy mô lớn. Điều này cho phép doanh nghiệp tập trung vào phát triển ứng dụng và đổi mới sáng tạo thay vì dành nguồn lực cho việc quản trị hạ tầng.
ADG Technology – Nhà phân phối chính thức của NVIDIA tại Việt Nam
Là nhà phân phối các giải pháp NVIDIA tại Việt Nam, ADG Technology mang đến cho khách hàng không chỉ sản phẩm phần cứng mà còn là năng lực tư vấn, triển khai và xây dựng kiến trúc AI toàn diện.
Liên hệ ADG Technology ngay hôm nay để khám phá tiềm năng của AI Factory với NVIDIA DGX SuperPOD.
Hotline: +(84-24) 6277.9777
