Vừa qua, ADG đã phối hợp cùng NVIDIA và FPT software tổ chức Hội thảo “Generative AI And Recommend System With NVIDIA Solutions” hỗ trợ các khách hàng có thêm những định hướng mới trong việc áp dụng các giải pháp công nghệ để nâng cao hiệu suất của Generative AI trong quản lý và vận hành doanh nghiệp.

Trí tuệ nhân tạo tạo sinh (Generative AI) đã vượt qua giới hạn của dữ liệu thực tế và cho phép các tổ chức Tài chính – Ngân hàng mang tới trải nghiệm cá nhân hoá cho người tiêu dùng, cải thiện đánh giá rủi ro, phát hiện gian lận và quản lý đầu tư thông minh. Sự tiến bộ của các thuật toán học máy, sự gia tăng về lượng dữ liệu và nhu cầu về tiết kiệm chi phí đang thúc đẩy việc áp dụng rộng rãi GenAI trong lĩnh vực Tài chính – Ngân hàng. Nắm bắt được làn sóng đó, sự kiện “Generative AI And Recommend System With NVIDIA Solutions”  được tổ chức với sự tham dự của hơn 60 đối tác, khách hàng là các Nhà quản lý, nhà phát triển công nghệ AI thuộc các tổ chức Tài chính – Ngân hàng. Tại sự kiện, các chuyên gia đến từ ADG, NVIDIA và FPT software đã đem đến một góc nhìn cụ thể về Generative AI và TensorRT-LLM-một thư viện mã nguồn mở được thiết kế để nâng cao hiệu suất suy luận của mô hình ngôn ngữ lớn (LLM) – chìa khoá đứng sau GenAI và các phát kiến công nghệ hiện đại giúp các tổ chức Tài chính – Ngân hàng chuyển mình mạnh mẽ khi ứng dụng Gen AI trong quản lý và vận hành.

Networking for the Era of AI: The Network Defines the Data Center

Tại COMPUTEX 2023, NVIDIA đã công bố NVIDIA Spectrum-X, một nền tảng mạng hiệu suất cao được thiết kế để tăng tốc và cải thiện hiệu suất của các đám mây AI dựa trên Ethernet. NVIDIA Spectrum-X được xây dựng dựa trên những đổi mới mạng với hỗ trợ bởi sự kết hợp chặt chẽ giữa NVIDIA Ethernet Spectrum-4 switch và NVIDIA BlueField®-3 DPU, đạt được hiệu suất AI và hiệu quả năng lượng tổng thể cao hơn 1.7 lần, cùng hiệu suất nhất quán, có thể dự đoán được trong các môi trường multi-tenant. Spectrum-X được hỗ trợ bởi phần mềm tăng tốc NVIDIA và các bộ công cụ phát triển phần mềm (SDKs), cho phép các nhà phát triển xây dựng các ứng dụng AI cloud-native, software-defined.

“Nền tảng Networking NVIDIA Spectrum-X rất linh hoạt và có thể được sử dụng trong các ứng dụng AI khác nhau. Nó sử dụng Ethernet hoàn toàn dựa trên các tiêu chuẩn và tương thích với các stack dựa trên Ethernet”. Ông Nguyễn Tiến Dũng, Quản lý sản phẩm NVIDIA của NPP ADG cho biết. Điều này chứng tỏ, NVIDIA Spectrum-X tăng cường khả năng cho nhiều bên thuê (multi-tenant) với khả năng cách ly hiệu suất để đảm bảo các workload AI của những bên thuê hoạt động tối ưu và nhất quán. Nó cũng cung cấp khả năng theo dõi hiệu suất AI tốt hơn, vì nó có thể xác định việc tắc nghẽn hiệu suất và có tính năng xác thực kết cấu (fabric) hoàn toàn tự động.

NVIDIA TensorRT-LLM Supercharges Large Language: Model Inference on NVIDIA H100 GPUs

Việc xây dựng các mô hình Generative AI đòi hỏi tiêu tốn rất nhiều dung lượng và tài nguyên tính toán. TensorRT chính là giải pháp tuyệt vời để tối ưu hoá triển khai ứng dụng “Trí tuệ nhân tạo tạo sinh (hay Generative AI)” trên GPU, giúp tối ưu hoá tài nguyên và cải thiện tốc độ cũng như hiệu suất suy luận. Mặt khác, GPU NVIDIA H100 lõi Tensor thế hệ mới nhất là thiết bị có khả năng dẫn đầu về AI trên thị trường với khả năng đào tạo nhanh hơn tới 9 lần và khả năng suy luận gấp 30 lần so với các phiên bản trước đây trên các mô hình ngôn ngữ lớn (LLMs).

Phiên hội thảo thứ 2 của sự kiện với chủ đề NVIDIA TensorRT-LLM Supercharges Large Language Model Inference on NVIDIA H100 GPUs của Ông Nguyễn Thành Quế, Solution Architect của NVIDIA đã đi sâu vào kiến ​​trúc và hệ thống phân cấp của H100, đồng thời khám phá một số ứng dụng thú vị mà GPU này là lý tưởng. Cho dù bạn đang làm việc với các mô hình AI phức tạp hay yêu cầu điện toán hiệu năng cao cho nghiên cứu khoa học, GPU H100 là giải pháp mang tính thay đổi cuộc chơi, sẽ giúp bạn đạt được các mục tiêu nhanh hơn và hiệu quả hơn bao giờ hết.

H100 là GPU cao cấp có nhiều cải tiến và công nghệ nâng cao, giúp nó trở thành lựa chọn lý tưởng cho các ứng dụng đòi hỏi năng lực điện toán đồ sộ của khách hàng. Với kiến ​​trúc tiên tiến và Tensor Core thế hệ thứ tư, H100 là một trong những GPU mạnh mẽ, có thể lập trình và tiết kiệm năng lượng nhất cho đến nay, cho phép người dùng và ứng dụng luôn sử dụng tối đa tất cả các đơn vị GPU H100 của họ.

Chúng tôi tin rằng H100 là sự lựa chọn tuyệt vời cho các tổ chức yêu cầu khả năng tính toán hiệu năng cao. Sức mạnh xử lý và băng thông bộ nhớ giúp nó trở nên lý tưởng để xử lý các tải xử lý đòi hỏi khắt khe nhất, đồng thời khả năng cung cấp tốc độ suy luận và đào tạo AI nhanh như chớp trên các mô hình ngôn ngữ lớn khiến nó trở thành giải pháp mang tính thay đổi cuộc chơi cho các tổ chức làm việc với các mô hình AI phức tạp.

“Generative AI is transforming the ways we make things” – FPT Software.

Trí tuệ nhân tạo tạo sinh, hay AI tạo sinh (Generative Artificial Intelligence), mô tả các thuật toán (chẳng hạn như ChatGPT) có thể được sử dụng để tạo nội dung mới, bao gồm âm thanh, mã, hình ảnh, văn bản, mô phỏng và video. Hình thức tiện lợi này cho phép máy tính tạo ra tất cả các loại nội dung mới và thú vị, từ âm nhạc và nghệ thuật đến toàn bộ thế giới ảo. Không chỉ để giải trí, AI tạo sinh còn có rất nhiều ứng dụng thực tế, như tạo ra các thiết kế sản phẩm mới và tối ưu hóa các quy trình kinh doanh.

Trong khuôn khổ sự kiện, những ứng dụng mà Trí tuệ nhân tạo tạo sinh có thể áp dụng vào việc quản lý, vận hành Doanh nghiệp là những chủ đề mà các khách mời rất quan tâm. Tại phiên hội thảo với chủ đề Generative AI is transforming the ways we make things”, Ông Đào Hữu Hùng,Principal AI Scientist of AI Center FPT Software còn đem đến màn trình diễn Live Demo để giúp các Khách mời có cái nhìn trực quan, dễ hiểu về việc áp dụng Gen AI.