GENERATIVE AI AND RECOMMEND SYSTEM WITH NVIDIA SOLUTION

Date: 03/11/2023

Vừa qua, ADG đã phối hợp cùng NVIDIA và FPT software tổ chức Hội thảo “Generative AI And Recommend System With NVIDIA Solutions” hỗ trợ các khách hàng có thêm những định hướng mới trong việc áp dụng các giải pháp công nghệ để nâng cao hiệu suất của Generative AI trong quản lý và vận hành doanh nghiệp.

Trí tuệ nhân tạo tạo sinh (Generative AI) đã vượt qua giới hạn của dữ liệu thực tế và cho phép các tổ chức Tài chính – Ngân hàng mang tới trải nghiệm cá nhân hoá cho người tiêu dùng, cải thiện đánh giá rủi ro, phát hiện gian lận và quản lý đầu tư thông minh. Sự tiến bộ của các thuật toán học máy, sự gia tăng về lượng dữ liệu và nhu cầu về tiết kiệm chi phí đang thúc đẩy việc áp dụng rộng rãi GenAI trong lĩnh vực Tài chính – Ngân hàng. Nắm bắt được làn sóng đó, sự kiện Generative AI And Recommend System With NVIDIA Solutions”  được tổ chức với sự tham dự của hơn 60 đối tác, khách hàng là các Nhà quản lý, nhà phát triển công nghệ AI thuộc các tổ chức Tài chính – Ngân hàng. Tại sự kiện, các chuyên gia đến từ ADG, NVIDIA và FPT software đã đem đến một góc nhìn cụ thể về Generative AI và TensorRT-LLM-một thư viện mã nguồn mở được thiết kế để nâng cao hiệu suất suy luận của mô hình ngôn ngữ lớn (LLM) – chìa khoá đứng sau GenAI và các phát kiến công nghệ hiện đại giúp các tổ chức Tài chính – Ngân hàng chuyển mình mạnh mẽ khi ứng dụng Gen AI trong quản lý và vận hành.

Networking for the Era of AI: The Network Defines the Data Center

Tại COMPUTEX 2023, NVIDIA đã công bố NVIDIA Spectrum-X, một nền tảng mạng hiệu suất cao được thiết kế để tăng tốc và cải thiện hiệu suất của các đám mây AI dựa trên Ethernet. NVIDIA Spectrum-X được xây dựng dựa trên những đổi mới mạng với hỗ trợ bởi sự kết hợp chặt chẽ giữa NVIDIA Ethernet Spectrum-4 switch và NVIDIA BlueField®-3 DPU, đạt được hiệu suất AI và hiệu quả năng lượng tổng thể cao hơn 1.7 lần, cùng hiệu suất nhất quán, có thể dự đoán được trong các môi trường multi-tenant. Spectrum-X được hỗ trợ bởi phần mềm tăng tốc NVIDIA và các bộ công cụ phát triển phần mềm (SDKs), cho phép các nhà phát triển xây dựng các ứng dụng AI cloud-native, software-defined.

“Nền tảng Networking NVIDIA Spectrum-X rất linh hoạt và có thể được sử dụng trong các ứng dụng AI khác nhau. Nó sử dụng Ethernet hoàn toàn dựa trên các tiêu chuẩn và tương thích với các stack dựa trên Ethernet”. Ông Nguyễn Tiến Dũng, Quản lý sản phẩm NVIDIA của NPP ADG cho biết. Điều này chứng tỏ, NVIDIA Spectrum-X tăng cường khả năng cho nhiều bên thuê (multi-tenant) với khả năng cách ly hiệu suất để đảm bảo các workload AI của những bên thuê hoạt động tối ưu và nhất quán. Nó cũng cung cấp khả năng theo dõi hiệu suất AI tốt hơn, vì nó có thể xác định việc tắc nghẽn hiệu suất và có tính năng xác thực kết cấu (fabric) hoàn toàn tự động.

NVIDIA TensorRT-LLM Supercharges Large Language: Model Inference on NVIDIA H100 GPUs

Việc xây dựng các mô hình Generative AI đòi hỏi tiêu tốn rất nhiều dung lượng và tài nguyên tính toán. TensorRT chính là giải pháp tuyệt vời để tối ưu hoá triển khai ứng dụng “Trí tuệ nhân tạo tạo sinh (hay Generative AI)” trên GPU, giúp tối ưu hoá tài nguyên và cải thiện tốc độ cũng như hiệu suất suy luận. Mặt khác, GPU NVIDIA H100 lõi Tensor thế hệ mới nhất là thiết bị có khả năng dẫn đầu về AI trên thị trường với khả năng đào tạo nhanh hơn tới 9 lầnkhả năng suy luận gấp 30 lần so với các phiên bản trước đây trên các mô hình ngôn ngữ lớn (LLMs).

Phiên hội thảo thứ 2 của sự kiện với chủ đề NVIDIA TensorRT-LLM Supercharges Large Language Model Inference on NVIDIA H100 GPUs của Ông Nguyễn Thành Quế, Solution Architect của NVIDIA đã đi sâu vào kiến ​​trúc và hệ thống phân cấp của H100, đồng thời khám phá một số ứng dụng thú vị mà GPU này là lý tưởng. Cho dù bạn đang làm việc với các mô hình AI phức tạp hay yêu cầu điện toán hiệu năng cao cho nghiên cứu khoa học, GPU H100 là giải pháp mang tính thay đổi cuộc chơi, sẽ giúp bạn đạt được các mục tiêu nhanh hơn và hiệu quả hơn bao giờ hết.

H100 là GPU cao cấp có nhiều cải tiến và công nghệ nâng cao, giúp nó trở thành lựa chọn lý tưởng cho các ứng dụng đòi hỏi năng lực điện toán đồ sộ của khách hàng. Với kiến ​​trúc tiên tiến và Tensor Core thế hệ thứ tư, H100 là một trong những GPU mạnh mẽ, có thể lập trình và tiết kiệm năng lượng nhất cho đến nay, cho phép người dùng và ứng dụng luôn sử dụng tối đa tất cả các đơn vị GPU H100 của họ.

Chúng tôi tin rằng H100 là sự lựa chọn tuyệt vời cho các tổ chức yêu cầu khả năng tính toán hiệu năng cao. Sức mạnh xử lý và băng thông bộ nhớ giúp nó trở nên lý tưởng để xử lý các tải xử lý đòi hỏi khắt khe nhất, đồng thời khả năng cung cấp tốc độ suy luận và đào tạo AI nhanh như chớp trên các mô hình ngôn ngữ lớn khiến nó trở thành giải pháp mang tính thay đổi cuộc chơi cho các tổ chức làm việc với các mô hình AI phức tạp.

“Generative AI is transforming the ways we make things” – FPT Software.

Trí tuệ nhân tạo tạo sinh, hay AI tạo sinh (Generative Artificial Intelligence), mô tả các thuật toán (chẳng hạn như ChatGPT) có thể được sử dụng để tạo nội dung mới, bao gồm âm thanh, mã, hình ảnh, văn bản, mô phỏng và video. Hình thức tiện lợi này cho phép máy tính tạo ra tất cả các loại nội dung mới và thú vị, từ âm nhạc và nghệ thuật đến toàn bộ thế giới ảo. Không chỉ để giải trí, AI tạo sinh còn có rất nhiều ứng dụng thực tế, như tạo ra các thiết kế sản phẩm mới và tối ưu hóa các quy trình kinh doanh.

Trong khuôn khổ sự kiện, những ứng dụng mà Trí tuệ nhân tạo tạo sinh có thể áp dụng vào việc quản lý, vận hành Doanh nghiệp là những chủ đề mà các khách mời rất quan tâm. Tại phiên hội thảo với chủ đề Generative AI is transforming the ways we make things”, Ông Đào Hữu Hùng,Principal AI Scientist of AI Center FPT Software còn đem đến màn trình diễn Live Demo để giúp các Khách mời có cái nhìn trực quan, dễ hiểu về việc áp dụng Gen AI.

 

Sự kiện Generative AI And Recommend System With NVIDIA Solutions” là không gian kết nối trao đổi kiến thức cũng như cơ hội hợp tác nghiên cứu, sáng tạo công nghệ và phát triển nguồn nhân lực cho đổi mới sáng tạo. Tại sự kiện, các diễn giả từ NVIDIA, FPT software và ADG đã giải đáp rất nhiều câu hỏi, thắc mắc từ các Khách mời tham dự. Kết thúc sự kiện, BTC còn có một phần Quay số may mắn vô cùng hấp dẫn để giành tặng cho các Khách hàng may mắn tham dự sự kiện. Hãy cùng chúng tôi xem lại một số hình ảnh từ sự kiện Generative AI And Recommend System With NVIDIA Solutions”. 

Mọi ý kiến, thắc mắc cũng như cần trao đổi thêm thông tin về các chủ đề của sự kiện, Quý vị vui lòng liên hệ đại diện BTC:

  • Nguyễn Khánh Linh (Ms.) – E: khanhlinh.nguyen@adg.vn – P: 0969100808
  • Chuyên gia giải pháp NVIDIA: Anh Nguyễn Thành Quế – E: quenguyen@nvidia.vn
  • Phụ trách sản phẩm NVIDIA: Anh Nguyễn Tiến Dũng (David) -E: tiendung.nguyen@adg.vn
  • Principal AI Scientist, AI Center, PFT Software: Anh Đào Hữu Hùng -E: hungdh3@fpt.com

 

 

Bài viết liên quan

ADG No Image

Thiết bị lưu điện và bước chuyển đổi từ ắc quy axit-chì sang Pin Lithium Ion

Trong hơn nửa thế kỷ đã qua, ắc quy axit- chì đã được sử dụng như một phương án lưu…

ADG No Image

Đưa AI đến gần hơn với doanh nghiệp Việt Nam: Startup Empowerment: Unveiling the Gateway to Global Innovation do ADG, NVIDIA và FPT đồng tổ chức

Vừa qua, ADG Disribution đã phối hợp cùng NVIDIA và FPT tổ chức sự kiện Startup Empowerment: Unveiling the Gateway…

ADG Đẩy Mạnh Hạ Tầng AI Tại Việt Nam: Giải Pháp Công Nghệ Tối Ưu Cho Doanh Nghiệp

ADG Đẩy Mạnh Hạ Tầng AI Tại Việt Nam: Giải Pháp Công Nghệ Tối Ưu Cho Doanh Nghiệp

Với mục tiêu hỗ trợ doanh nghiệp Việt xây dựng hạ tầng AI, đặc biệt là tối ưu hóa hiệu…

ADG đồng hành cùng doanh nghiệp Việt đưa công nghệ AI NVIDIA về Việt Nam

ADG đồng hành cùng doanh nghiệp Việt đưa công nghệ AI NVIDIA về Việt Nam

ADG, nhà phân phối chính thức của NVIDIA tại Việt Nam, đã trở thành mắt xích quan trọng giúp các…

ADG hỗ trợ doanh nghiệp Việt tiếp cận sản phẩm AI tiên tiến của NVIDIA

ADG hỗ trợ doanh nghiệp Việt tiếp cận sản phẩm AI tiên tiến của NVIDIA

ADG, nhà phân phối chính thức của NVIDIA tại Việt Nam, đã trở thành mắt xích quan trọng giúp các…

TUYỂN DỤNG THÁNG 5: TRƯỞNG PHÒNG NHẬP HÀNG
ADG No Image

ADG Vinh Dự Nhận 2 Giải Thưởng Tại Sự Kiện Launch Into The Lightspeed Và Lễ Kỷ Niệm 20 Năm Dell Việt Nam!

Hành trình 20 năm đồng hành cùng Dell Technologies, ADG khẳng định vị thế dẫn đầu với 2 giải thưởng…

SIÊU MÁY CHỦ TRÍ TUỆ NHÂN TẠO NVIDIA DGX A100

SIÊU MÁY CHỦ TRÍ TUỆ NHÂN TẠO NVIDIA DGX A100

  NVIDIA DGX A100 là hệ thống phổ quát cho tất cả các AI workload Siêu máy chủ này có…

ADG No Image

ADG Distribution Đạt Giải “FY23 Trailblazing Distributor ” Tại Kingston Channel Conference 2024 Vietnam

Ngày 23 tháng 3 năm 2023 – ADG vinh dự nhận giải thưởng Trailblazing Distributor FY23 tại sự kiện The…

AI Việt Nam bước vào kỷ nguyên mới: Đại học Công nghệ Thông Tin sở hữu siêu máy chủ AI NVIDIA DGX A100 đầu tiên tại Việt Nam

AI Việt Nam bước vào kỷ nguyên mới: Đại học Công nghệ Thông Tin sở hữu siêu máy chủ AI NVIDIA DGX A100 đầu tiên tại Việt Nam

Trường đại học Công nghệ thông tin (Đại học Quốc gia TP.HCM) vừa tiếp nhận siêu máy chủ AI NVIDIA…