NVIDIA-A100-2

Tiết lộ hệ thống khổng lồ hàng nghìn GPU NVIDIA A100 vận hành Chat GPT

XEM NHANH

Cũng như các siêu máy tính lưỡng tử được thành lập dựa trên một hệ thống nhiều CPU liên kết với nhau tạo nên cỗ máy có thể tính toán và xử lý hàng tỷ phép tính mỗi giây. Nhằm để tạo nên một siêu AI trong thế giới công nghệ, Microsoft đã đầu tư 1 tỷ USB vào Open AI năm 2019 để dành cho việc nghiên cứu về trí tuệ nhân tạo. Để cải tiến và tăng hiệu quả hoạt động của hệ thống AI – Chat GPT họ tạo nên hệ thống từ mẫu GPU NVIDIA A100.

Siêu hệ thống từ hàng nghìn GPU NVIDIA A100

Đối mặt với mô hình học liên tục cần dữ liệu và tham số khổng lồ để đào tạo và học hỏi. Microsoft đã đầu tư hệ thống với hàng nghìn GPU NVIDIA A100 liên kết với nhau để xây dựng mô hình huấn luyện AI dành cho OpenAI. Một siêu hệ thống bao gồm nhiều card đồ họa được liên kết cùng nhau đặt trên các kệ hoạt động cùng lúc để tăng khả năng xử lý và tính toán

Siêu hệ thống từ hàng nghìn GPU NVIDIA A100
Siêu hệ thống từ hàng nghìn GPU NVIDIA A100

Các mẫu card đồ họa đảm nhiệm chức năng trả lời các truy vấn và tính toán liên tục trong mô hình huấn luyện. Việc thiết lập và tối ưu chúng không hề dễ dàng từ sợi dây cáp, giá đỡ, điện áp, kết nối và tối ưu nhiệt độ,…. cần phải được thực hiện một cách tỉ mỉ và đòi hỏi sự tính toán cẩn thận.

Điều này đặt ra vô vàn khó khăn vì chỉ một sai sót cả hệ thống có thể bị lỗi và hỏng gây thiệt hại vô cùng to lớn về người và của. Chính điều đó, Microsoft phân mảnh chúng thành 60 trung tâm dữ liệu nằm rải rác kết nối với nhau để cùng xử lý. Việc này sẽ giúp tối ưu về nhiệt độ và điện áp đầu vào toàn hệ thống luôn ổn định. Bất kì sai nót nào có thể biến mộ trung tâm dữ liệu này trở thành lò nướng đúng nghĩa đen.

Hệ thống các trung tâm mô hình AI
Hệ thống các trung tâm mô hình AI

Gần đây, hãng có vẻ như đang lên kế hoạch chuyển đổi sang dòng card đồ họa mới GPU H100 – một phiên bản mới hệ hỗ trợ trao đổi dữ liệu tốc độ cao và khả năng tính toán tốt hơn mô hình của họ.

Tính đến thời điểm hiện tại, Microsoft vẫn tiếp tục nghiên cứu và thiết kế các tùy chỉnh để tối ưu chuỗi hệ thống nhằm cắt giảm chi phí và tăng hiệu quả của mô hình AI. Vốn dựa trên các siêu máy tính nhưng để huấn luyện được mô hình AI thì còn chặng đường khá dài ở phía trước. Chúng ta cũng rất trông chờ thấy viễn cải trong phim khoa học viễn tưởng – nhu cầu học tập và làm việc luôn có trợ lý hỗ trợ giải đáp mọi thứ.

Trả lời câu hỏi về hệ thống siêu dữ liệu này,  ông Scott Guthrie, phó chủ tịch về đám mây và AI của Microsoft đề ra con số lên đến hàng trăm triệu USD để xây dựng một hệ thống như vậy.

Còn theo bà Nidhi Chappell, tổng giám đốc Microsoft về cơ sở hạ tầng Azure AI ” khi hệ thống vận hành trơn tru và đáng tin cây ở quy mô lớn thì sẽ còn nhiều hơn nữa những mô hình khác sẽ được ra mắt”.

Đây có thế sẽ là một mảng kinh doanh béo bở khi nhiều nhận định cho rằng, Microsoft có thể bán mô hình này cho các công ty khác để tối ưu nhiều khâu trong quá trình vận hành.

Tạm kết

Bài viết trên là những thông tin mới nhất về hệ thống NVIDIA A100 của Microsoft  . Ngoài ra, các bạn có thể follow Fanpage chúng tôi để nhận được tư vấn khi tìm mua laptop.

Tham gia Hoàng Hà Mobile Group để cập nhật những chương trình và ưu đãi sớm nhất

Xem thêm: Chat GPT trên Telegram cực dễ dàng lại miễn phí

Cùng Follow kênh Youtube của Hoàng Hà Mobile để cập nhật những tin tức mới nhất, sinh động nhất nhé!

Tin mới nhất
tft
Đội hình Pháp Sư mùa 11 DTCL mạnh nhất TFT
red-dead-redemption-3
Những yếu tố lịch sử hào hùng trong Red Dead Redemption 3
goku-xenoverse
Goku Xenoverse với hình dạng Ultra Supervillain mới
tft-meta
Danh sách tộc hệ đội hình Đấu Trường Chân Lý TFT set 11