Nvidia ra mắt GPU “quái vật điện toán” H100 với 80 tỷ bóng bán dẫn, 80GB HBM3, ăn 700W điện

Nvidia vừa cho ra mắt GPU H100, đây là mẫu GPU mạnh nhất từng được chế tạo của họ, cho hiệu năng cực kỳ khủng khiếp và ăn tận 700W điện

Nvidia vừa mới công bố mẫu H100, mẫu GPU mạnh nhất từ trước đến nay. Với tổng cộng 80 tỷ bóng bán dẫn được xây dựng trên tiến trình 4N 4nm của TSMC, H100 có thể đạt mức hiệu suất vô cùng khủng khiếp. Nó có nhân Tensor thế hệ 4 mới nhất có thể cho hiệu suất gấp 6 lần so với nhân Tensor trên GPU A100. Ngoài ra thì chiếc card đồ họa cũng được cải tiến MMA (Matrix Multiply Accumulate) gấp 2 lần so với thế hệ trước. Nhờ kiến trúc Hopper mới mà mẫu card đồ họa này cũng được tối ưu để truyền tải các khối dữ liệu tốt hơn.

Chip GPU GH100 đầy đủ sẽ có đến 144 cụm SM với 128 nhân CUDA FP32 trên mỗi cụm, tính ra thì tổng cộng nó sẽ có đến 18.432 nhân CUDA. GPU H100 sẽ có bo mạch tuân theo chuẩn kích thước SXM5 và có 132 cụm SM với tổng cộng 14.592 nhân CUDA. Chiếc GPU có 80GB HBM3 với tổng băng thông 3TB/s.

Có một điều thú vị là chuẩn GPU SXM5 có mức TDP rất lớn, đến tận 700W, đây là điểm khác biệt rất lớn so với card PCIe vốn bị giới hạn ở mức 350W. Đây là một cải tiến lớn của chuẩn GPU SXM so với chuẩn card PCIe, cho phép phần cứng ăn điện nhiều hơn để cho hiệu năng mạnh mẽ hơn.

Tóm tắt nội dung:

• Nvidia công bố mẫu H100 – GPU mạnh nhất từ trước đến nay với tổng cộng 80 tỷ bóng bán dẫn
• GPU H100 sẽ có bo mạch tuân theo chuẩn kích thước SXM5 và có 132 cụm SM với tổng cộng 14.592 nhân CUDA
• GPU này có 80GB HBM3 với tổng băng thông 3TB/s
• Chuẩn GPU SXM5 có mức TDP rất lớn, đến tận 700W