Nvidia ra H200
Sản phẩm được công bố ngày 13/11 và dự kiến ra thị trường vào quý II/2024. Thelịch ngoại hàng anho Nvidia, sự ra đời của H200 sẽ tạo ra những bước nhảy vọt về hiệu suất, trong đó hãng nhấn mạnh đến khả năng suy luận của các mô hình AI dữ liệu lớn.
Thử nghiệm với mô hình ngôn ngữ lớn Llama 2 của Meta với 70 tỷ tham số, H200 mang đến hiệu suất gần gấp đôi so với H100 - chip AI thuộc hàng mạnh mẽ nhất hiện nay và được sử dụng phổ biến trong các ứng dụng AI tạo sinh thời gian qua, bao gồm cả GPT-4 của OpenAI.
Nhà sản xuất không công bố nhiều thông tin về dòng GPU mới, nhưng cho biết chúng đã được cải tiến đáng kể về dung lượng bộ nhớ và băng thông. Sản phẩm vẫn được xây dựng trên kiến trúc Hopper giống bản tiền nhiệm. Tuy nhiên, H200 sử dụng bộ nhớ HBM3e dung lượng 141 GB, băng thông 4,8 TB/s, so với H100 dùng bộ nhớ HBM3 80 GB và băng thông 3,35 TB/s.
![HGX H200 sử dụng tám GPU H200. Ảnh: Nvidia](https://vcdn1-sohoa.vnecdn.net/2023/11/14/nvidia-hgx-h200-dcd4e3bf-a064-5777-1779-1699895690.jpg?w=680&h=0&q=100&dpr=1&fit=crop&s=0F-pgAli19tGOdIixRsybA)
相关推荐
- Nhận định, soi kèo FC Rapid 1923 vs Unirea Slobozia, 22h59 ngày 4/2: Tân binh trắng tay
- Sơn Tùng M
- Cựu danh thủ Hồng Sơn và Huỳnh Đức đóng phim '11 niềm hy vọng'
- Ký ức thời hoàng kim đỉnh cao một thời của Lam Trường
- Nhận định, soi kèo Churchill Brothers vs Sporting Club Bengaluru, 17h00 ngày 3/2: Không thể cản bước
- Ghét thì yêu thôi tập 17: Du quyết đi học lại vì Kim
- Ký ức thời hoàng kim đỉnh cao một thời của Lam Trường
- Hình ảnh tiến sĩ Stephen Hawking thêm kinh điển qua 'Thuyết yêu thương'