Theo công ty nghiên cứu thị trường Omdia, Meta và Microsoft là hai khách hàng lớn nhất của chip H100. Mỗi công ty mua tới 150.000 chip, nhiều gấp ba so với mức 50.000 chip của các hãng công nghệ lớn khác như Google, Amazon, Oracle và Tencent.
H100 hiện là chip đồ họa GPU mạnh nhất trên thị trường, đồng thời cũng có giá đắt đỏ, khoảng 30.000-36.000 USD và khi khan hàng có thể lên đến 40.000 USD (gần một tỷ đồng). Thông số kỹ thuật cho thấy nó mạnh gấp ba so với bản tiền nhiệm A100, nhưng chi phí vận hành chỉ bằng 1,5-2 lần. Jensen Huang, CEO Nvidia, mô tả đây là "hệ thống đầu tiên trên thế giới được thiết kế cho siêu AI".
Biểu đồ số lượng chip H100 bán ra trong quý III/2023 và doanh thu thị trường máy chủ dự kiến đến 2027. Ảnh: Omdia
Hiện chip AI chủ yếu được bán cho các công ty cung cấp dịch vụ đám mây và chuyên phát triển các mô hình ngôn ngữ lớn. Tuy nhiên, nhiều công ty đang mua chip H100 số lượng lớn như Microsoft, Google, Amazon cũng đang tự tạo chip tùy chỉnh của riêng mình. Do đó, nhu cầu mua GPU Nvidia được dự đoán có thể giảm theo thời gian khi các công ty này phát triển thành công và chuyển sang sử dụng giải pháp nội bộ.
Tuy nhiên, Omdia dự báo đến 2027, thị trường máy chủ sẽ đạt quy mô 195,6 tỷ USD nhờ sự chuyển đổi sang sử dụng máy chủ có thiết kế chuyên dụng cho các tác vụ cụ thể với nhiều co-processor (bộ xử lý bổ sung, hỗ trợ bộ xử lý chính). Máy chủ với cấu hình tùy chỉnh được dự đoán trở thành tiêu chuẩn khi việc phát triển bộ xử lý chuyên dụng với chi phí tốt hơn trở thành hiện thực. Khi đó, các công ty trong nhiều lĩnh vực khác nhau như truyền thông, quản lý cơ sở dữ liệu, dịch vụ web cũng sẽ tham gia vào xu hướng này.