Nguồn tin của FT cho biết Nvidia dự kiến xuất xưởng 1,5-2 triệu chip H100 vào năm 2024, tăng vài lần so với mục tiêu sản xuất 500.000 chiếc năm nay. Hãng cũng dự đoán nhu cầu chip máy chủ AI sẽ tăng gần 50% mỗi năm trong 5 năm tới.
Trong báo cáo tài chính quý I/2023, CEO Jensen Huang xác nhận công ty đang tăng cường nguồn cung để đáp ứng nhu cầu chip H100 của thị trường. H100, GPU trị giá 40.000 USD, đang được săn lùng nhiều nhất trong cơn sốt AI. Đây là thành phần quan trọng trong việc phát triển các mô hình ngôn ngữ lớn.
CEO Nvidia Jensen Huang giới thiệu chip H100 tại Computex 2023 Đài Loan ngày 30/5. Ảnh: Khương Nha
Đầu tháng này, FT cho biết Arab Saudi và UAE đã mua hàng nghìn H100. Trước đó, Reuters đưa tin chip của Nvidia quan trọng đến mức các công ty Trung Quốc sẵn sàng mua qua chợ đen khi Mỹ tăng cường cấm vận.
"Trong quý II, chúng tôi đã bàn giao số hợp đồng trị giá 10 tỷ nhân dân tệ (1,4 tỷ USD) và nhận thêm các hợp đồng mới trị giá 30 tỷ nhân dân tệ. Nhưng rắc rối lớn nhất là chip của Nvidia. Chúng tôi không biết bao giờ có thể nhận và nhận được bao nhiêu", một giám đốc bán hàng của Inspur Electronic Information Industry, nhà cung cấp máy chủ hàng đầu Trung Quốc, nói với FT.
Tuần trước, Foxconn cũng dự báo nhu cầu về máy chủ AI sẽ tăng mạnh trong những năm tới. Trong khi đó, Lenovo nói doanh thu của công ty trong quý II đã giảm 80% vì thiếu bộ xử lý AI. Nhiều nhà cung cấp dịch vụ đám mây (CSP) đã chuyển nhu cầu từ máy tính truyền thống sang máy chủ AI nhưng nguồn cung bị hạn chế. Tại Mỹ, các nhà cung cấp dịch vụ cloud như Microsoft, Amazon và Google đang chuyển trọng tâm sang xây dựng cơ sở hạ tầng AI.
Bên cạnh tình trạng thiếu chip Nvidia, các nhà phân tích cũng chỉ ra một điểm nghẽn khác trong chuỗi cung ứng đang làm chậm tiến trình phát triển AI. Brady Wang, nhà phân tích của Counterpoint, nói: "Chuỗi cung ứng đang gặp vấn đề liên quan đến năng lực đóng gói bao bì tiên tiến và bộ nhớ băng thông cao (HBM). Cả hai đang bị hạn chế về sản lượng".
TSMC có kế hoạch tăng gấp đôi công suất cho CoWoS, công nghệ đóng gói tiên tiến cần thiết để sản xuất H100. Tuy nhiên, công ty cảnh báo tình trạng thiếu hụt sẽ kéo dài đến cuối 2024.
Khương Nha (theo FT, Business Insider)