Theo John Carmack, cựu giám đốc tư vấn công nghệ của Meta, một số chip đồ họa Nvidia H100 đang được rao bán trên nền tảng eBay với giá 39.995-46.000 USD. Trong khi đó, mức giá được một số công ty bán lẻ đề xuất trước đó là 30.000-36.000 USD.
H100 là chip AI mới và mạnh nhất của Nvidia, cũng là bản kế nhiệm của A100 - có giá 10.000 USD và được mệnh danh là "ngựa thồ" của ngành trí tuệ nhân tạo.
Card gắn chip Nvidia H100. Ảnh: Serve The Home
Trong huấn luyện AI, GPU chiếm ưu thế so với CPU nhờ khả năng tiến hành song song hàng loạt tính toán. Các nhà phát triển đang sử dụng A100 và H100 để xây dựng mô hình ngôn ngữ lớn (LLM), cốt lõi của ứng dụng AI như ChatGPT. Mỗi doanh nghiệp AI cần từ hàng trăm đến hàng nghìn chip như vậy để xử lý lượng lớn dữ liệu và tạo ra nội dung theo yêu cầu. Họ có thể mua trực tiếp hoặc thuê quyền sử dụng từ các nhà cung cấp dịch vụ đám mây.
Microsoft từng chi hàng trăm triệu USD để mua hàng chục nghìn chip Nvidia A100 nhằm phục vụ quá trình phát triển ChatGPT. Theo Business Insider, Elon Musk cũng đã bỏ ra khoản tiền khổng lồ để mua 10.000 card đồ họa nhằm đào tạo AI.
Nvidia cho biết H100 là chip đầu tiên được tối ưu hóa cho kiến trúc AI cụ thể. Giới chuyên gia cho rằng trong cơn sốt AI, các công ty sẽ "khát" những mẫu chip mạnh hơn nữa để phát triển mô hình lớn hơn, sử dụng nhiều dữ liệu hơn các LLM hiện nay.
Điệp Anh (Theo CNBC)