Sản phẩm được trang bị Nvidia GB10 Grace Blackwell Superchip, mang đến hiệu suất AI lên đến 1 petaflop FP4, mức hiệu năng thường chỉ có trên các hệ thống AI datacenter.
Nhờ sở hữu 128GB LPDDR5x Unified Memory, hệ thống dùng chung bộ nhớ CPU-GPU giúp tăng tốc độ xử lý tác vụ AI nặng, đặc biệt là LLM và multimodal.
Theo đó, AI Top Atom có thể đảm nhiệm: Fine-tune mô hình đến 70B parameters, Inference mô hình đến 200B parameters, kết hợp hai thiết bị để xử lý tới 405B parameters.
Với kích thước 150 × 150 mm, trọng lượng 1,3 kg và mức tiêu thụ điện 240W, thiết bị phù hợp mọi không gian làm việc, phòng lab, studio hay văn phòng doanh nghiệp.
Ngoài ra, điểm nhấn khi mở bán tại thị trường Việt Nam là AI Top Utility - bộ công cụ AI tích hợp của hãng Gigabyte, cho phép triển khai mô hình AI trực quan, nhanh chóng và phù hợp cả người dùng mới lẫn chuyên gia.
AI Top Utility là lợi thế lớn của AI Top Atom tại thị trường Việt Nam. Ảnh: Gigabyte
Cụ thể, AI Top Utility - giải pháp AI cục bộ giúp người dùng vận hành mô hình AI dễ dàng qua Inference Hub, bao gồm LLM, Text-to-image, Text-to-video, Image-to-text và Multimodal, tất cả đều thông qua giao diện trực quan, không yêu cầu lập trình. RAG Workflow hỗ trợ tạo hệ thống hỏi - đáp dựa trên tài liệu nội bộ, tự động embed dữ liệu, xây dựng knowledge base và triển khai RAG ngay trên thiết bị.
Với kích thước 150 × 150 mm, trọng lượng 1,3 kg, thiết bị phù hợp mọi không gian làm việc. Ảnh: Gigabyte
Người dùng còn có thể truy cập Model Hub với hơn 70 mô hình AI nguồn mở, gồm LLM, diffusion và CV được Gigabyte xác thực, giúp rút ngắn thời gian thiết lập. Dashboard cho phép giám sát GPU, CPU, RAM theo thời gian thực, tối ưu hiệu năng các workload AI. Trong khi đó, ML Zone cung cấp môi trường Machine Learning low-code, phù hợp cho giáo dục, nghiên cứu, giảng dạy và người mới làm quen AI, đồng thời kết nối mạnh mẽ cho các tác vụ AI chuyên sâu.
Thế Đan