← VnExpress Khoa học công nghệ

VNG Cloud AI Stack - hệ sinh thái AI sẵn sàng, tối ưu cho doanh nghiệp Việt

VNG Cloud AI Stack - hệ sinh thái AI sẵn sàng, tối ưu cho doanh nghiệp Việt

Dành cho các doanh nghiệp Việt muốn tận dụng sức mạnh của AI mà không cần đầu tư lớn vào hạ tầng hay đội ngũ kỹ thuật chuyên sâu, VNG Cloud AI Stack cung cấp hệ sinh thái AI toàn diện - từ AI Model-as-a-Service đến hạ tầng GPU hiệu suất cao. Khác biệt với các giải pháp nước ngoài, chúng tôi đảm bảo tuân thủ dữ liệu trong nước, tối ưu chi phí và dễ dàng tích hợp vào hệ thống hiện có.

Với hơn 20 năm kinh nghiệm phát triển sản phẩm công nghệ, VNG Cloud sở hữu hệ sinh thái toàn diện, từ trung tâm dữ liệu, hạ tầng đám mây đến hạ tầng tính toán GPU tối ưu cho AI, giúp doanh nghiệp triển khai AI nhanh chóng và hiệu quả. Nhờ khả năng triển khai linh hoạt và tối ưu, VNG Cloud AI Stack không chỉ tăng tốc đổi mới, mà còn tối ưu vận hành, nâng cao lợi thế cạnh tranh, tạo nền tảng vững chắc để doanh nghiệp khai thác tối đa tiềm năng của AI.

3 lớp trong VNG Cloud AI Stack

1. AI Infrastructure: cung cấp tài nguyên phần cứng, phần mềm và hệ thống để vận hành, huấn luyện và triển khai các mô hình AI. Nhiệm vụ chính của layer này là cung cấp compute (CPU/GPU), volume, network, security và orchestration cho toàn bộ AI workload. Các thành phần chính của AI Infrastructure bao gồm: VKS, OpenSearch Cluster Database, PostgreSQL Database, Object Storage, NVIDIA GPU, High Performance Compute, Network.

2. AI Platform: VNG Cloud cung cấp một môi trường hoàn chỉnh để thử nghiệm (notebook), tinh chỉnh (fine-tune) và suy luận (inference) các mô hình AI ngay trên nền tảng GPU mạnh mẽ. Điều này giúp doanh nghiệp nhanh chóng cải tiến các mô hình AI mà không cần thiết lập môi trường phức tạp. VNG Cloud AI Platform còn hỗ trợ Model as a Service - truy cập đa dạng các mô hình GenAI hàng đầu như GPT, Claude, Gemini, DeepSeek... chỉ với một API. Nền tảng bao gồm cả mô hình mã nguồn mở và các mô hình được tối ưu cho tiếng Việt, từ đó, giúp doanh nghiệp rút ngắn thời gian tích hợp, nhanh chóng thử nghiệm và đưa các tính năng AI mới.

3. AI Gateway: VNG Cloud AI Gateway cung cấp một giao diện thống nhất giúp doanh nghiệp dễ dàng quản lý và kết nối tập trung với nhiều mô hình AI, từ mã nguồn mở, mô hình riêng cho đến các nhà cung cấp khác trên nền tảng AI Platform Inference. Từ đó, doanh nghiệp có thể đơn giản hóa việc tích hợp, đảm bảo hiệu suất ổn định, bảo mật và an toàn trong vận hành. Với các tính năng giám sát - phân tích - cảnh báo theo thời gian thực, AI Gateway giúp có thể theo dõi toàn bộ tương tác giữa ứng dụng và mô hình LLM như hành vi người dùng, luồng truy vấn đến hiệu suất phản hồi của từng mô hình LLM. Hệ thống cảnh báo giúp phát hiện sớm sự cố, từ đó đảm bảo tính ổn định và sẵn sàng cao cho mọi ứng dụng AI.

Điểm mới

1. VNG Cloud cung cấp một nền tảng AI toàn diện giúp doanh nghiệp triển khai, tích hợp và vận hành các ứng dụng AI một cách dễ dàng, bảo mật và hiệu quả. AI Stack của VNG Cloud được thiết kế theo hướng modular, linh hoạt và tối ưu cho cả đội ngũ kỹ thuật và nhà quản lý. Dù doanh nghiệp ở đâu trên hành trình AI, chúng tôi đều có hạ tầng & giải pháp sẵn sàng.

2. VNG Cloud AI Stack hướng đến mô hình GenAI nocoding: Dễ dàng khai thác sức mạnh AI mà không cần đội ngũ Data Scientist, chỉ cần kiến thức cơ bản về lập trình

3. Nền tảng AI thống nhất, trực quan, dễ thao tác: Tất cả các tác vụ AI/ML được vận hành trên VNG Cloud Portal, giao diện thân thiện, tối ưu quy trình triển khai và quản lý AI.

3. Tích hợp liền mạch với hệ sinh thái VNG Cloud: Kết nối mượt mà với các dịch vụ Compute, Storage, Database, GPU, VKS, vMonitor... giúp doanh nghiệp triển khai AI trên nền tảng đám mây mạnh mẽ và ổn định.

4. Giá cả tối ưu cho doanh nghiệp Việt: Mô hình Pay-as-you-go & Pay-per-token, giúp doanh nghiệp tận dụng AI với chi phí linh hoạt, không cần đầu tư hạ tầng ban đầu. Chi phí tối ưu hơn so với các giải pháp AI từ hyperscale cloud, phù hợp với doanh nghiệp Việt muốn triển khai AI hiệu quả mà vẫn kiểm soát ngân sách

5. Bảo mật dữ liệu AI: Hệ thống được đặt tại Việt Nam, đảm bảo tuân thủ pháp luật Việt Nam, cùng với hệ sinh thái bảo mật toàn diện gồm Database Management, Security, Monitoring, mang đến một nền tảng AI an toàn, ổn định cho doanh nghiệp