Theo The Infomation, mô hình ngôn ngữ lớn (LLM) mới nhất của Microsoft có tên MAI-1, chứa 500 tỷ tham số. Mức này lớn hơn mọi LLM mà Microsoft từng phát triển, cao hơn con số 70 tỷ của Meta Llama 3, nhưng thấp hơn so với một nghìn tỷ tham số của OpenAI GPT-4.
Đây cũng là LLM đầu tiên do Microsoft tự phát triển được hé lộ sau thời gian dài sử dụng sản phẩm từ OpenAI, nơi hãng đầu tư hơn 10 tỷ USD trong nhiều năm. Trước đó, Microsoft cùng từng công bố mô hình quy mô nhỏ Phi-3 mini với 3,8 tỷ tham số, phục vụ trong một số dịch vụ như Azure, Hugging Face và Ollama.
Logo Microsoft tại triển lãm MWC ở Barcelona tháng 2/2023. Ảnh: Lưu Quý
Với năng lực mạnh mẽ, LLM mới đòi hỏi nhiều sức mạnh tính toán cũng như dữ liệu đào tạo. Microsoft được cho là đã dành một lượng lớn máy chủ trang bị chip Nvidia để phục vụ dự án này.
MAI-1 được giám sát bởi Mustafa Suleyman, đồng sáng lập Google DeepMind và cựu CEO công ty khởi nghiệp AI Inflection. Hồi tháng 3, Microsoft đã có một thương vụ bất thường khi chi 650 triệu USD để lôi kéo phần lớn nhân sự và các mô hình do AI Inflection phát triển.
Tuy nhiên theo nguồn tin, MAI-1 là sản phẩm độc lập của Microsoft, không phải chuyển giao từ công ty cũ của Suleyman. Microsoft chưa đưa ra bình luận. Hãng có thể giới thiệu MAI-1 tới nhà phát triển tại sự kiện Build, dự kiến tổ chức cuối tháng 5.
Microsoft hiện là một trong những BigTech đi đầu về AI. Dù không sở hữu mô hình ngôn ngữ lớn nổi tiếng, hãng góp công lớn trong việc thúc đẩy ChatGPT và OpenAI, thông qua thương vụ đầu tư cũng như mối quan hệ với CEO Sam Altman. Chatbot Copilot của Microsoft đang chạy trên GPT-4 Turbo cũng được đánh giá là một trong những chatbot tốt nhất hiện nay.
Lưu Quý