Năm 1858, Pháp nổ súng xâm lược Việt Nam, lần lượt chiếm đóng Sài Gòn và các tỉnh Gia Định, Biên Hòa, Định Tường rồi cưỡng chiếm nốt ba tỉnh miền Tây là Vĩnh Long, An Giang, Hà Tiên.
Để phục vụ cho guồng máy cai trị, người Pháp đặt mục tiêu hủy diệt nền Nho học, chữ Hán, chữ Nôm phải triệt bỏ và thay thế bằng chữ Pháp, chữ quốc ngữ cùng một họ mẫu tự La tinh. Hệ thống thi cử thời phong kiến bị hủy bỏ. Năm 1864 là kỳ thi Hương cuối cùng ở Nam Kỳ (tổ chức ở ba tỉnh miền Tây). Ở Bắc Kỳ và Trung Kỳ, dưới quy chế bảo hộ, sự thay đổi về giáo dục chậm hơn.
Loại bỏ được chế độ giáo dục Nho học, nhưng để áp dụng nền giáo dục Pháp vào Việt Nam thì không đơn giản. Những năm đầu, soái phủ Nam Kỳ gặp rất nhiều khó khăn khi hệ thống trường Nho học giải tán. Các giáo chức rời bỏ nhiệm sở ra vùng tự do thuộc triều đình Huế để tiếp tục chức vụ. Nhiều học trò gác bút nghiên, cầm giáo mác tham gia các lực lượng nghĩa quân.
Ngày 17/11/1874, chuẩn đô đốc Krantz, thống đốc Nam Kỳ ký nghị định tổ chức lại ngành học, được áp dụng đến tháng 3/1879 quy định hệ thống giáo dục với hai bậc, tiểu học và trung học. Tiểu học sẽ tập đọc và viết chữ quốc ngữ, chữ Nho, học tiếng Pháp; mẹo hay pháp ngữ sơ đẳng; toán sơ đẳng; hình học sơ đẳng; khái niệm đo đạc; tổng quan về lịch sử và địa lý.
Đến bậc trung học, học sinh sẽ học kỹ hơn về tiếng Pháp, văn học Pháp; làm luận bằng tiếng Pháp, quốc ngữ và chữ Nho và nhiều nội dung nâng cao hơn về toán, vũ trụ, vật lý, hội họa…
Song, Pháp nhận ra chương trình giáo dục của họ quá Tây, khi áp dụng với dân tộc có nền văn hiến lâu đời lại trở nên phản tác dụng. Người Pháp thấy cần thay đổi chính sách giáo dục.
Năm 1879, nghị định cải tổ giáo dục Nam Kỳ được ban hành, chia chương trình học chính làm ba cấp. Cấp một học trong ba năm, dạy Pháp văn, quốc ngữ và Hán văn. Cấp hai có thời lượng ba năm, mỗi tuần sẽ dành hai giờ cho chữ Nho và quốc ngữ, còn lại dành cho tiếng Pháp.
Riêng cấp ba sẽ học trong bốn năm với nhiều nội dung, dạy bằng tiếng Pháp như số học, hình học phẳng, đại số, lượng giác, trắc lượng, vẽ, địa lý, vũ trụ, hóa học, vật lý, vạn vật học…
Chính sách giáo dục và chương trình giáo khoa ba cấp 10 năm được thi hành khá nghiêm túc và lâu dài, ngôn ngữ chính là tiếng Pháp nhằm thay thế chương trình hai cấp sáu năm trước đó.
Năm 1906 đánh dấu bước cải cách mạnh mẽ nền giáo dục cho toàn cõi Đông Dương bằng việc Pháp lập nha tổng giám đốc Học chính Đông Dương để thống nhất và chỉ đạo, điều hành giáo dục các địa phương.
Người Pháp lập hội đồng cải thiện giáo dục bản xứ, nghiên cứu tất cả vấn đề có liên quan đến sự sáng tạo, hoặc cải tổ nền giáo dục. Bậc tiểu học trước đây được phó mặc cho thôn xã hay tư nhân, nay trở thành việc của chính quyền với tên gọi là đệ nhị cấp (tiểu học) và đệ tam cấp (trung học). Chương trình học được thêm vào nội dung mới nhất của khoa học phương Tây, tri thức thực hành thông dụng.
Ở Bắc Kỳ và Trung Kỳ, theo quy chế bảo hộ nên đầu thế kỷ 20 Pháp mới bắt đầu cải tổ giáo dục, đầu tiên là thay đổi kỳ thi Hương. Pháp lập trường Quốc học Huế và trường Bảo hộ ở Hà Nội (nay là THPT Chu Văn An) để dạy trung học.
Đợt cải cách này không mấy thuận buồm xuôi gió, đặc biệt khi tiến hành ở Trung Kỳ và Bắc Kỳ bởi những nơi này có hệ thống giáo dục tồn tại lâu đời, do tầng lớp văn thân điều khiển, chống lại ý đồ của Pháp. Kỳ thi Hương cuối cùng ở Bắc Kỳ là năm 1915, và ở Huế năm 1918. Chế độ giáo dục và khoa cử Nho học thực sự bị khai tử với khoa thi Hội năm 1919 ở Huế.
Giai đoạn 1917-1945, đánh dấu đợt cải cách giáo dục lần thứ hai bằng việc thiết lập chương trình học chính Pháp - Việt, mở đầu bằng sự kiện ngày 21/12/1917 Toàn quyền Đông Dương Albert Sarraut ký nghị định ban hành tổng quy chế nền học chính toàn cõi Đông Dương. Văn bản được xem như bộ luật giáo dục, dày 282 trang, với mục tiêu thống nhất nền giáo dục bản xứ, tiến tới xóa bỏ nền giáo dục cũ.
Nền học chính lúc này được chia làm ba cấp, cấp một là các trường tiểu học, cấp hai là cao đẳng tiểu học, cấp ba là bậc trung học (tú tài), với hai hệ thống giáo dục gồm trường Pháp và trường Pháp bản xứ. Chương trình giáo khoa Pháp ở Đông Dương gần giống như bên Pháp, dành cho học sinh Pháp và một số ít học sinh Việt vào làng Tây hoặc được coi như Tây.
Với đợt cải cách giáo dục lần hai, việc đưa chữ quốc ngữ vào tiểu học đã giúp trẻ nhanh chóng biết đọc biết viết, hơn hẳn trước kia học chữ Hán khó nhớ. Chương trình học bao gồm cả khoa học tự nhiên và khoa học xã hội với tính hệ thống cao. Bên cạnh các trường phổ thông, Pháp còn lập ra trường dạy nghề để học sinh khó khăn khi học xong tiểu học có thể học nghề, tìm việc kiếm sống.
Ở cuối thời Pháp trị 1945-1955, tình hình giáo dục rất phức tạp. Pháp vẫn chỉ đạo nền giáo dục tại vùng tạm chiếm Sài Gòn - Gia Định, song giữa Pháp và các nước liên hiệp Lào, Campuchia, Việt Nam (chính quyền Sài Gòn) ký hiệp ước chuyển giao các cơ quan giáo dục và văn hóa từ năm 1949. Do đó, chính quyền Sài Gòn ít nhiều bắt đầu can thiệp vào giáo dục từ đấy. Nhiều trường cao đẳng, đại học lớn được thành lập trong giai đoạn này.
Giáo dục thời Pháp kéo dài gần một thế kỷ với nhiều ý kiến đánh giá trái chiều. Mặt tiêu cực của nó với Việt Nam là những mưu đồ thực dân của Pháp đã đạt được. Bởi thế năm 1905, Phan Bội Châu cho rằng nền giáo dục của Pháp "chỉ dạy viết văn Pháp, nói tiếng Pháp, tạm thời làm nô lệ cho Pháp".
Còn học giả Trần Trọng Kim lại giật mình khi nền giáo dục Pháp đã biến một xã hội "nghe đến nước mình thì ngây ngây như người ngoại quốc, sử nước mình không biết, tiếng nói nước mình thì chỉ biết qua loa".
Song, mặt tích cực ngoài ý muốn của Pháp là tạo ra một tầng lớp tri thức có trình độ đại học, nắm vững khoa học, kỹ thuật tiên tiến. Những người này trước là phục vụ bộ máy cai trị của Pháp, sau tháng 8/1945 lại trở thành nguồn nhân lực có trình độ, chuyên môn, phục vụ trong bộ máy của Việt Nam.