Sau khi chiếm được toàn cõi Nam Kỳ, ngày 14/11/1874, Thống đốc Nam Kỳ Jules Francois Emile Krantz đã ký nghị định thành lập ngôi trường trung học tại Sài Gòn để đào tạo con em những người Pháp sinh sống ở đây.
Trường được khởi công năm 1874 và hoàn tất năm 1877, giảng dạy từ tiểu học đến tú tài theo chương trình Pháp. Ngày đầu thành lập, trường có tên Collège Indigène (trung học bản xứ), không lâu sau được đổi tên thành Collège Chasseloup Laubat, theo tên Bộ trưởng Pháp quốc hải ngoại (còn gọi là Bộ Thuộc địa) lúc bấy giờ là Francois Marquis de Chasseloup Laubat (1754-1833).
Trường Chasseloup Laubat. Ảnh tư liệu.
Ban đầu, trường chỉ nhận học sinh người Pháp, đến đầu thế kỷ 20 thì mở rộng để nhận thêm học sinh người Việt có quốc tịch Pháp. Trường dạy từ tiểu học đến tú tài (chương trình của Pháp), chia làm 2 khu vực: khu dành riêng học trò người Pháp và khu dành cho học trò Việt, gọi là khu bản xứ.
Năm 1954, trường lại đổi tên một lần nữa thành Jean Jacques Rousseau (nhà trí thức Pháp trong phong trào Ánh Sáng thế kỷ 18) nhằm tránh gợi nhớ thời thuộc địa. Lúc này, trường vẫn do người Pháp quản lý, chủ yếu dạy học sinh người Việt.
Năm 1967, trường được trả lại cho người Việt Nam và trở thành Trung tâm giáo dục Lê Quý Đôn. Tháng 8/1977, UBND TP HCM quyết định thành lập trường Phổ thông trung học Lê Quý Đôn. Hiện, trường THPT Lê Quý Đôn thuộc hệ thống trường công lập do Sở Giáo dục và Đào tạo TP HCM quản lý.
Trường THPT Lê Quý Đôn được công nhận di tích cấp thành phố, hạng mục kiến trúc nghệ thuật vào tháng 5/2016.
Ngoài 5 trường THPT chuyên Lê Hồng Phong, chuyên Trần Đại Nghĩa, Lê Quý Đôn, Marie Curie, Nguyễn Thị Minh Khai; hai trường THCS khác cũng được TP HCM xếp hạng di tích thành phố gồm THCS Hồng Bàng (quận 5) và THCS Võ Trường Toản (quận 1).