Larry Page sinh ra trong một gia đình có truyền thống nghiên cứu khoa học. Bố của ông là giáo sư chuyên ngành Khoa học máy tính và Trí tuệ nhân tạo. Anh trai của Larry cũng là nhà đồng sáng lập của eGroups, sau này được bán lại cho Yahoo! với giá khoảng nửa tỷ USD.
Ông tốt nghiệp cử nhân chuyên ngành Kỹ sư máy tính tại Đại học Michigan. Ông tiếp tục theo học bằng thạc sĩ tại Đại học Stanford. Tại đây ông gặp gỡ Sergey Brin, người bạn có cùng sở thích tìm hiểu về công cụ tìm kiếm. Cả hai đã khai trương cỗ máy tìm kiếm Google hoạt động dựa vào thuật toán PageRank vào năm 1998.
Larry Page nắm giữ chức vụ Giám đốc điều hành của Google từ năm 1997 đến tháng 8/2001. Sau đó, ông giao lại chức vụ cho Eric Schmidt, người từng làm CEO của Novell.
Đến tháng 4/2011, ông quay lại nắm giữ chức vụ CEO của Google sau khi Eric Schmidt từ chức. Larry Page ở vị trí này hơn 4 năm, sau đó chuyển giao lại cho Sundar Pichai.
Đến tháng 8/2015, ông cùng người bạn Sergey Brin thành lập nên Alphabet - Công ty mẹ quản lý Google cùng các công ty con. Tại Alphabet, ông nắm giữ chức vụ CEO, trong khi Sergey Brin trở thành chủ tịch của công ty.
Tháng 12/2019, Larry Page từ chức CEO của Alphabet và nhường lại vị trí cho Sundar Pichai. Trong nhiều năm liền, Larry chỉ nhận mức lương tượng trưng 1$/năm. Dẫu vậy, ông vẫn có mặt trong Top những người giàu nhất thế giới cùng người bạn Sergey Brin.
Giá trị tài sản của Jeff Bezos giảm 57 tỷ USD, còn Elon Musk giảm 39 tỷ USD so với cách đây một năm.
Trong danh sách 70 người quyền lực nhất thế giới năm 2011 được tạp chí Forbes công bố có nhiều tên tuổi lớn trong làng phần mềm, mạng xã hội như Bill Gates, Mark Zuckerberg, Larry Page và Sergey Brin.