Sundar Pichai chính thức ra nhập Google vào năm 2004, tại đây ông được giao chịu trách nhiệm cho nhiều sản phẩm của Google như Google Search, Google Toolbar, Chrome OS...
Năm 2008, ông là người thuyết phục 2 nhà đồng sáng lập Google là Larry Page và Sergey Brin xây dựng trình duyệt Google Chrome và biến nó thành trình duyệt phổ biến nhất thế giới.
Năm 2013, Sundar Pichai bắt đầu phụ tráng mảng hệ điều hành Android, một trong những thành tựu nổi tiếng nhất của ông là cho ra mắt "Android One".
Ngày 10/8/2015, ông chính thức nhận chức Giám đốc điều hành của Google từ chính Larry Page.
Tháng 12/2019, Sundar Pichai được thông báo nắm giữ chức vụ Giám đốc điều hành tại Alphabet (công ty mẹ của Google) thay cho hai nhà sáng lập Larry Page và Sergey Brin.
