Sau khi tốt nghiệp đại học Harvard về chuyên ngành toán và kinh tế. Steve Ballmer bắt đầu sự nghiệp của mình với vị trí trợ lý giám đốc sản phẩm tại công ty Procter & Gamble.
Ballmer gia nhập Microsoft năm 1980 và là nhân viên thứ 30 của công ty. Ban đầu ông là trưởng một số bộ phận của công ty, bao gồm: Bộ phận Phát triển Hệ điều hành, Bộ phận Điều hành, và Bộ phận Bán hàng và Hỗ trợ. Đến tháng 7/1998, ông được đề bạt làm chủ tịch của công ty.
Tháng 1/2020, Steve Ballmer nhậm chức Giám đốc điều hành của Microsoft thay cho Bill Gates. Trong suốt thời gian giữ chức vụ, doanh thu Microsoft đã tăng gấp 3 dù hãng thường xuyên chật vật khi phải cạnh tranh với Apple, Google trong mảng điện thoại di động, máy tính bảng và tìm kiếm trên Internet.
Tháng 2/2014, ông rời ghế CEO Microsoft nhường lại vị trí cho Satya Nadella. Tuy nhiên, ông vẫn nằm trong ban lãnh đạo của Microsoft và sở hữu 4% cổ phần tại tập đoàn.
Sau khi rời Microsoft, Ballmer không còn hoạt động trong lĩnh vực công nghệ. Ông hiện sở hữu đội bóng rổ Los Angeles Clippers, trị giá 2,6 tỷ USD và tham gia các hoạt động từ thiện cùng vợ, bà Connie.
