1935년 만주 봉천(현, 중국 선양)에서 태어나 여섯 살 무렵 일본으로 이주했다. 일곱 살부터 피아노를 배우기 시작했고, 음악 명문인 도호 학교에 진학하여 사이토 히데오에게 사사하면서 본격적으로 지휘를 공부했다. 대학을 졸업하고 1959년 프랑스로 건너가 그해 브장송 국제청년지휘자 콩쿠르에서 1위에 입상했고, 이듬해 버크셔 음악센터(현, 탱글우드 페스티벌) 지휘자 콩쿠르에서도 쿠세비츠키상을 받는 영광을 안았다. 이후 베를린에서 헤르베르트 폰 카라얀에게 사사했고, 1961년 레너드 번스타인이 이끄는 뉴욕 필하모닉의 부지휘자로 취임했다. 시카고의 래비니아 페스티벌(1964), 샌프란시스코 심포니(1970) 등의 음악감독을 역임했으며, 1973년 보스턴 심포니의 음악감독으로 취임한 이래 근 삼십 년 동안 같은 오케스트라를 맡아 음악사에 진기록을 남겼다. 2002년부터 빈 국립오페라극장 음악감독으로 활약했고, 사임 후 2010년 빈 필하모니 명예단원 칭호를 받았다. 2011년 식도암 수술 후 휴식기를 가졌는데, 마침맞게 무라카미 하루키와 인연이 닿아 대담집 《오자와 세이지 씨와 음악을 이야기하다》를 출간, ‘고바야시히데오상’을 수상했다. 그의 화려한 경력에 걸맞게 1994년 탱글우드 뮤직센터에 ‘세이지 오자와 홀’이 설립되었고, 프랑스 ‘레지옹 도뇌르 훈장 슈발리에’(1998), 일본 ‘문화훈장’(2008) 등을 수상했다. 특히 스승을 기리며 ‘사이토 기넨記念 오케스트라’를 조직, 1992년부터 매해 나가노에서 ‘오자와 세이지&사이토 기넨 페스티벌 마쓰모토’를 개최하고 있다. 2024년 타계했다.