张钟俊1926年就读于嘉兴二中,后又转至上海南洋中学学习,于1930年考入国立交通大学电机系,1934年毕业,获学士学位,其后在中美文化教育基金资助下留学美国麻省理工学院,分别于1937年和1938年,获该校硕士及博士学位,并作为麻省理工学院第一个博士后副研究员留校工作。同年闻知日军占领杭州,遂辞去职务,拒美公司高薪邀请而回国任教,先后担任当时已迁至乐山的武汉大学、以及国立中央大学教授。
1940年转任于因抗战而内迁重庆的交通大学教授、电信研究所所长等职。1946年随交大迁回上海,任电机系系主任。50年代亲自创建了上海全市的电力系统规划设计。1960年代后逐渐转向自动控制理论的研究,创建自动控制系并担任系主任。后期致力于系统工程领域的研究。曾参与长江三峡工程可行性论证。于1980年当选学部委员(中国科学院院士)。