谷牧，原名刘家语，山东省荣成市宁津镇东墩村人。少年时，在荣成县立第一小学学习，成绩优异。期间，由于受新文化运动的影响，开始接受进步的思想教育。毕业后留校任教，阅读了大量进步书籍，坚定了共产主义理想。1931年，加入中国共产主义青年团，并与同学曹漫之等成立了“鲁迅读书会”，广泛宣传鲁迅的思想。1932年，由孙己太介绍加入了中国共产党。他在学校积极活动，又发展了毕庶梓、楚金盛为中共党员。9月，根据中共荣成特支的指示，谷牧考入文登第七乡师读书，同时做党的工作。该校校长于云亭也是中共党员，因此文登第七乡师成为开展革命活动的重要阵地和培养革命力量的摇篮，当时一度被誉为“红七师”。不久，在于云亭的保护和指导下，成立了七乡师第一届党支部，谷牧任书记。到1933年秋天，党组织发展了30多名党员，占学生总数近四分之一。

1934年初，文登乡师党组织遭到破坏，党的活动被迫转入地下，谷牧、丛烈光等陆续离开了乡师。按照上级的安排，谷牧到海阳县驾马沟村小学教书，以教学为掩护，继续开展党的活动。1935年去北平，参加北平左翼作家联盟，先后任组织委员、书记等职。1936年被派到东北军，从事兵运工作。抗日战争爆发后，在东北军六十七军一О七师工作。1938年3月被中共中央长江局派往东北军五十七军一一二师，在万毅任团长的六六七团工作，发展万毅加入中国共产党。后主持一一二师中共工作委员会工作。1940年撤出东北军，进入山东抗日民主根据地，先后任中共中央山东分局秘书主任、统战部部长。1943年，谷牧任八路军一一五师兼山东军区政治部统战部部长。1944年起任中共滨海区第二地委书记兼滨海军区第二军分区政委，参加巩固和发展滨海抗日根据地的斗争。1946年起，历任中共中央华东局秘书长，中共新海连特委书记兼警备区政委，鲁中南区党委副书记兼军区第一副政委等职。

1948年9月济南解放后，谷牧任中共济南市委书记、济南市市长、警备区政委。1952年2月，先后任中共上海市委宣传部部长、市委副书记，上海市工业生产工作委员会书记。1954年后，历任国家建委副主任、党组副书记，国务院第三办公室副主任，国家经委副主任，中共中央工业交通政治部主任。1965年后，历任国家基本建设委员会主任、党组书记，国家计划委员会副主任、党的核心小组副组长。1966年，兼任中国人民解放军基本建设工程兵政委。1975年起任国务院副总理兼国家建委主任、党组书记，国家进出口管理委员会主任、党组书记，国家外国投资管理委员会主任、党组书记。1980年，任中共中央书记处书记。1982年，任国务委员。1988年，任全国政协副主席。1993年，因年事已高不再担任国家领导职务。