康世恩同志1915年4月20日出生于河北怀安县田家庄。1935年在河北省立北平高中读书时，参加了著名的“一二九”-。1936年考入清华大学地质系学习，同年参加“民族解放先锋队”，担任清华大学学生救国会常委。1936年10月加入中国共产党。
1937年抗日战争爆发后，先后担任120师民运部工作员，山西朔县战地动员委员会主任，晋绥八分区专员。
解放战争期间（1946年至1949年），他担任晋县绥雁门军区政治部主任、一野三军九师政治部主任等职，参加了保卫延安和榆林战役、瓦子街战役以及解放兰州的战斗，为新中国的建立做出了积极贡献。
1949年至1955年任玉门油矿军事总代表、党委书记，西北石油管理局局长，北京石油管理总局局长。燃料工业部石油管理总局局长，石油工业部部长助理、副部长兼大庆油田会战指挥部总指挥，华北石油勘探会战部总指挥，石油工业部主要负责人、党委书记，湖北省革命委员会副主任兼江汉石油会战指挥部副指挥，燃料化学工业部主要负责人，石油化学工业部部长、党的核心小组组长，国务院副总理兼国家经济委员会主任、党组书记，兼任国家计划委员会副主任、党组副书记，国务院财经委员会委员、国家能源委员会副主任、党组第二书记，国务委员兼石油工业部部长等职。1955年7月至1956年9月任石油工业部部长助理、党组委员（1955年10月起）。1956年10月至“文革”初期任石油工业部副部长、党组委员、党委书记（1965年2月起）。
六十年代初，康世恩同志参与领导和直接指挥了大庆石油会战，为我国石油自给做出了重要贡献。当时，国家面临着三年自然灾害带来的巨大困难，苏联又撤走专家，中断我国的石油供应，在最困难的条件下，作为石油会战总指挥的康世恩，代表石油部党组向党中央表示：下决心拼命也要拿下这个大油田。他亲自组织调遣各油田力量，在茫茫的大草原上展开大规模的勘探开发工作。
期间，康世恩同志身先士卒，率先垂范，住帐篷，战严寒，带领几万名会战工人，发扬“有条件要上，没有条件创造条件也要上”的革命精神和“三老、四严”作风，敢打硬拼，艰苦奋斗，夺得了大庆石油会战的胜利，开创了陆相地层寻找大油田的先河。在大庆石油会战取得了决定性胜利之后，康世恩挥师南下，进入地跨辽宁、河北、山东、河南等省的渤海湾地区，组织指挥胜利、大港、辽河等石油会战。创建了一个又一个新的石油基地，从根本上改变了我国石油工业的面貌。
1967年至1969年“文革”中受冲击。1969年至1971年任湖北省革委会副主任兼江汉油田会战指挥部副指挥。1970年6月至1971年9月任燃料化学工业部革委会第一副主任、党的核心小组第一副组长。1971年9月至1975年1月任燃料化学工业部革委会主任、党的核心小组代组长。1975年1月至1978年3月任石油化学工业部部长、党的核心小组组长。1978年3月至1982年5月任国务院副总理。其间：1978年3月至1981年3月兼任国家经济委员会主任，1978年6月至1981年2月任国家经委党组书记；1978年9月至1979年3月兼任国家计划委员会副主任；1979年3月至1981年3月任国务院财政经济委员会委员。
1979年11月25日，渤海2号钻井船在渤海海面上翻沉，72人遇难身亡，直接经济损失3735万元，当时主管石油工业的国务院副总理兼国家经委主任康世恩对这一事故没有认真对待和及时处理，在国务院领导工作中负有重要责任，决定给予记大过的处分。这样的处分决定，在共和国历史上是前所未有的，尤其是对一向-、战功显赫的石油工业战线来说，这种打击是空前的，以往一声吼，也能让地球抖三抖的百万石油工人，此时一下在全国人民面前抬不起头来，受到的屈辱不言而喻。
“渤海2号”翻沉事故的发生，是由于石油部领导不按客观规律办事，不尊重科学，不重视安全生产，不重视职工意见和历史教训造成的。石油部领导对此负有不可推诿的重大责任。
1980年至1982年5月兼任国家能源委员会第一副主任、党组第二书记；1981年3月至1982年5月兼任石油工业部部长、党组书记。1982年5月至1988年4月任国务委员。1987年11月至1992年10月任中共中央顾问委员会常委、中国关心下一代工作委员会主任，除满腔热情地做好培养青少年的工作外，还时刻关心着我国石油工业的发展。
康世恩同志是中共第十一届、十二届中央委员，中共十三大当选为中央顾问委员会委员、常委。
康世恩同志在长期领导石油工业的过程中，坚持运用辩证唯物主义的观点，按照毛泽东同志的《实践论》、《矛盾论》指导中国的石油勘探和油田开发，他善于把石油科学的一般原理和中国地质条件结合起来，解决实际问题，丰富和发展了中国石油地质、油田开发的理论和应用科学。他参与领导和组织指挥了克拉玛依、大庆等十大石油会战和其他油气田的勘探开发，对新中国石油工业的开拓和发展做出了重大贡献。
1995年4月21日，康世恩同志因病在北京去世，享年80岁。