大巴山深处的沙滩乡钟家湾有一个农家子弟，他叫程怀山，1918年生，原名程崇林。他家后的新寨子山林木苍翠，屋前的白沙河碧水长流。这里虽然风光秀丽，在20世纪二、三十年代，贫苦农民却过着食不果腹、衣不蔽体的生活。程怀山有一个哥哥和四个姐妹，靠租几亩薄田瘦地耕种，除交完地租和苛捐杂税，一年多半靠野菜野粮充饥，一家人在饥寒交迫中熬煎着。程怀山很小就和哥哥姐姐一起帮父母在地里劳作，辛辛苦苦劳动一年，交了地租后，家里仍然无粮度日，靠帮长工、打短工度日。
他父亲叫程尊浩，是巴山中一个标准的爱劳动又极其俭朴的农民。他对子女教育非常严格，除了说教，在他气极时，还用烟杆敲打、罚跪，俗话说：“人穷气大”嘛。因此，程怀山只要一看见父亲的脸色不好了，就赶紧躲避，背上背篼去捡柴或是割草。为了补贴家用，程怀山到矿场上背矿石到炼铁厂。一个十二三岁孩子，为了多挣点钱，每次都要背上五六十斤矿石。
民国时，虽然也提倡新生活，但在边远山区，妇女仍要缠足，婚姻仍然遵循“父母之言、媒妁之言”的古训。十二岁那年，他父亲给他娶了个比他大七岁的老婆，而且还是个小脚（缠了足的）。这让程怀山很不高兴。他虽然不懂爱情也不懂得结婚意为着什么，但他就是不喜欢这个老婆，这倒不是程怀山嫌弃她这个人有什么不好，他觉得小脚不好，不能参加劳动，而且比自己大那么多。他常常问：“女人为什么要缠脚？”当然得不到他满意的答案。他时常暗自埋怨父亲为什么要给他娶个比自己大的老婆，为什么偏偏给他娶个小脚老婆。心里不满、不愿，可他不敢说出来，怕父亲骂。1933年，他的老婆因患伤寒病死了。他很伤心，心里想，你为啥子就死了？我是不喜欢小脚，我没有不喜欢你呀？我的命不好，你的命也不好哦。下辈子投胎莫缠脚哦。
沙滩地处高山峡谷间，多为战事发生地。清朝乾隆年间，白莲教在境内聚众起义，攻城夺地，民众响应，声势浩大。1933年，红四方面军宣达战役后，乘胜向万源挺进，地主豪绅组织民团向红军反扑，农民不愿参加。地主豪绅就利用封建迷信欺骗民众，大办神团，网络徒众。沙滩的钟建堂也在境内组织起一支神团队伍，说：参加神团可以有饭吃，有衣穿。神团红枪会是天兵神将，刀枪不入。作战时，一个个画得青面獠牙，手持梭标、长枪，每天神出鬼没，更显得阴森可怕。十五岁的程怀山住在这闭塞的大山之间，还蒙胧不懂事，红枪会是个什么组织，是干好事还是坏事一点不懂，只想到有饭吃、有衣穿，不挨饿不受冻保住性命就行，于是蒙蒙胧胧参加了红枪会，在里面站岗放哨，参加训练。
1934年春，红三十三军派兵剿灭了反动神团，组织起苏维埃政权，打土豪、分田地。4月，程怀山也就在这时参加了红军，分在红四方面第四军10师30团当战士。那时，30团驻扎在白羊庙前的山上，营房是茅草搭成的窝棚。他与其他19个新兵分在新兵排进行军事训练，从队列到作战都要训练。程怀山无论是队列操练，还是军事技术、单兵作战技能都能努力地学习。刺杀、投弹、跑步，一天训练下来，他的腰酸了、腿痛了。第二天，他咬紧牙关，忍着疼痛又参加训练。军事训练之外，是阶级成分审查和思想教育。程怀山参加红军前在神团红枪会干过，开始时部队-还不放心，没把他放在战斗部队去与敌拼杀，而是分到10师30团卫生队担架排。他的任务就是护理和抬担架运送伤员。
那时每天都打仗，特别是包台山、佛爷山、五龙台等激烈战斗，红军伤亡多，担架排的任务就是把伤员送到后方医院。程怀山他们抬着伤员在崇山峻岭中在这布满荆棘山间小路上艰难地前行。他冒着枪林弹雨，将受伤的战士或抬或背，救往后方。到了医院后，程怀山协助医护人员给伤员包扎伤口，洗纱布。
1934年，程怀山参加了巴中县平梁保卫战。红四军10师、11师与四川的刘湘、刘存厚、刘文辉、田颂尧的部队展开了激烈的战斗。程怀山在30团卫生队抬担架。当时，战斗十分激烈，伤员较多。程怀山要将伤员抬到后方医院治疗，他冒着枪林弹雨突入阵地上将伤员抬上担架就跑。突然，他觉得左手一麻，敌人的一颗子弹打中了他的食指，食指骨头被断了，肉皮吊着指头，钻心的痛。他看着躺在担架上身负重伤的营长，忍着巨痛将营长抬出了阵地。他没下火线，将自己受伤的手指简单地包扎了一下，又穿梭于战火中抢抬伤员。
那时医疗条件差，天天要抬伤员，他的包扎没起作用，伤口开始恶化，为了防止伤口进一步恶化感染，只好把一大截左手食指截掉。在以后的战斗中，他又两次负伤。解放后，程怀山说：“有战斗就有伤亡，比起那些牺牲了的战友，负点伤，能活下来算是幸运的。战争年代死人太正常了，大家吃了午饭，有没有命吃晚饭都很难说，很少有人怕死，大家随时作好了牺牲的准备。所以每次大的战役，尽管有人负伤，但大家都不下火线，继续战斗”。后来被评为三等乙级残废军人。
红一、四方面军在懋功会师后，确定了北上建立陕北革命根据地的战略方针。在进入草地前，上级命令部队准备七天的干粮、五天的柴、两双草鞋和一张羊皮。
草地渺无人烟，根本找不到补给，气候很寒冷。程怀山所属的卫生队是后卫，卫生队进入草地时，征粮就更困难了，他们每人只有三四斤，还都是炒青稞，又正值雨季。
三四斤炒青稞不够吃，没有了粮食，走了4天4夜没有人烟，粮食吃光了，他们沿途就吃草根树皮。夜晚宿营，他们找个干处背靠着背坐着，遇到下雨，就将雨布、或者被单（也就是一块布）绑在枪尖或者木棍上撑起避雨。饥饿寒冷，加上在沼泽地行军，让程怀山疲惫不堪。他拖着疲惫的身子跟随部队朝前走去。好容易走出了草地。
他还没来得及高兴，张国焘又命令四方面军南下，就只得再过草地。程怀山想，还要再往回走，吃什么呢？但上级叫往回走又不得不走啊。于是程怀山跟随部队南下。在行军途中，他们没有了粮食，见到什么吃什么，只要不饿肚子就行，草根、野菜、牛皮还算好的，能吃进肚子里的东西就往嘴里塞。再到后来，连草根、野菜也找不着了，他们把皮带、牛皮草鞋拿出来，剁成很小的快，放在瓷盅里煮，或者在火上烤一烤，熟的、没烤熟都往嘴里送。见到路上的草籽也采来往肚里吃。牛皮和草籽吃到肚子里消化不了，咕噜噜直打架，肚子又胀又疼，解不下大便，他们一手按着肚子，一手抓紧枪背带，踉踉跄跄地往前走。每个人的眼窝一天天陷下去，眼珠显得特别大，像一副没有镜框的黑色眼镜贴在消瘦苍白的脸上。草地的气候多变，暴风、疾雨、冰雹、寒气时常袭击着战士，有的伤病员跌倒后就再也没有爬起来。
一次，到了宿营地，程怀山和班长就去找能吃的东西，他们走了很远，找到了一处第一次过草地时部队的宿营地。他们发现了前面的部队杀牦牛的地方，还有剩下牛蹄、牛肠、牛肚、牛皮和牛血块。这些已经有臭味了，他们却像捡到宝贝似的捡起来，拿回营地，生火煮。经火一煮，那臭味就更浓烈了，他们捏着鼻子就吃下去了，有的一闻到那发臭的气味就吐了，但什么都没吐出来，因胃是空的。还留下些这半生不熟的东西，用袋子装起了带在身上，他们又向前走了。
1935年冬，张国焘提出“南下打到天荃、芦山吃大米”，四方面军开始南下，第三次过草地。
程怀山参加了攻打天荃的战斗。进攻前，程怀山他们按照命令秘密涉水渡河，接近敌人阵地。河水深而且流速急，1个人站在水中很难立足，过河就更不容易，他们就手拉着手，搀扶着并肩前进。敌人的防守阵地设在上山，他们没想到红军敢涉水过河，守备较松懈。程怀山他们渡过河后，借着林木的掩护急速向山上隐蔽前进，向敌人的阵地前沿推进，他们到了敌人跟前，才被发现。程怀山和他的战友们迅速拿出手榴弹，一齐向敌人投去。防守的敌人还没来得及还击，红军就突入了阵地。两军相逢，分外眼红，短兵相接，各自施展本领，人人斗狠，开始肉搏战。程怀山他们更是大展神威，全力拼杀，敌兵连连中刀倒下，直杀得血肉横飞，红军战士也不时有受伤的。渐渐地，敌兵开始退宿，程怀山他们更加奋勇，左劈右刺。阵地上血流成渠，敌军被击败了。这一仗歼敌1个师，缴获0弹药无数。
到达陕北后，程怀山被组织上安排到10师政治部当锄奸保卫侦察员。他们的任务是防止敌人搞策反破坏活动。程怀山经常化装成小商贩、走江湖卖艺的或者乞丐到部队驻地周围进行社会调查，了解社情和敌情。
1936年1月由共产主义青年团转入中国共产党。红军时期，历任班长、排长、10师政治部保卫侦察员。
1937年冬，程怀山参加了夜袭日军阳明堡机场。阳明堡机场位于山西代县西南、滹沱河东岸的苏龙口村隔河5公里处。战前，各营、连确分别召开了党支部大会、军人大会，进行战斗动员。当战斗命令下达后，程怀山他们一律轻装，放下棉衣、背包，绑紧刺刀、手榴弹和0，在当地人民群众的协助下，利用夜色掩护，隐蔽进入代县南阳明堡飞机场，钻过日军铁丝网，神不知鬼不觉地摸进飞机场，分路逼近机场警卫分队和飞机群。与日军哨兵遭遇后，10连、11连遂按预定方案，向日军展开猛烈的火力袭击，突然发起进攻。轻重机枪子弹、手榴弹一齐倾泻，一团团火光照亮了夜空。伴随着剧烈的0声，飞机燃起大火，火乘风势，风助火威，滚滚浓烟弥漫了整个机场。在机群中间，双方依托飞机，进行了3次肉搏。程怀山和他的战友们奋力厮杀，经过1小时激战，歼灭日军100余人，炸毁炸坏飞机24架。
1938年7月程怀山被调到十八集团军总政治部锄奸干部班学习，后到太行军区独立五支队政治部任锄奸科科长，再到太行四分区政治部当锄奸科科长。那时部队人数经常变化，锄奸科解散后就当特派员，主要任务是进行肃反。
这项工作一直是交给政治上特别可靠的人去做的，都是要穷人出身，越穷越好，文化要低，在部队的各种表现好的人去做。
家庭出身不好的常常被当成肃反对象。他学习了肃反政策，对被肃反的对象反复侦察，搞调查核实。
程怀山后来回忆说：回顾肃反这段历史，确实冤死了不少好人，给红军的战斗力带来影响，不应该搞，但当时环境那样复杂，为了保持队伍的纯洁性，谁又懂得这些。好在党中央发现肃反扩大化，及时开会进行了纠正，才未造成更大的损失。
那时，一般抓住肃反对象后，先让你交代，不交代就用刑，吊、打、绑等刑罚用尽，进行刑讯逼供。有的人受不过刑罚，就屈打成招，胡编乱造说某人如何如何，于是那人就成了肃反对象。有的捕风捉影，有点影子就定下死罪，拉出去就杀头。甚至有把文化高的、头发长的和平时爱开玩笑的人都当成肃反对象。就连熟人、亲戚都互相顾忌。一次，程怀山碰到亲姐夫李国民，两人一起同路走了几天，因姐夫出身富农，害怕互相受牵连，都不敢相认，互不说话。
1940年程怀山作为八路军30团代理政治处主任参加了“百团大战”。在正太线中段，大胆出击，向日寇据点发动大规模进攻。日寇凭借精良武器和他的武士道精神全力阻击八路军。战场上，硝烟弥漫，炮声震天，子弹横飞。程怀山他们奋勇大战，拔掉了桑掌铁桥和塞榆车站等4个据点，摧毁桑掌铁桥，炸毁铁路100余里。大战开始才两三天，程怀山就没鞋穿了，没办法，只好光着脚行军打仗。他心想：“等破袭战结束后，到后面行李处，我还有马骑，而且马搭子里还有新鞋。这几天就咬牙过去吧。”没想到，他们在铁路沿线的破路任务还没完成，日军就从后面打过来了。后面的行李、马匹全部丢掉了。程怀山只好光着脚，饿着肚子，在日军的追赶下，不分白天黑夜地行军、打仗。整个反扫荡中，日军的-声昼夜不断，他们只能不停地转移、进攻、袭击。
抗日战争时期，历任连政治指导员、太行军区独立支队锄奸科科长、30团政治处主任兼特派员、太行军区四分区政治部副科长，延安赴东北干部团团长。
1947年辽沈战役前夕，程怀山所部在辽宁大兴屯与敌人发生了遭遇战。深秋一个漆黑的夜晚行军，程怀山已是独立4师6团副政委兼政治部主任，连续几天长途行军使每个人疲倦不已，程怀山骑着马也被拉在部队后面。国民革命军和解放军都在以急行军速度往前赶，解放军在路的左侧，国民革命军在路的右侧。程怀山骑在马上打盹，迷迷糊糊地发现身边有许多人在不停地走动，往前疾行军，以为是自己的部队，无意中问了一句：“口令？”“9364”，对方答。
程怀山听口令后，吓得打了一个冷战，“不好，这周围怎么全是敌人？”他意识因天太黑，敌我走在一起了。当时解放军的口令是黄河、辽河、济南等等，以地名来命名的，敌人才是以数字和部队番号作“口令”，他断定右边走的是敌人的部队。程怀山急忙策马向左前方驰去，没走多远碰到1营代理营长符金夫。程怀山对他说：“不好，敌军就在我们旁边，赶快悄悄传令准备战斗”。
部队迅速抢占地势，进入战斗状态后，立即集中火力向敌人射击。敌人还蒙在鼓里大喊是自己人，别开枪。解放军哪管他三七二十一，一排排枪扫过去以后，敌军这才摸清头绪，原来共军竟近在咫尺，在和他们同向前行。那一次因打敌人是措手不及，又不了解解放军的具体情况，吓得敌人扔下辎重只顾逃命，事后才知道当时敌人的兵力是解放军的好几倍。
解放战争时期，历任松江军区司令部参谋、哈南军分区某营营长、独立4师6团副政委兼政治处主任、东北野战军35师103团副政委兼政治处主任、中国人民解放军146师436团副政委兼政治处主任。
1950年，时任四十九军146师436团政委的程怀山先后担任广西柳江县和融县县委第一书记。那时形势异常激烈，土匪时常组织人骚扰地方部队，暗杀土改工作队的人员。程怀山组织领导部队清剿境内的土匪和国民党的残余部队，收缴散兵游勇。土地改革中，他学习党的土改政策，带领土改工作队到农村，挨家挨户宣传土改政策，组织农民清算地主、恶霸欺诈穷人的罪行，打击反动势力，按土改政策给农民分田地。动员组织农民成立互助组、发展生产。
中华人民共和国成立后，程怀山长期从事军队政治工作，经常深入部队基层，言传身教，贯彻党的路线、方针、政策。到部队给战士们讲传统。训练场上亲自示范，他说：“训练要严格，不能马虎，平时不流汗，战士就会多流血。现在条件好了，装备好了，我们要熟练掌握手中的武器，要一兵多能。”程怀山和妻子原文平时节衣缩食，从不乱花钱，吃的是粗茶淡饭，很少添置生活用品。夫妇俩每次听到发生了灾害，干休所组织为灾区捐款，他总是宁肯自己省吃俭用，也毫不吝斋地尽量多出钱，不愿比别人捐得少。前些年，四川老家有几个孩子因经济困难失学，尽管与程怀山非亲非故，他听说后立即成百上千地给孩子们汇去钱，叫孩子们不要失学，他还一再不让宣传他助人的事迹。2006年，他资助一名衡阳医学院做了父亲的大龄学生的费用，让他顺利完成了学业。
程怀山经常说：“我们现在过得这样好，帮助一下困难的群众有啥关系。要不是共产党不是军队和人民，我哪里能过得这样好？我们的生活比上不足，比下有余，想想那些牺牲的战友，我应该知足了，帮帮那些困难的群众，又有啥关系，应该是我们义不容辞的职责。”20世纪60～70年代，程怀山经常应邀到地方党政机关、工厂、学校去作传统教育报告，听过他的报告的人多达十万之众。
人民共和国建立后，程怀山历任436团政委、海南军区榆林指挥副政委兼政治部主任、还兼任广西柳江县第一任县委书记、广州市兵役局第二政治委员，广州军分区副政治委员、临时党委书记。
1955年被授予上校军衔，获二级八一勋章、三级独立自由勋章、三级解放勋章。1964年8月，离职休养，享受副军职待遇。1987年8月，中国人民解放军总政治部批准其享受副军级待遇。1988年获二级红星功勋荣誉章。2007年2月24日在长沙逝世，享年89岁。