张祥，1942年5月10日生于黑龙江省拜泉县华光公社兴家大队一个贫苦农民家庭。在他还不满3岁的时候，就开始跟着母亲讨饭度日。童年的磨难，在张祥幼小的心灵上打下了深深的烙印。
解放后，张祥家的日子一天比一天好。1951年，张祥兴高采烈地跨进了学校的大门，成为他家祖孙几辈第一个读书人。他深知今天的幸福生活来之不易，非常珍惜自己的学习时光，刻苦学习，每学期都是三好学生。
1957年，张祥以优异的成绩结束了高小的学习生活，响应国家号召，参加了农业生产。在劳动中，他不怕苦、不怕累，很快成为农业生产中的一把好手。
1960年，张祥来到北安庆华工具厂学习发电机的组装和制造。1961年7月，张祥听完车间支部书记关于征兵动员报告后，积极报告要求参军。8月1日，张祥第一次穿上绿军装，成为了一名人民解放军战士。
1962年，张祥光荣地加入了中国共产主义青年团。这年4月，根据工作需要，张祥被调到连部当通信员。他认真钻研业务，除按时把文件、报纸、同志们的家信送到执勤点以外，还为同志们代买生活用品。他尊敬-，关心同志，很快就成了同志们的知心朋友。在张祥所在班的五好记事本里有这样一段记录：“张祥是通信员，经常去火车站送信，凡遇到别人有困难，他总是热情地帮助。”这年春节，张祥到执勤点上执行任务，在火车窗口内看到一位60多岁的老大娘，拿着一个大包袱吃力地走上天桥。他急忙下车替大娘背起包袱，扶着大娘下了天桥上了火车。这时，车厢里人已坐满，张祥就让大娘坐自己的位置上，他一直站到下车。八一节前夕，张祥从桦林回连部开会，在桦林火车站候车时遇到一位由山东省去柴河看儿子的老大爷，因为坐错了车，路费花光了，不小心把车票又丢了，看不成儿子，想回家又回不去，正急得没办法。张祥上前问明了情况后，把自己刚领到的津贴费给老大爷买了车票。怕老大爷挨饿，他又返回执勤点借了粮票和钱，给老大爷买了两包饼干送上火车。老大爷紧紧拉住张祥的手深情地说一句：“谢谢你解放军同志……”老大爷热泪盈眶，再也说不下去了。后来，这位老大爷在回山东时特意绕到桦林，来到部队感谢张祥。
1963年3月，党中央发出了“向雷锋同志学习”的号召。从此，雷锋成了张祥的一面镜子。他把报纸上刊登的雷锋的照片等一一剪下来，精心贴在笔记本上。他在日记中写道：“我今后在实际工作中要向雷锋同志学习，学习他毫不利己、专门利人的高尚风格。做一名雷锋式的好战士，放在哪里，就在哪里发光。”
1963年6月，张祥被调到黑龙江省公安总队第六团团部警通排通信班任通信员。8月23日中午，张祥一个人在值班室整理文件，团值班参谋王忠走进来把几封信交给张祥，要他立即送到各连。当张祥把最后一封信送到八连时，已经是下午4点多了。八连连长关心地挽留张祥，让他歇一歇，吃过饭再回去，被张祥婉言谢绝了。张祥骑自行车顺着松花江南岸的柏油路往回返。当他路过哈尔滨市青年宫附近西江桥时，忽然听到江中有“妈呀!妈呀!”的呼救声，张祥闻声后立即跳下自行车跑到江边，见一名小女孩正在急流中挣扎。他立刻脱掉上衣，甩掉布鞋，奋不顾身地跳入波涛汹涌的激流中，迅速向小女孩游去。他用力将小女孩向岸边推，由于水深、流急、风大、浪高，小女孩又被急流冲出了数米远，当他拼命地游到小孩身边时，一个巨浪打来再次把小女孩冲了出去。这时，岸上有人喊：“里边水深危险，快上来吧!”但他摆摆手表示坚决要把小女孩救上来。当他再向小女孩游过去时，小女孩已被冲到桥底下。正在江沿附近工作的八连副班长郝祥林、炊事员尚永全听到小女孩的呼救声，迅速向这边跑来。尚永全首先赶到，跳上一只木船，向小女孩划去，但由于水急浪大，总是靠不上去。这时张祥借助一个大浪的冲力，用力把小女孩推向木船，尚永全抓住小女孩的手腕，救出了落水的小女孩。尚永全又急忙来救张祥，但只看见张祥在急流中挣扎了一下，就再也没有浮上来。郝祥林把被救的小女孩送到附近东北铁路局三处医院，经抢救很快脱离了危险。这女孩的名字叫陈新华，是哈尔滨市安和小学四年级学生，这天放学后她到松花江边洗衣服不慎失足落水。小女孩得救了，而给了她第二次生命的好战士张祥却献出了自己宝贵的生命。
1963年8月30日，哈尔滨市10万余人在青年宫为张祥举行了隆重的追悼大会。被救女孩陈新华在会上宣誓：“一定要继承张祥烈士的遗志，努力学习，做一个对国家对社会有用的人。”
为表彰张祥见义勇为、舍己救人的英雄行为，中国人民-队黑龙江省总队党委决定为其追记一等功，并根据张祥生前的愿望，追认他为中国共产党党员。1964年6月1日，-授予张祥生前所在班为“张祥班”，并号召全军广大指战员向张祥同志学习。同年6月26日下午3点，“张祥班”的代表在北京受到了毛泽东、周恩来等党和国家领导人的亲切接见，并一起合影留念。