伍观淇，字庸伯(旧名冠球)，1886年生于广东番禺县南浦村(今广州市白云区神山镇南浦乡)。
伍观淇祖上是耕田人家。观淇6岁入私塾读书，16岁时考入两广高等学堂。后来因参加一次涉嫌反清的-，被校方除名，故没有毕业于此学堂。
稍后，伍考入广州将弁学堂。将弁学堂学生要学习天文、舆地、测绘、算化诸门学科，兼读-，并操习步队、马队、行军、布阵、分合、攻守诸战术、战式。伍各科成绩常居同班学生之上。将弁学堂创始人周善培先生，1952年在北京曾对人言：“伍观淇为第一好学生。”
伍毕业于将弁学堂后，以优等生资格，被委为新军管带(相当于营长)。他的同学如邓仲元、叶举、熊略等，分别担任队官或排官(相当于连排长)。
在广东任新军管带三年，伍自感学问本事不足，适逢保定军官学校在各省遴选人材，他遂于1909年秋考入保定军官学校(后更名为陆军大学)。保定军官学校，是清政府军谘府(总参谋部)主办的一所培养高级军事指挥的高等学府。伍以优异成绩毕业于该校。其时，广东尚在袁世凯爪牙龙济光控制之下；因此，他未回家乡，而接受了陆军大学的聘请，留校任教官，执教三载有余。
1916年秋，他断然辞去教官职务，决定用五年时间专心读书，他接触了佛学、道学、洋教、马列主义等，最后专攻儒学。
1921年仲夏，伍观淇挈眷回到故乡广东，将弁学堂的同学、粤军长官叶举邀伍任-督察处总参议，后由于看到陈炯明一步步背叛了孙中山，他便辞职回到南浦村。
伍回到禺北，所做的第一件事，就是帮助地方平息械斗和肃清匪盗。首先在高塘办起一间民团养成所，培养一支乡民自己的武装力量，去对付有枪的匪盗。民团养成所由伍亲自主持教务事宜。各乡挑选品行好、有一定文化基础的青年入所受训。第二件事是兴办教育，在南浦村办起第一间小学——慎修学校。伍将仅有的一点积蓄投给学校做经费。稍后，他再返省城担任公职时，常将一部分薪俸用来资助贫苦学生。
1921～1924年间，伍一直致力于乡治建设。1925年，蒋介石与李济深合作，统一了广东。1926年，国民政府决定挥师北伐。留守广东的总参谋长李济深亲临南浦村，邀伍出任国民革命军总司令部办公厅主任兼少将总参议。翌年，李济深致电南京国民政府，荐伍为广东省政府委员。随后，南京国民政府正式发布国府令，任命伍为广东省政府委员。伍出任广东省政府委员后，并兼任全省地方警卫队编练委员会主任委员及地方武装团体训练员养成所所长。十多年后，伍的学生有一部分成为抗日武装的骨干力量。
1929年，广东省政府改组，伍观淇退出政坛。1936年，他的陆军大学同学黄慕松担任广东省政府主席。黄亲下南浦村，邀伍出乡相助。伍再度返回省城，任新成立的广东农村合作委员会主任委员至抗战爆发。
1938年10月21日广州被日军侵占。在广州沦陷之前，广东各县都已组织起民众抗日自卫团。伍又受命为广东民众抗日自卫团统率委员会委员，负责统率番禺、花县、从化、增城、三水等地区的民众武装工作。广州失陷后，伍率领的这支民众武装，奉令改编为第四战区第一游击纵队，伍任纵队司令。临危受命的伍观淇，时年已经五十有二。广州失陷当日，这位游击纵队司令，立即从广州奔回禺北，召集平日种田做工的子弟们扛起枪杆，展开了为期7年的游击战。
1938年10月23日，即广州沦陷第三天，气焰嚣张的日军占领了石井墟，企图渡过流溪河向北进犯。日军未料到，就在流溪河畔，遭到了伍观淇游击队顽强的抵抗，战斗持续了11天，此为广东抗战史上光荣的一页——江高阻击战。伍观淇率队伍在蚌湖、江村、高塘、竹料至南岗布防，-了南北交通要道江村大铁桥和流溪河面。战斗打响之后，游击队一连11天坚守阵地，打退了日军用机枪掩护的轮番进攻。最后，日军调动了飞机、大炮，分兵几路从流溪河上游包抄过来，战斗十分激烈，游击队因腹背受敌，又无援兵，-转移。
江高之战，伍一直身临江村炮楼和高塘十八社前线指挥。有几次情况紧急，队员劝其撤离，他终不肯走。当江村、高塘有不少房屋中弹着火时，他仍在前沿指挥若定，一面令队员继续阻击河面，一面部署后撤，直到日军强渡得逞冲入村中放火烧屋时，他才撤离。此役击沉日军橡皮艇30多艘，击伤飞机1架，消灭日军200余人。游击队有61名队员为国捐躯，38名队员负伤。
此战使国民党在韶关的军政首脑大为震动。第四战区司令张发奎在一次高级军事会议上指责余汉谋轻易放弃广州是粤军的奇耻大辱。南京国民政府大员陈诚说：“广东有个伍观淇竟在广州城北阻击敌军十多日，试问正规军有何颜面见江东父老!”
继江高之战后，伍观淇指挥部队还打了如下一些较大的战斗：赤坭白坭之战——在花县赤坭、白坭一带，抗击日军104师1个旅团的进犯，歼敌60余人；良田之战——在竹料良田村消灭伪军1个大队，生擒敌顾问、日军中尉深丁为雄，击毙深丁妻子及另一名日军顾问，缴获一批战利品；鱼窝头之战——配合番禺县武装大队，保卫灵山鱼窝头，敌方出动海、陆、空军，双方激战7个昼夜，击毙伪军队长梁财仔和敌伪官兵数十人，焚毁敌人营房、厂棚十多座；清远之战——配合暂八师张君嵩部收复清远县城。伍部首先冲入城内，与敌展开巷战。除游击战之外，伍部还派出别动队深入敌后，扰敌运输线，破坏电话线和惩治汉奸。
7年间，伍观淇率游击队转战广东各地，与日、伪军展开大小游击战三四百次，除歼敌外，还缴获大批枪械、弹药及军马，生俘敌官兵30余人。有一名日俘供称，他们最怕中-队的独九旅和伍观淇的游击队。
伍观淇却是这样饶有风趣地诠释“游击队”：怎样叫“游”?好像鱼虾浮游在水面或水里，活动不定的意思；怎样叫“击”?俗谓以卵击石，两者相碰，软弱的那部分就要破损；怎样叫“队”?一个人是不能成功的，三人成众，那么至少三个，三十个，乃至三百个凑合起来，才能配说这个“队”字。
当年，有位大公报记者曾这样描写伍观淇：“游击老将伍观淇，于国步维艰、民族劫运之际，捍国卫乡，责无旁贷，毅然振臂一呼，乡人闻风兴起，热烈拥戴，今年虽耄耋，然精神矍铄，尤若壮年，记者获瞻丰采，畅聆伟论，油然而生敬佩之心……”
抗战结束，伍的游击队奉令遣散，大部分队员仍回到家园从事农业劳动，另有一部分编入地方治安团队。伍观淇本人对当局委派的要职坚决不受，然热心乡梓初衷不改，仅接受番禺县临时议会参议长及番禺县建设委员会主任之职。
1948年，伍观淇收到番禺县长黄兰友一封信，信中劝说伍出走台湾，但伍执意不走，仍留住广州番禺学宫。
1949年10月，中国人民解放军解放了广州。翌年冬天，中央人民政府副主席李济深通过中央-部，邀请伍观淇进北京。年末，伍由广州-部交际处处长陪同到达北京。
伍到北京后，因工作一时未安排妥善，暂寓李济深家中。闲居中，伍应梁漱溟、黄良庸诸友请求，讲解《大学》、《论语》、《孟子》各书。后梁漱溟编纂出版的《大学礼记篇·伍严两家学说》中关于伍氏的部分，均是由这时候几位友人的笔录整理而成。被尊为儒学权威的梁漱溟认为：中国古人在世界学术上最大的贡献无疑就是儒家孔门那种学问，而伍先生在儒学的贡献则有足以补宋儒、明儒之所未及者。
1952年冬，伍观淇因胃病恶化，引起全身功能衰竭谢世，终年67岁。葬于北京东郊。