高桂滋部是军阀中原大战后退至山西省的败军之一，驻扎在平定县。平定县位于山西省中部东侧，太行山西麓。东邻河北省井陉县，西连山西省寿阳县，南接昔阳县，北连盂县。县城距军事、经济重镇阳泉15里。境内群山环绕，沟壑纵横，地势险要。东有长城及著名的天下第九关——娘子关。正太铁路横贯东西，乃山西的东大门，冀晋之咽喉，故有“晋冀通衢”、“京畿藩屏”之称，历来为兵家必争的战略要地。
高桂滋部原为陕北起家的一支杂牌军。高桂滋的姐夫郑庠，乃是冯玉祥的国民军第二军独立骑兵一旅旅长。高桂滋即投靠郑庠属下。1926年冬，郑庠部队与另一军阀马富魁部队发生冲突，被山东军阀张宗昌派兵夹击于河北省河间县。混战中高桂滋率部突围，后到达安徽投靠武汉革命政府。蒋介石发动“四一二”反革命政变后，高桂滋又投入新军阀蒋介石的怀抱，被任命为国民革命军第四十七军军长，归方振武指挥。1929年，方振武反蒋被扣南京，高桂滋部又归柏文蔚指挥，并将高部的四十七军缩编为独立第十旅，高桂滋也由军长降为旅长。高桂滋从此对蒋介石怀恨在心。1930年，阎锡山、冯玉祥、李宗仁等联合反蒋，高桂滋又投靠冯玉祥部下，被任命为陆军第二十三军军长，蒋阎冯中原大战，阎锡山和冯玉祥等战败，败军残部二十五万之众纷纷退入山西境内。原在山东省临沂、莒县、诸城一带与蒋军交战的高桂滋部，也由利津、蒲台渡黄河，经惠民、衡水、正定、十八盘被迫退至山西省平定县。不久，获胜一方的蒋介石和张学良将退入山西的军队进行整编，高桂滋部被编入以孙楚为司令的正太护路军，序列为第十一师。高桂滋部的三个师缩编为三个团，高桂滋也由军长降为师长，其下属军官也随之全部降级。高桂滋部有三个步兵团，还有师直属的宪兵连、机枪连、炮兵连、通讯连、特务连，共约3000人。师部及第一团和直属连队驻扎在平定县城内，其余二、三团分别驻扎在距县城五、六里远的大营盘内。
高桂滋部退至平定县后，完全处于客军地位，它既不是蒋介石的中央军的嫡系，又不是阎锡山的晋军。这支部队里的军官多是西北地区的人，士兵又多为河南、河北及山东人。因此，处处受排挤，军需供给受刁难，生存环境日益恶化。各级军官因普遍降职降薪，牢骚满腹，怨声极大。士兵们更为困苦，几个月发不了军饷，偶尔发一点还不够买几盒香烟。每个士兵的菜钱每天仅有七、八个铜板，连吃饭都很困难。士兵们换季却换不了服装，穿的是破衣服，鞋袜大张嘴，睡觉没被子，故流传着这样一首顺口流：“山西出的土包子，关饷关的纸票子；阎老西不吃香，破鞋破袜破军装，吃的小米掺着糠。”而且，有些反动军官对士兵更是百般虐待，动辄打骂、体罚，士兵有了病不能站岗，不仅得不到医治，反被骂成懒种败类，士兵们不堪忍受这种牛马生活，便有的单独离队，有的结伙逃跑，可是一旦被抓住，轻者被割掉耳朵，将耳朵挂在院内示众，重者则是被活埋、刀砍或枪毙。仅1931年1月至6月，就有30多名逃跑而被抓回的士兵遭到活埋、打死。对于这种暗无天日监狱般的生活，士兵们真是忍无可忍，盼望着早日能脱离这个苦海，越来越倾向于革命。于是，士兵暴动将一触即发，大有山雨欲来风满楼之势。
在这支部队里，我党的秘密兵运工作开展得比较早，而且一直未间断，已有相当的基础。由于高桂滋是陕北靖边县人，这支部队从陕北起家时招募的也多是陕北人，其中有不少人原是榆林省立六中、榆林职业中学、绥德省立第四师范学校的学生，且有不少人已成为中下级军官。这些青年学生在学校时，有不少人就接受了新的进步思想，具有一定的革命热情。于1925年9月，我党地方组织利用军阀郑庠举办军官学校训练班之机，便派了部分党员打入高桂滋部队。在高部一直负责电讯联络工作的陈子毅就是其中之一。1926年冬，高桂滋为了扩充势力，在陕西、河南、河北一带又招兵卖马，中共豫陕区委利用此机会，又派遣赫光、苗广义、刘明德、窦宗融、蒲子华等10多名共产党员，打入高部开展兵运工作。豫陕区委还特别指示赫光，要尽快在高部建立支部组织，赫光倍受党组织的重视。
赫光原名万锡绂，1902年2月生于甘肃省海原县杨郎镇（今宁夏回族自治区固原县杨郎乡），父亲是前清秀才，十分重视对赫光的教育。赫光从8岁起便被送入私塾读书，聪明好学的他16岁考入了平凉陇东公立中学堂。1922年，中学毕业后，适逢陇东镇守使张兆尹在青年学生中招募军官，以图扩充势力，他便去应试并被录取，后被派到北洋军阀吴佩孚所办的洛阳讲武学堂学习军事。在这个学堂里已有共产党秘密组织的活动，马列主义的著作和一些革命进步的书刊时有秘密传播。赫光读了这些进步书刊，好似心灵上的窗户豁然开朗，使他认识到中国的前途和出路在于推翻反动阶级的统治，实行社会变革。1924年，他从讲武学堂毕业，担任吴佩孚部直属机枪连连长，后升任迫击炮营营长。在第二次直奉军阀战争中，吴佩孚几乎全军覆没。1924年冬，赫光侥幸从战场上脱险，返回家乡。他目睹乡里土匪横行无忌，豪绅为非作歹，经济萧条，民不聊生，使他激愤难奈，立志要寻求救国救民的真理。1925年冬，赫光被中共豫陕区委吸收为中国共产党党员。次年，又被派往高桂滋部开展兵运工作。
自从赫光等10多名共产党员打入高桂滋部后，使这支部队又增加了一批新生力量，带来了许多新鲜的革命空气。由于赫光有着讲武学堂毕业的资历，加之参加过战争的锻炼，所以，高桂滋对赫光很器重，不久就任命赫光为少校参谋，直接参与一些军机事务的处理。赫光利用这个合法的职务作掩护，以整顿为名，淘汰了一些兵痞，选拔了一些具有实战经验的老兵担任骨干，同时还介绍一些思想较进步的青年与共产党员接近，以便对这些青年进行培养。经过赫光等共产党员的出色工作，在一些连队中逐步发展了一些党员，并建立起秘密的党的小组和支部组织。1927年，蒋介石发动了“四一二”反革命政变，大肆抓捕共产党员，在高桂滋部队中也开始进行清党。我党组织为了保存力量，决定将一些容易暴露身份的共产党员撤出，留下一些便于隐蔽，有一些掩护条件的同志，继续坚持兵运工作，并指定赫光为高桂滋部中秘密党组织的负责人。留在部队的这些党员根据党的旨示，在极其艰难的白色恐怖环境中沉着应变，秘密地进行情报搜集与有关工作，有的党员为防止暴露竟使用英语互相传递信息。不久，赫光与中共皖北特委书记魏野畴取得联系，在特委的积极协助下，在这支部队中又发展了一批党员，使党在高桂滋部的力量逐步得到恢复。
1928年4月，魏野畴与赫光共同研究，趁军阀相互争斗，高桂滋部将从安徽阜阳向山东转移，部队军心浮动管理放松之机，决定当部队进入山东省金乡县一带后，发动武装起义。但由于组织不严密，加之准备仓促，起义未能成功，反而造成中共皖北特委书记魏野畴壮烈牺牲。从这个血的教训中，赫光深刻认识到，要取得武装起义的成功，就必须取得对该部队一定的指挥权和控制权，必须把枪杆子切实掌握在共产党员的手里。为了达到这一点，赫光与一些党员骨干进行研究，一方面要在中、下级军官中，积极而稳妥地物色和培养一些思想比较进步，具有一定革命热情的青年军官，逐步发展成为共产党员，或成为党的外围组织的成员。另一方面，要想方设法，通过种种上层关系，使一些共产党员能担任营、连、排长的实职，逐步扩大党组织对高桂滋部队的控制权。赫光首先设法辞去了军部参谋的职务，下到团队当了一名营长（高桂滋部退驻山西后，随着整体缩编普降一级，改任连长）。除此之外还通过多种形式和方法，展开思想发动工作，如通过“互济会”、“读书班”等等党的外围组织，吸收进步青年参加活动。有的利用同乡关系“拜把子”等方式，联络感情，借机宣革命道理，启发其阶级觉悟，逐步发展了一些党员。尤其是在中下级军官中，共产党员的数量逐步增加。至1930年，高桂滋部在平定县驻扎时，部队中的共产党员已有五十多名，其中不少人都是中、下级的军官，掌握着一定的兵权。
1930年11月初，中共山西省委（一个月后改为特委）根据中共北方局的指示，在山西各地的驻军中开展兵运工作，派李志敏以省委特派员的身份到高桂滋部秘密巡视党的工作，为发动武装起义做准备。同时，省委还从高桂滋部队中先后调出拓克宽、吴岱峰等17名共产党员，参加晋西红军游击队的组建工作。
1931年4月，中共山西特委决定并经中央军委批准，发动高桂滋部举行武装起义，创建工农红军，并派军委书记谷雄一亲自领导和具体组织。同时，中共山西特委为了加强骨干力量，还派遣山西军官教导团的秘密党支部书记马芳庭，以及共产党员的军官吴耀礼和牛清明3人，从太原到平定打人高桂滋部。马芳庭通过私人关系打入高部，以给一团副营长刘明德（共产党员）当勤务兵的身份，从事组织联络工作。吴耀礼、牛清明两人，借招募新兵之机，以普通士兵身份进行活动。
而且，为了配合此次武装起义，中共山西特委还派人到距平定县城15里的阳泉矿区，在煤矿和钢铁厂等产业工人集中区进行活动，发动工人开展经济斗争和罢工活动等。中共太原市委还指示党员较多、工作最活跃的南海街党支部，组织数十名失业工人做好准备，一旦武装起义成功，便投奔起义部队参加红军。
谷雄一奉命到达平定后，即刻与赫光等人召开党员骨干会议，传达中共山西特委关于组织武装起义的决定，并认真研究了发动武装起义的详细计划，以及工作分工等。大家深入分析了部队的现状，认为和山西特委对该部队的情况估计和看法完全一致，发动起义的条件比较成熟，成功的把握比较大。尤其是第一团应当成为起义的骨干力量，共产党员的数量比较多，在营、连、排中下级军官中，共产党员占的比例比较大，有的营、连基本上控制在共产党员的手中。而且，第一团驻扎在平定县城内，紧守着高桂滋的师部和地方行政首脑机关，一旦起义枪响，对迅速控制这些敌要害部门比较便利，因此，加强一团的准备工作应成为重点。经过详细的预测，认为需作两种准备：第一种是把高桂滋部的三个团的兵力全部拉出来，组成四个纵队，约3000多人；第二种是把一团全部拉出来，加上二、三团各一部分，约1700人左右，组成两个纵队。要争取第一种设想，确保第二种设想的实现。之后，在谷雄一和赫光的领导下，组成了领导武装起义的军事委员会，以及政治部、宣传队、特务队等组织，分头按计划开展工作。
正当武装起义的各项准备工作紧锣密鼓地顺利进行时刻，一件预料不到的事情突然发生。1931年6月下旬，由于原在中共中央特科主持日常工作的顾顺章，在武汉被捕后叛变革命，使在上海的共产党秘密组织接连遭到破坏，在高桂滋部潜藏的共产党员、一团二营八连的排长刘玉珊也受到牵连而被捕（刘玉珊是陕北人，在狱中坚贞不屈，严守党的机密，后被高桂滋下令杀害）。这一突发事件，在部队中引起很大反响，有些士兵情绪波动，有些已经争取过来的士兵开始摇摆，党的组织已面临被破坏的危险，起义也就难免夭折，形势万分紧急。然而此时，谷雄一正在太原向中共山西特委汇报工作。情急之下，赫光只得立即派共产党员、副营长刘明德借故外出，星夜赶赴太原向中共山西特委请示。特委书记刘天章听了刘明德的情况汇报后，也感到惊愕和忧虑。经过与谷雄一、刘明德一起分析了错综复杂的危险局势后，毅然决定要当机立断尽快发动武装起义。命谷雄一、刘明德急速返回平定，传达此项决定，选择时机立即举事。
1931年7月3日下午，谷雄一从太原返回，在阳泉火车站一下车就赶赴平定，在平定县城东的一个破窑洞里，召开了有10多名共产党员骨干参加的紧急会议。谷雄一在会上首先传达中共山西特委关于立即发动武装起义的决定。他说：“山西特委原来并不急于马上发动武装起义，因为不久前党中央召开了六届三中全会，批判了李立三路线的错误，山西特委计划把工作的重点放在进一步组织和发动群众方面，以便为大规模地武装起义创造更好的条件。但是，现在情况突然发生了变化，我们必须抢在敌人前面动手，形势所逼不得不提前举事。”然后，让大家讨论如何具体执行特委的决定。大家在讨论中一致同意特委的决定，而且认为明天（7月4日）正是发动起义的最佳时机。因为这天是星期六，高桂滋要带领下属3个团的团长等人，回北平给其父庆贺六十大寿。师、团的主要头目不在，一些军官自然就会放松，他们急着回家与妻儿团聚，一些营、连就形成群龙无首，正是举事的天赐良机。谷雄一、赫光当即决定于7月4日晚举行起义。接着又详细研究了具体的行动方案，并分工进行准备。
7月4日，天阴沉沉的，雨断断续续地下着，一会儿滂沱大雨往下浇，一会儿是淅淅沥沥往下滴，大一阵子，小一阵子，停一阵子。这种天气令人心中烦燥，也给起义行动带来诸多不便，但是，这却动摇不了革命战士火热的决心。天黑后，党员骨干又集中在一起开会，具体检查起义行动的各项准备工作完成情况，进而部署当晚行动的作战方略。由赫光宣布当晚12时为武装起义的时间，以鸣枪为号，领导这场战斗的负责人为谷雄一、赫光、刘明德3人。具体任务是：第一团攻占高桂滋的师司令部，砸开监狱解救被关押的同志，封锁反动军官的住所，破坏交通及通讯联络，严密监视正太护路军孙楚和李生达部队的动向。在战斗中如被顽固抵抗的敌人包围，部队可从城墙东南角通向城外的暗道撤出（此暗道在两天前才挖好备用）；第二、三两团驻地距县城较远，起义部队担任破坏兵营及攻打阳泉火车站的任务。起义成功后，整个起义部队向北挺进，准备在五台山一带开辟革命根据地。
然而，就在人们怀着激动的心情，迎接这一庄严时刻即将到来的时候，高桂滋师部手枪连的一个班长（共产党员），在“兴盛魁”饭铺喝酒，因酒醉泄密，被敌人觉察。谷雄一、赫光、刘明德等人闻讯后，立即商量应急措施，果断决定提前半小时，即午夜11时30分开始行动，使敌人措手不及，随之立即通知有关同志。
就在即将开始行动时刻，敌一团二营营长刘孔彰察觉营中情况异常，也顿时产生了怀疑，遂派勤务兵通知时任七连连长的窦宗融和八连连长的王子周，立即前往司令部开会。窦宗融和王子周均为共产党员而且是骨干，他俩立即碰头商量，认为去后凶多吉少，必须设法拖延，于是先把传令的勤务兵软禁起来。正当他俩心急如焚的时候，一个神圣而庄严的时刻来到了。这就是公元1931年7月4日午夜11时30分，在太行山上这座古老的山城中，中国北方武装反抗国民党反动派的第一枪打响了。他们立即带领部队投入战斗，首先派一个排兵力，攻打营部捉拿营长刘孔彰。在营部门口正碰上五连连长（系高桂滋的表弟）带人负隅顽抗，立即将其击毙。刘孔彰听到枪声抱头鼠窜，迅速从后门逃跑。这时，平定城内枪声大作，潜藏在通讯排的共产党员陈子毅，在切断了敌司令部指挥联络的所有通讯网络后，又派人到县城的电话局进行破坏，使平定城的所有通讯网络陷于瘫痪。这时，起义部队已占领了县政府，打开了监狱，释放了全部囚犯，其中有的人马上就参加了起义部队的战斗。在战斗中有个别反动军官还在企图顽抗，都被当场击毙。起义部队冒雨兵分三路攻打高桂滋的司令部。由于敌司令部位于平定县的上城，而且敌人已有准备，师直属的手枪队和宪兵连火力密布，居高临下进行阻击，起义部队几次冲锋都未能奏效。此时，在正太铁路附近，还驻扎着正太护路军孙楚、李生达的晋军部队。谷雄一、赫光等怕拖延过久，会引起孙楚、李生达部的察觉而派兵增援，所以只好改变原计划，顾不上接应远在城外数里的第二团和第三团。起义军的宣传队在平定县城的大街小巷张贴了起义军的文告，和一批标语和传单后，趁夜迅速撤出平定县城。从起义枪响至结束战斗仅半个多小时的时间。第二团和三团的同志因未能及时得到提前起义的通知，所以，虽听到城内枪声大作，但由于情况不明，也不敢贸然行动。何况兵营的营门已由军官站岗，严密封锁，因此大队人马难以拉出，只有军官中的少数党员骨干，借了解情况为名，通过多种方法闯出营门，急速追赶起义部队。参加武装起义的有原一团的八个连，以及第二、三团和师直属连队的部分人员，共计1200余人。这次武装起义的战斗虽然激烈，但由于准备充分，井然不紊，兵强将勇伤亡极少。起义部队纪律严明，秋毫无犯，深受群众的拥护。当起义部队从城中撤出向北转移时，在县城西关王公坡居住的光侗叔侄二人，还主动热情的为部队做向导。平定县著名的民间艺人郗富根，事后编了一段评说如实反映了当时的情景：“二十三军（指高桂滋部在入晋前的旧番号）驻平定，睡到半夜变了心。各街道，乱哄哄，枪弹响了一点钟。劫了狱，跑了人，吓坏了县长李肇林（指当时平定县长）。手枪队，在上城，攻的快，把得紧，差点摧了榆林门。走西门，出东门，嘟嘟嗒嗒真威风。沿街走，纪律明，没有遭害买卖人。”
起义部队连夜撤出平定县城后，即跨过正太铁路向北挺进。天空滴滴答答雨还没有停，尽管道路泥泞，漆黑一片，然而每个指战员心中似乎都有一盆火，眼前都有一盏灯，个个精神抖擞，情绪高昂。途经白羊墅、韩庄、河底、牵牛镇等村镇，于7月5日清晨进入盂县境。这时，已经雨过天晴，天空渐渐发亮了，在东方现出一片薄薄的玫瑰色朝霞，它像火花似的向四边奔放着。起义大军来到盂县清城村外一片宽阔的场地，开始进行整编。谷雄一、赫光分别擎起缀有镰刀斧头的两面鲜红的大旗，上面写着醒目的大字：中国工农红军第二十四军司令部和中国工农红军第二十四军政治部。在一片惊天动地的欢呼声和掌声中，谷雄一首先讲话：“从今天起，我们这支部队就再也不是国民党高桂滋的部队了，我们是中国共产党领导下的人民的军队。现在，我代表中国共产党山西特委庄严宣布，经过党中央批准，中国工农红军第二十四军今天正式成立了。接着他又宣布了上级的任命：赫光为军长，谷雄一为政治委员，窦宗融为副军长，刘明德为参谋长，刘子祥为政治部主任，杨继雄为政治部副主任。军下辖两个纵队：第一纵队队长靳树生，参谋长王子周；第二纵队队长顾昌华（另一说为穆春芳），参谋长蒲子华。”
接着，军长赫光以严肃而宏亮的声音宣布部队的纪律，他说：“从现在起，我们已经是中国工农红军了，就要坚决执行红军的纪律、红军的政策。我们是劳苦大众的部队，是人民的子弟兵，就要爱护老百姓，无论是行军还是宿营，都不能扰害百姓，不能拿群众的一针一线，对店铺和商品绝不能损害，要公买公卖，更不能奸淫妇女。违反纪律者，无论是官还是兵，一律以军法论处，官兵一律平等，相互间都是革命同志，要一视同仁。”接着他又说，“我们现在行军前进的方向是继续向北走，要直逼五台山，争取在那里开辟革命根据地。现在在我们的后面是正太铁路，驻有正太护路军孙楚和李生达部队，东面是娘子关，西面是太原，都有重兵把守，我们只能向北面的山区运动。如果遇到阻击的敌人或者后边的追兵，我们都要勇猛冲杀，但不要恋战，要夺路向着既定的路线奋勇前进。一路上还要搞好宣传工作，要充分展示我们红军的革命气概和英雄的风采，扩大革命的影响。”
之后，每个人脖子上都围有红巾的红军战士，在两面鲜红大旗的引导下，排着整齐的队伍，雄纠纠、气昂昂地踏上了新的征程。就在此时，中共山西特委向全国发出通电，宣告成立中国工农红军第二十四军，点燃了北方武装斗争的烈火。这不仅震惊了平定，震惊了阳泉，也震惊了三晋大地，以至整个北方地区。中共太原市委立即向党员传达了这一喜讯，而且散发了许多宣传材料，当时一个油印传单上就写着：“莫打鼓，莫打锣，听我唱个兵变歌。兵变歌为谁作，为的士兵受苦多……。”
红二十四军长驱直进，于7月8日到达盂县上社镇，遇到地方武装的阻击，经过激战，敌人被全部歼灭，并缴获了一批枪支弹药和一台收发报机。与盂县相邻的五台县的敌人，闻讯后十分恐慌，县政府立即召开紧急会议商讨对策，并派出保安队与警察前往阻击，命令各村保安团严守以待。7月11日，红二十四军以排山倒海之势，浩浩荡荡抵达五台县柏兰镇，刚一交战，敌守军就被红军似风暴席卷的磅礴气势吓破了胆，顿时仓惶四散，除个别顽固分子被当场击毙外，绝大部分都举枪投降被生擒。红二十四军坚持优待俘掳的政策，被俘的士兵愿留者，就地编入连队改造成为红军战士，愿走者马上释放回家为民。
红二十四军这几日鞍不离马，甲不离身地向北挺进，虽后有追兵，前有阻敌，非常艰辛，但士气高昂，连战连捷。官兵同吃同住同战斗，干部以身作则，身先士卒。谷雄一、赫光等领导同志有马不骑，将马匹让出来用以驮伤病员和粮食物资。官兵之间、上下级之间，互相关心，互敬互爱，情同手足。这与原来高桂滋旧军队相比，自然是发生了翻天覆地的变化。
红二十四军原计划在五台山一带创建革命根据地，但经过侦察，敌人在这一带加强了兵力，有重兵驻扎，如果要强攻硬拼，就难免造成重大伤亡。于是，谷雄一和赫光等研究决定，暂时改变原计划，带领部队向敌人力量比较薄弱的晋冀两省交界的阜平县发展，等时机成熟后再谋五台地区。部队在此地未多停留，而是从柏兰镇折往东南方向迂回盂县，翻越十八盘大山，于7月13日进入河北省平山县蛟潭庄、柳木园、洪子店一带。7月16日，部队进入河北省灵寿县境，经汉山、陈庄、南营等地，沿路没有遇到敌人的抵抗。这是因为一方面敌人对我军的实力和动向等情况不甚明了，另一方面都为保存各自的实力，而不敢与我军对抗，所以，我军比较顺利地向阜平县挺进。
