提起中原军区，很多人会想到刘邓大军南下大别山创建起来的解放区。实际上这是中原军区重建，第一次组建是在1945年10月，由李先念5师，王树声领导河南军区，以及王震率领的南下支队组建而来。

此时的中原军区战略地位极其重要，是沟通华东、晋冀鲁豫与陕北解放区的战略枢纽，也是插入国民党统治区的一个战略楔子。

当中原军区成立后，司令员李先念，政委郑位三，副司令王树声兼任一纵司令，副司令王震兼任参谋长，下辖2个纵队，河南军区、江汉军区、鄂东军区。

在组建领导班子时，参谋长一职上级一开始决定由刘少卿担任，但他有些“怨气”，拒绝了该任命。

说起刘少卿，想必很多人都不知道他，但在抗战时期发展鄂豫边区时，又是一位举足轻重的人物。

1938年，李先念来到鄂豫边区发展根据地，把这里的抗日武装力量进行整编后，组建新四军豫鄂独立游击支队。1939年，刘少卿率领一些干部抵达鄂豫边区工作没多久，部队随着扩编番号而变动，改为豫皖挺进纵队，李担任司令员，刘少卿担任参谋长。

从此以后，俩人开始长达7年的共事，

刘少卿有能力，协助李司令处理不少工作，而且作为参谋长经常是独当一面，率领部队独立作战。这样的情况，在参谋长身上发生不是很多，从侧面证明他有能力，而且李先念对他很放手，但脾气也是非常倔强的，而且不小，有些“霸道”。

1942年开辟鄂南时，刘少卿担任江南指挥长，让罗通布置战斗任务，罗通对如何打作了部署，大家都没有意见。问刘少卿有什么指示，他让罗通指挥特务团，作为政委的罗通表示这样不妥，话还没说完，对方就发脾气，嫌罗通没有服从他的指挥，甚至要军法从事，罗通火了，俩人吵起来。罗通有话就好好说，不等人把话说完就扣帽子，吓唬人。

罗通在接受任务后心里很不痛快，把情绪发泄在战场上，心想战死算了。结果他带两个班攻占敌人山头，还俘虏十几个敌人。不过，这件事也随之过去，俩人依然还是亲密战友。

刘少卿在抗战时期的鄂豫边区工作得心应手，随着抗战形势的转变，他的个人情况也在发生变化。

1945年1月，王震率领南下支队开辟华南游击战争，5师领导研究部署讨论，刘少卿谈自己的看法，对三千多人的南下支队南下广东表示担心，那里是国民党的管控区，没有多少群众基础，不容易发展，不如到豫中发展根据地，可以东接新四军4师，还可以向伏牛山、桐柏山那边发展，短时间内可以让部队扩大。但向南发展是上级的命令，他们无权左右。

没多久，刘少卿接到北上延安的命令，去参加七大学习，参谋长由文建武担任。对于突然起来的命令，他有些发怔，心里有点别扭还是服从命令。他带着一个连上路，途中因为经费不足无法前行，李司令让他暂时不走，找豫南游击兵团。这样刘少卿这支部队的司令，在豫南开始作战。

因为他是同意部队到河南发展根据地，他领导部队开辟新区也能充分发挥作用。

几个月后，李司令对他说把王树声部有4个支队渡过黄河，抵达登封一带，让他去那里，可以派人送他过黄河，并且把豫南游击兵团交给粟在山。这是，七大结束，又有人接替他的职务，让刘少卿的处境很尴尬。

在前往延安的途中得知日军投降了，王树声说你也不用去延安了，我们可以向上级请示。刘少卿就在王树声部担任临时参谋长。

当王树声部与李先念部会合后，刘少卿也回到5师。上级要组建中原军区，司令员、政委副司令都有安排，现在准备任命他为参谋长，可他推辞了。有点怨气：我还能当参谋长？突然把我调走，现在哪里还有威信。对于他的抱怨，李司令宽慰他说误会了，5师一向是李任刘，刘的威信可不低。

刘少卿想着离开5师，去八路军工作，脾气有点倔的他，有功劳，有苦劳，也有点得理不让人。李司令希望他留下来，给他台阶下。最终算是留下了，可是参谋长一职由王震兼任。

他成为李司令“个人参谋长”，指挥作战还是形影不离，但没有正式职务，显得尴尬。

1946年1月，美防来华调停，刘少卿被抽调去了军调部工作。随着中原突围，双方和谈破裂，刘少卿从北平撤回到延安，后被派去晋冀鲁豫军区，想去东北，抵达山东被滞留下，留在华东战争上。

解放战争时期，他在主力部队时间非常短暂，也就从1947年7月到1948年5月，10个月时间，其他时间都在后方工作或者养病等，后评级不高，或因被安排“临时”职务。