1949年9月，政协第一次全体会议在北京召开，黄克诚以中南代表团负责人的身份出席。这次会议非常热烈和成功，并确定了多位党内领导人的职位。
会议开幕之前，毛泽东邀请黄克诚一起去迎接从湖南赶来参会的程潜。毛泽东：“中央已经决定在湖南组建军委会，由程潜任主任，你任副主任。你要善于和党外人士团结共事，建设湖南。”
黄克诚本就是湖南人，对家乡很有感情，信心满满地回答：“我一定做到！”
年轻黄克诚
1949年9月7日晚，北京前门火车站人头攒动，一列火车缓缓进站。陈潜下了车，就见月台上有一百多人的欢迎队伍，还举着一条醒目的横幅“欢迎程潜将军”。
程潜没料到竟然有这样隆重的欢迎仪式，他笑着向大家招招手，就朝着毛泽东等领导人快步走来。毛泽东迎上前和他握手，说：“欢迎你到我家做客。”
然后给程潜介绍身边的人，黄克诚握着程潜的手说：“欢迎你啊，程潜将军。愿我们合作愉快！”
程潜：“我一定竭诚合作，好好建设我们的家乡！”
程潜
晚上，中共为程潜准备了欢迎宴会。程潜见中共领导人如此真诚相待，激动的说：“我过去跟着蒋介石，走错了路，很惭愧。今后就要共产党、毛主席的领导下工作了，对未来充满了信心和期待。”
10月1日，众人参加了开国典礼。10月中旬，黄克诚登上了开往长沙的列车。黄克诚坐在窗边，看到农田中很多农民正在忙着秋收，一派大丰收的景象。
黄克诚心中愉悦，打了半辈子的仗，牺牲了那么多同志、战友，就是为了让群众过上安定、幸福的生活。如今第一步已经完成了，第二步也要踏出了。
黄克诚心中考虑这第二步应该怎么走，在西北、西南、台湾等地区，还有国民党残余势力。而在湖南，比较严重的是地痞、流氓、土匪等反革命势力。
黄克诚
黄克诚这次到湖南任省委书记、军委会副主任，工作并不轻松。列车驶入湖南境内，黄克诚看着窗外的景色，都觉得熟悉了很多。
抵达长沙站，黄克诚调整好情绪，大步下车，向着前来迎接自己的人群招手示意。第二天，黄克诚就投入了工作中，他思考应该将这一阶段的工作重心放在哪里？
3月份，毛泽东在企业二中全会上指出，进入新的阶段，工作中心必须放在城市。否则就要犯极大的错误。
但黄克诚思来想去，认为湖南在开头一段时间，工作重点还是应该放在农村，毕竟湖南刚解放，人口近百分之九十都在农村。
黄克诚
然而，黄克诚很顾虑，自己的想法会不会违背了中央的总方针呢？能不能得到上级的认可和支持呢？
黄克诚见林彪刚到办公室没多久，黄克诚就见到了中南局书记林彪。林彪：“你对新区工作有什么看法？”
黄克诚正在犹豫，就将自己刚刚的想法全部对林彪说了。林彪听完，皱起了眉头，沉默了好一会儿，不咸不淡地开口：“你讲的很有道理。”
说完，林彪找来自己的秘书，对秘书说：“中南各省当前工作重点，还应该放在农村。”
林彪
黄克诚还是很担心，说：“但是，这会不会违背了中央的总方针呢？”
林彪脸上浮起几丝笑意，哼了一声，一字一字地说：“因地制宜嘛！”
说完，林彪头往后一仰，悠闲地从口袋中摸出几粒炒豆，慢慢吃。
黄克诚听林彪这样说，心中松了一口气。林彪是中南局书记，又是大军南下的统帅，属于他的上级，有了上级支持，自然对于未来的工作更有信心。
近百年，广泛流传着一句话：“湘西有打不净的土匪。”要说全国土匪最凶的地方，那必然是湘西，湘西道路复杂，山岭环绕，又湘川、湘黔公路通往附近省市，土匪沿主要干道打劫行人。
湘西土匪
黄克诚对清楚湘西匪患非常重视吗，对准备进山剿匪的人民解放军第47军特别指示：湘西地理位置很重要，对解放大西南关系重大，国民党还有一个正规军盘踞，再加上当地土匪熟悉环境，活动猖獗，千万不能掉以轻心。
1950年1月，湖南省委召开了党委会，会上特别提到清除土匪特务武装的工作安排。会上指出，不解决土匪问题，任何社会改革、生产建设都无从谈起。
之后，各部队就开始进山剿匪。成果是很不错，但湘西土匪问题很容易死灰复燃，一有机会，反革命势力就重新活动起来。
黄克诚
原本黄克诚不愿意采取雷霆手段，但形势逼人，狠心建议呼声省委考虑开杀戒。一部分同志习惯于宽大处理，且有些轻视土匪的问题，认为土匪不足为患。
1950年10月，中央作出明确指示：镇压反革命。黄克诚有了中央的尚方宝剑，湖南的同志们才下定决心开杀戒。
当然，这所谓的开杀戒仅仅持续了二十多天。因为黄克诚认为，解决土匪当然是好事，但对于开杀戒一定要控制好度，否则引起恐慌和混乱更麻烦。
黄克诚和夫人
黄克诚见到一定剿匪成效，就立即下令不许随便杀人，严令没有省委的比准，一个人也不能随便杀。黄克诚下令后一个星期，镇压活动才终于完全停下来。
黄克诚在湖南待了3年，1952年8月，他坐上了北上的列车，中央下达了调令，调黄克诚赴京工作。在湖南家乡的这三年，黄克诚工作兢兢业业，除了清剿湘西土匪，还完成了土地改革、工业建设等繁重的工作。
黄克诚有些不舍家乡，他对湖南有很深的感情。回京后，他被任命为中国人民解放军第三副总参谋长及总后勤部长兼政委，干回了老本行。
