1949年中旬，解放军雄踞长江北岸，随时准备南下，这让上海的诸多豪绅、“地头蛇”惊慌失措，他们知道一旦留下来必定会被清算，于是纷纷逃往台湾、香港或者美国避难。但黄金荣却坚决不走，他非要留在上海，谁劝都没有用。

黄金荣生在江苏，家中条件尚可，父母本想让他好好念书，往后当一个科学家或者企业家，可他对于读书没有半点兴趣，倒是很喜欢结交一些小混混。青年时，他前往上海闯荡，为了混饭吃跑过码头，也打过杂，后来上海租界巡捕房对外招募巡捕，他认为这是一个好差事，于是应聘报名，最终被顺利聘用。

黄金荣搞刑侦破案是个外行，但他搞人际关系是一把好手，而且因为在上海认识的人多，知道很多“特殊”情报，很多凶案、命案，他都是靠着人脉资源破获的。巡捕房对他的能力很是认可，随即安排他担任巡捕房的领班，主管所有华人巡捕。手中有了权力之后，黄金荣便开始搞“黑产”，与一些商人勾结起来，开设赌场、烟馆等高消费场所，从中谋取暴利。

黄金荣曾经收过一个小徒弟，姓蒋名介石，黄金荣觉得此人命格不一般，日后必然成大事，所以对蒋介石非常好，不仅带着他吃喝玩乐，而且还免费赠与他不少大洋。事实证明，黄金荣的眼光非常独到，蒋介石后来果然成就了大事，在大革命期间，他一度被视为孙先生的接班人。而黄金荣对于蒋介石的态度也愈加恭敬，在北伐军攻打上海的时候，黄金荣没少为北伐军出力。后来蒋介石在上海搞政变，残害一众左翼志士的时候，黄金荣也甘当帮凶，替蒋介石作恶。

土地革命时期、抗战时期，黄金荣出于个人情感，曾经在私底下帮助过共产党，这成为他日后被人民政权赦免的重要依据。1949年，解放军即将南下，上海的一众“大佬”担心会被清算，因此大多提前跑路，彼时黄金荣已经年近八旬，他觉得自己已经没办法经历长途跋涉，与其冒着生命危险去香港或者美国，不如就待在上海，听从解放军的处置，大不了就是一死。

上海解放之后，解放军并没有第一时间动黄金荣，而是派人一位民主人士登门拜访黄金荣，劝他主动向解放军“投诚”，争取宽大处理。黄金荣没想到解放军会宽待他，在惊喜之余，他给陈老总写了一封信，表达了新中国和毛主席的拥护。

不过黄金荣毕竟是帮派出身，且没有经历过完整的社会主义改造，所以还存在一些劣迹，比如私藏大烟和枪支。后来有人举报了黄金荣，解放军便上门抄查了他的家，果然搜出了很多违禁品，黄金荣对此供认不讳，并且表示愿意接受一切处罚。有同志建议直接将黄金荣枪毙，以彰显人民政权威严，但陈老总在经过一番思虑之后，并没有采取极端做法，而只是罚黄金荣扫大街。

此举主要有两个作用，其一是变相保护黄金荣，打消世人对他的质疑和憎恶；其二是向上海市民表态，人民政府绝对不姑息任何违法行为！远在台湾的蒋介石得知此事后，盛赞陈老总很会处理棘手的问题，懂得笼络民心。

1952年，上海市政府响应党中央的号召，开展了一次轰轰烈烈的“镇反”运动，很多昔日的帮派成员在此次运动中遭受打击，或被抓进监狱，或被处以死刑。这让黄金荣倍感压力，他整日疑神疑鬼，提心吊胆枯坐在家中。1953年，在长久的精神压抑下，他患上了严重的免疫系统疾病，一直发高烧，整个人的状态愈发低迷。

当年6月中旬，他的心跳突然变得微弱起来，家人见状马上找来医生为他注射强心针，希望能挽回他的生命，但结果却未能成功。6月20日，他因病去世，时年八十五岁。由于上海市民对他极其厌恶，因此很少有人去参加他的葬礼，仅有十几个“旧交”匆匆赶到灵堂，向他献上一束鲜花，而后便低调离去，连酒席都没有吃。

值得一提的是，黄金荣晚年曾娶了一个丫鬟当小妾，这个丫鬟富有心机，一直在悄悄转移黄金荣的财产，而黄金荣对此一无所知。等到他去世之后，他的正妻和子女在清点财产的时候，发现有很多钱不翼而飞，当大家想去找那个丫鬟对质的时候，丫鬟却早已乘坐飞机跑到香港去了。