据《汉书》记载，张良死后葬济北谷城山下的黄石。张良庙位于陕西省汉中市留坝县柴关岭南麓，紫柏山东南脚下，距留坝县城17公里处的庙台子街上。相传张良急流勇退后，隐居于此。后人仰慕他“明哲保身”的策略和“功成不居”的风格，在此建庙奉祠。

大汉是个人才辈出的朝代，汉初时期就出现了“三杰”，而位居三杰之首的张良，更是为世人所推崇。张良离开家时仅二十余岁，之后长期辗转各地。但是，正是这样一个大人物，在历史中留下了深刻的印记，却没有接受应有的封赏，最终退隐山林了。

史学家们对他的这种做法有过许多猜测，其实，最根本的原因还是他看到了在各方争霸中，封建制度下的各方其残酷的斗争实质，最终，他才功成身退远离争斗，既打出了名气又保住了性命。张良卒于高帝崩后八年，所以应当为公元前187年，享年64至70岁左右。

可以说，张良的归隐，同时，也是自古以来所有谋士既有命运的推动，同样位于“汉初”三杰的其他二人却都落下了悲惨的结局。但是，作为谋士，对于张良的评价无论是帝王还是史学家都出奇的一致，这与他的贡献有很大的关系。

在楚汉之争没有开始之前，张良是韩国的一个小小谋士，并不得重用。张家五代都在韩国拜相，可是，等到张良长大后，已经没办法继承家族的官职，因为，当时的韩国已经被秦给灭了。国破家亡的张良孤注一掷，将所有身家都用在了刺杀秦始皇上。

他命人铸造了一个120斤重的大铁锤，又请了一个大力士，埋伏在秦始皇巡游的必经之路。看到秦王的车驾，大力士将大铁锤远远投掷过去，只可惜他们早有防备，最终，只是命中了秦王的副车。此后的政治形势变得越来越复杂，张良设法让韩国复国，韩王复位。

在此后的斗争中，张良辅佐刘邦立下不少汗马功劳，不仅设计于和秦军的争斗，而且，为刘邦笼络了不少人才，韩信也包括其中。鸿门宴之上，张良劝说刘邦要言辞谦卑，以保存实力为主，并在后来帮助刘邦从中脱身，救了刘邦一命。

楚汉之争落下帷幕，江山成了刘家的天下，在场艰苦卓绝的战斗中，许多大的战争都有张良参与，这也让他的威望越来越高。汉初，张良献计封雍齿为侯，这个人在军中威望极高，但是，很不得刘邦的喜欢。这次张良献策，刘邦不疑有他，进行封赏，使得军中人心不稳的危机解除。

大汉的许多官员是都是中原人士，所以，在国家建立之初，很多大臣都主张迁都到洛阳。但是，张良在这时却持反对意见，主张建都于关中，此地攻守兼备，作为都城再好不过。刘邦最后还是采纳了他的意见，将都城定在了长安，这才有了后来大汉的百年基业。

国家安定，刘邦的年纪却渐渐大了，这时候太子之位被提上日程。当时，大皇子为皇后所出，大皇子虽然良善，但是，生性懦弱木讷，虽然立为太子，刘邦却很是不喜欢。刘邦非常宠爱戚夫人，对于戚夫人所出的儿子刘如意更是疼爱有加，一直有意废太子立刘如意。

吕后心急不已，就找到了张良，请求他献策。张良思酌再三，为太子献计，让他请来了德高望重的“四皓”。这四人每一个都须发花白，在嬴政在位时，就不与残暴的秦为伍，虽一直隐居却在民间很有名望，刘邦也对这四人很是敬佩。

一见太子居然有本事请来这四人，便认定太子深得民心，这才对废太子之事不再提及。此后几年，张良亲眼见着韩信和萧何惨死，又眼见着王室内部愈演愈烈的争斗，导致许多人无辜惨死。他意识到：如果再这么下去，萧何二人的下场就是他的结果，于是，在功成之后，他拒绝了刘邦的封赏，坚持退隐山林。

从此后，张良就安安静静地生活在山野间，对于慕名而来的政客避而不见，专心致志地研究道家之术，悠然自在。

据《仙传抬遗》记载，张良曾遇黄石公授书，读后便能应机权变，辅佐汉高祖刘邦平定天下。张良还以此修之于身，能炼气绝粒，轻身羽化。赤眉军起义的时候，有人发其墓，但是，见黄石枕，化而飞去，不见其尸形衣冠，得《素书》一篇及《兵略》数章。