秦王李世民在南征北战中屡建功勋，引起了太子李建成的嫉恨。李世民曾到李建成住处吃饭，中毒而归。房玄龄敏锐地觉察到他们兄弟之间怨仇已成，祸乱将起。于是房玄龄便私下向长孙无忌建议，李世民应遵从周公诛杀兄弟的故事，对外抚宁天下，对内安定宗族社稷。长孙无忌十分赞同，于是入见李世民献策。 武德九年（626年）六月，在发动玄武门事变之前，李世民令长孙无忌秘密地将房玄龄等人召来。之前。房玄龄和杜如晦因被李建成与李元吉诬陷而遭到斥逐，被高祖下令不能再侍奉李世民。故而，当李世民秘密召见时，两人害怕获罪致死，便拒绝接受李世民的教令。对此，李世民十分生气，认为房玄龄等人要背叛他。故而，李世民便派尉迟敬德前去探查，若房玄龄等人不肯前来，便将其处死。尉迟敬德前去，与长孙无忌一起告诉房玄龄此事，于是房玄龄和杜如晦便身穿道士服装秘密进入秦王府，随后，李世民将李建成和李元吉诛杀于玄武门内。房玄龄和杜如晦、长孙无忌等人均参与了整个事变的谋划。而等到李世民被立为皇太子时，房玄龄也被提拔为了太子右庶子，得到了五千匹绢的赏赐。
