薛万彻祖籍河东汾阴（今山西万荣西南），后迁居到京兆郡咸阳县（今咸阳市渭城区东北），其父亲是隋朝左御卫大将军薛世雄。薛万彻年少时就与兄长薛万均跟随父亲住在幽州，兄弟二人因为武功和谋略受到罗艺的赏识。武德元年（618年）十一月，窦建德率军先攻占冀州（治信都，今河北冀县），声势大震，十二月，窦建德又率十万大军进攻幽州（治蓟县，今北京西南）。罗艺在应战前采纳了薛万彻兄长薛万均建议的计策，诱敌渡河，薛万彻随兄率一百精兵突袭，窦建德军大败。武德二年（619年），薛万彻与其兄薛万均随罗艺归唐，唐高祖授薛万彻车骑将军、武安县公，侍奉太子李建成。武德三年（620年）十月，窦建德二十万人第二次攻打幽州，薛万彻与薛万均率百人敢死队从地道潜出突袭，窦建德军大败而逃。武德四年（621年）七月，窦建德在长安被斩。九月，薛万彻与薛万均随李艺讨伐窦建德的部将刘黑闼，作战中失利，被俘，又被刘黑闼截断头发驱赶。
