迁秦王府从事中郎,积极运筹帷幄,为时人所敬服。文学馆建立后,位列十八学士之首。与房玄龄等参与策划玄武门之变,贞观元年,与长孙无忌、尉迟恭、房玄龄、侯君集五人论功第一,拜太子左庶子,册封蔡国公。唐太宗即位后,历任兵部尚书、检校侍中、吏部尚书,迁右仆射,配合房玄龄同心辅政,负责选拔人才、制定法度等,并称房谋杜断。