房玄齡字喬，青州臨淄（今山東臨淄人）。他從小機靈敏捷，喜歡唸書，又寫得一手好字，十八歲時就中了進士。當時吏部尚書高孝基善相人，見房玄齡後，對人道 ：「樸觀人多矣，未有如此郎者，當為國器，但恨不見其聳壑昂霄！」唐高祖李淵在太原起兵時，房玄齡正作個小公務員，老早就痛恨隋煬帝暴虐統治，現在難得李淵父子義旗高舉，以弔民伐罪自任，尤其是李世民禮賢下士，於是他乘李世民路過隰城時，就學「毛遂自薦」故事，往軍中求見，李世民一見他，就像見了老友一樣 ，談得非常投機，馬上就請他當渭北道行軍記室參軍（等於現在的機要秘書），此後，李世民一切措施，都出於他的計畫。後來，他又把杜如晦、王珪兩人約來，推薦給李世民，王 珪被唐高祖看中，房玄齡和杜如晦，仍作李世民的助手。

秦王門下，人才濟濟，房玄齡雖是文人，可是每次秦王出征，他都跟著一塊去，參與機要。房玄齡 走到哪，都先訪問當地人才，把他們納入幕府，士兵中有特殊才能的，他也去讓他們死心塌地的為秦王效力。秦王為太子，他因公擢為右庶子，太子即位，任他為中書令。當太宗大封功臣時，把他 列為第一，眾將心中有些不服，太宗的叔父首先出來道：「陛下起義兵，臣在關中首先響應，攻城略池，出生入死，冒險犯難，才有今日的地位。而房玄齡，只在帷幕中，動動筆墨，他的功勞反在 臣之上，臣未免有些不服。」太宗道：「叔父為國家，當然也歷盡辛苦，立了不少汗馬功勞，可是玄齡卻參與每一戰役，做全面部署，這種運籌帷幄之中，決勝於千里之外的功勞，是誰也比不上的 ，論功行賞，玄齡自然應在叔父之上了。」經這一番解釋，大家才心悅誠服。貞觀三年，太宗任命玄齡為左僕射，右僕射由杜如晦擔任。所謂「房謀杜斷」，早已成歷史上的美談了。

房玄齡在貞觀年間，當了十四年的太平宰相，當時天下紛亂，英雄並起之時，建立起一個唐室新王朝來，決不是件簡單的事情。唐太宗雖是一代英明之主，但要是沒有賢能的宰相，決不會有歷史上「貞觀之治」的太平盛世產生。