一手將隋煬帝逼成太上皇的李淵應該沒想到，九年后(626年)，他也被迫成為了太上皇。

大唐武德九年(626年)六月，玄武門事變爆發，李淵在此時已大權旁落于李世民手中，在詔書中也只能說“自今軍國庶事”，無大小皆委太子處決，然后聞奏”。僅僅兩個月后，這一新的權力結構就在法統上得到了確認——李世民登基，李淵做了太上皇。對于交班過程，《舊唐書》和《新唐書》壓根就沒有記載，只有《資治通鑒》語焉不詳并且挺假地說了一句“制傳位于太子;太子固辭，不許”，弄得好像真的似的。不過，我們基本上可以從政治邏輯上確認，李世民應該是通過暗示或近臣帶話，甚至某種暗含威脅的政治交換完成這項太上皇計劃的，在保持了父皇的體面和自己的孝道同時，也得償所愿。

但是，很難說李淵在這其中就是毫無作用的，這位實力尚存的大唐開國皇帝好歹有大唐重臣裴寂和蕭瑀等人的支持，還有李氏宗室和關隴貴族的老班底們，這其中很難說“寧無一個是男兒”，李淵的退讓從某種意義上來說是順應時勢和洞察時務的——既然沒有勝算，何必逆流而動;再說，李淵在玄武門之變中已經沒有了建成和元吉兩個兒子，又何必冒著失去第三個兒子或者自己的危險去進行一場前途晦暗的宮斗乃至天下大亂呢？

唐太宗即位沒多久，便開始對李淵在位時的大政方針進行“撥亂反正”。李淵頗重李氏宗室，在位時曾大肆封王，甚至一直封到高祖父那一代的遠親，以至于出現了“雖童孺皆為王，王者數十人”的局面，李世民上臺僅三個月，除了幾個有戰功的以外，將已經封郡王的宗室統統降為“縣公”，其間有的是殺伐決斷，就是看不到半點皇帝對于太上皇的尊重與顧忌。

對于李淵而言，皇位和皇權既已悉數撒手，自己在位時的大政方針又陸續被推倒重來，在此種處境之下，很難再去苛求這位開國皇帝一定要“放下”，一定要云淡風輕。然而，李淵還是守住了不戀棧的邊界，幾乎徹底地消失在大唐的政治生活當中。當然，你也可以說，這是時勢如此，不得已也，但吾國歷史上昧于大勢者難道還少么？

不夸張地說，李淵一開始的太上皇生活甚至還遠遠不如沒當過一天皇帝的劉太公，同樣是無權無勢，但太公至少還保有了劉邦的親情。即使不考慮徹底剝離父皇政治參與機會的因素——這本也無可厚非——李世民對于李淵也很難說得上有多么孝順，這從貞觀三年的一次搬家可以看出部分端倪。李淵在退位之后，前幾年還是一直住在自己的皇宮——太極宮里，而李世民則一直住在李建成當年的東宮里處理朝政;但在貞觀三年，李淵突然將太極宮讓了出來，自己搬到了李世民當年做親王時的宮殿。

對此，《新唐書》的記載非常簡要，“貞觀三年，太上皇徙居大安宮”，看上去并沒有什么問題。但此次搬家的真相卻在《資治通鑒》之中穿幫了。貞觀六年，御史馬周突然上疏唐太宗，說大安宮比起皇宮來說“尚為卑小”，必須大作修整，才能“以稱中外之望”，基本已是直接用國內外觀瞻來施壓唐太宗重視太上皇顯然很有問題的居住狀況了。馬周甚至對此時正在外避暑的太宗直接開炮說：“太上皇尚留暑中，而陛下獨居涼處”，催促太宗早日回宮，“以解眾惑”，天下哪里有兒子乘涼父親捱熱的道理，就算你是皇帝也不成。

太上皇此時“其心為如何”，史書中沒有提供任何線索。或許就算李淵想了，裴三不在了，老皇宮也不住了，他又能找誰訴說？

貞觀四年，一樁突發的歷史大事件似乎讓李淵從去年的郁結心情中走了出來，太上皇和皇上的冰凍關系也隨之迎來了轉機。這一年，大唐在與多年死敵突厥的戰爭中大獲全勝，強大的突厥在唐軍的兵勢之下土崩瓦解，最后竟然連頡利可汗都被俘送至長安。獲悉此事的李淵顯然回想起了當年晉陽起兵之初被迫稱臣突厥的屈辱往事，心悅誠服地慨嘆說：當年劉邦被匈奴圍困于白登山，始終未能雪恥;今日我兒子滅了突厥，為我當年的恥辱報了大仇。《資治通鑒》記錄了李淵非常關鍵的一句話：“吾托付得人，復何憂哉！”在家國天下的大格局面前，李淵終于放下了父子心結，當年被逼退位之恨再也不必提起了，兒子，幫他報了國仇。

接下來的場面與之前父子離心的敘述大相徑庭，《資治通鑒》記載：“上皇召上與貴臣十余人及諸王、妃、主置酒凌煙閣，酒酣，上皇自彈琵琶、上起舞，公卿迭起為壽，逮夜而罷?！备缸佣己菻IGH了，太上皇彈起了琵琶，皇帝跳起了舞，父慈子孝，一切心結似乎都已煙消云散。

皇帝與太上皇的關系自此迅速升溫，史書中突然也多出了皇帝頻頻在打獵后“獻獵”太上皇的記載。到了貞觀六年十月，父子關系又上升到了一個新的高度，《資治通鑒》記載說，出巡歸來的唐太宗和長孫皇后到李淵的寢宮送上了很多禮物，其后更是大擺家宴，“夜久乃罷”，最后唐太宗竟然要求親自為李淵的車駕拉車，李淵覺得不合適，就換成了太子代勞。