五代后周顯德六年(959年)，周世宗柴榮病死，七歲的恭帝繼位，時(shí)任殿前都點(diǎn)檢、歸德軍節(jié)度使的趙匡胤掌握了軍權(quán)。翌年正月初，趙匡胤在陳橋驛(今河南封丘東南陳橋鎮(zhèn))發(fā)動(dòng)兵變，黃袍加身。并率軍入開(kāi)封，脅迫周恭帝禪位，奪取了皇位。因趙匡胤所領(lǐng)的歸德軍駐在宋州，所以建國(guó)號(hào)為宋，定都于開(kāi)封。史稱(chēng)北宋。宋王朝的建立，結(jié)束了自唐末而形成的四分五裂的局面，使中國(guó)又歸于統(tǒng)一并逐漸進(jìn)入中國(guó)經(jīng)濟(jì)、文化、科技的鼎盛時(shí)期。唐朝最盛時(shí)有五千多萬(wàn)人口，宋朝人口最盛時(shí)突破一億。宋人有曰：“生民以來(lái)，能濟(jì)登茲者，未有如大宋之隆也。”

在宋朝建立之初，為使宋王朝能長(zhǎng)治久安，而不致成為繼五代后的第六個(gè)短命王朝，北宋王朝除了制定了一系列的政策方針，大力實(shí)施“強(qiáng)干弱枝”政策之外，還致力于結(jié)束五代十國(guó)的分裂割據(jù)局面，特別是當(dāng)宋太宗聽(tīng)說(shuō)，當(dāng)時(shí)仍被北漢統(tǒng)治的晉陽(yáng)出過(guò)好幾個(gè)皇帝，是個(gè)“龍城”之后，更是親自帶兵攻下太原城，并火燒太原城，再水灌太原城……

太原古稱(chēng)晉陽(yáng)，它西依懸甕山、東臨汾河水，地勢(shì)十分險(xiǎn)要，城堡十分堅(jiān)固。晉陽(yáng)城城池堅(jiān)固，唐以后的五代，這里幾度被一些野心軍閥作為割據(jù)稱(chēng)雄的堡壘，稱(chēng)王稱(chēng)霸，自立為帝。太原經(jīng)歷了后唐、后晉、后漢、北漢等幾個(gè)王朝。

979年，宋太宗親率大軍，來(lái)到太原城下指揮攻城。晉陽(yáng)城高大堅(jiān)固，使得宋軍損失慘重，內(nèi)外馬步軍都軍頭王廷義，殿前指揮使部虞侯石漢卿陣亡，大將李漢瓊、荊嗣、呼延贊、韓起重傷，以下將士傷亡者更多不勝數(shù)。當(dāng)時(shí)，主要是由于宋已統(tǒng)一中原，平定南方，傾全力攻晉陽(yáng)一城，晉陽(yáng)孤城難守，北漢主才不得已降宋。自此，北漢十州全部歸入宋的版圖。五代十國(guó)時(shí)期最后一個(gè)分裂的小王朝被消滅了。

太原城被攻破之后，宋太宗趙光義決定平毀太原城，這是出于多方面考慮的。首先是晉陽(yáng)城城池堅(jiān)固，易守難攻，宋軍強(qiáng)攻晉陽(yáng)造成損兵折將，損失慘重，故宋太宗決心徹底平毀晉陽(yáng)城以消心頭之恨。其次是當(dāng)時(shí)的李唐是從晉陽(yáng)起兵而奪取天下，到唐末五代一些割據(jù)者又據(jù)晉陽(yáng)爭(zhēng)奪天下，或抗衡中原王朝，望氣者認(rèn)為晉陽(yáng)有王者之氣，這是宋太宗要嚴(yán)加防范的。再次是宋太宗繼位時(shí)，多有道教人物相助、道教附會(huì)天象認(rèn)為：宋起之地為歸德 (今河南商丘市)屬于“商星分野”，而太原則屬于“參星分野”，自古參商不相見(jiàn)，這樣，當(dāng)中央政權(quán)強(qiáng)盛時(shí)，太原地區(qū)最后才服從，而當(dāng)中央政權(quán)衰弱時(shí)，太原則將最先叛亂，因此，不宜把太原列為方鎮(zhèn)，應(yīng)當(dāng)降低它的等級(jí)。鑒于上述原因，宋太宗決定平毀太原城，讓居民遷往汾水東的新城，把新設(shè)立的并州府遷到榆次。居民出城后，宋太宗下令放火，“萬(wàn)炬皆發(fā)，宮寺民舍，一日俱盡”。第二年四月，宋太宗又封堵汾水、晉祠水，灌入太原。古太原城經(jīng)此火燒、水灌，變?yōu)橐黄瑥U墟。往日被譽(yù)為“錦繡太原城”，并已逾千年的大都會(huì)便不復(fù)存在了。

太原舊城被毀后，宋太宗又命將太原治所從榆次遷到唐明鎮(zhèn)(即今太原市)。逃出城的百姓逐漸聚集到這里定居下來(lái)。由于此處地理位置十分重要，982年(宋太平興國(guó)七年)，宋太宗趙光義派三交都部署潘美在唐明鎮(zhèn)的基礎(chǔ)上，擴(kuò)大范圍，修筑城墻，興建太原城。宋初修建的太原城是一座土城，城池周長(zhǎng)5.28公里。筑四門(mén)：“東曰朝曦;南曰開(kāi)遠(yuǎn);西曰金肅;北曰懷德。城西南至現(xiàn)迎澤大街北邊，西至現(xiàn)新建路東邊，后小河、東后小河是當(dāng)時(shí)北面東邊的城壕。據(jù)說(shuō)趙宋在新修太原城街道時(shí)，都筑成丁字街，取其諧音，“釘”破“龍脈”，使太原不再出現(xiàn)“真龍?zhí)熳印保＜摆w宋天下。并忌諱使用“晉陽(yáng)”、“太原”名稱(chēng)，而設(shè)為緊州軍事，派潘美、楊業(yè)把守。

金代詩(shī)人元好問(wèn)《過(guò)晉陽(yáng)故城書(shū)事》在講到此事時(shí)說(shuō)：“南人鬼巫好機(jī)祥，萬(wàn)夫畚鋪開(kāi)連岡。官街十字改丁字，釘破并州渠亦亡。”舊的晉陽(yáng)城平毀了，但太原的戰(zhàn)略地位并沒(méi)有變，當(dāng)時(shí)遼據(jù)大同，建遼契丹又為游牧民族，其騎兵可以隨時(shí)南下太原，太原街道修成“丁”字形對(duì)阻遏遼騎兵的馳騁是起了積極作用的。