衆皆說要取大城，必取上黨。在左國城南部有兩座名城，西邊是平陽（臨汾），東面是上黨（長治）。
上黨地勢高，號稱“與天爲黨，故曰上黨”。中國有些古稱都是從夏朝傳來。太行本不高，可是夏商人就那點眼光。曹操的《苦寒行》說：北上太行山，艱哉何巍巍！車輪爲之摧，延頸長嘆息。怎麼樣？比李白的《蜀道難》如何？
所以太行也不高，上黨更不高，可他確實是古代的軍事名鎮，也算易守難攻。戰國的長平之戰，就是因爭上黨而戰。更重要的是上黨東部有一座名關，此關正是壺關。壺關在晉是幷州入中原的最重要的道路關卡，東窺鄴城、邯鄲，是進可攻，退可守的軍事要隘。
以上黨爲基地，最大的好處是地利好，可以睡個安穩覺；再次就是能和石勒、王彌連成一體。
可是劉淵卻不想去上黨，找個大點的基地，除了發展需要，還有一個重要原因，就是睡個安穩覺。可是上黨是幷州最南的郡，是幷州除晉陽以外最重要的城池，還是劉琨和大晉朝廷聯繫的最近路線，劉淵若攻佔上黨，劉琨必與之拼命。這是劉淵不願意看到的。劉琨在不借助北方鮮卑的力量下，無法出戰劉淵。但是劉淵要把所有的可能性都要考慮到，他知道如果自己逼得太緊，劉琨早晚會把鮮卑兵派來。
劉淵希望先打平陽（臨汾），打平陽最大的好處是：當時平陽並非歸併州所屬。向南遷入平陽，將出離劉琨的轄區。當時的平陽歸司州所屬。司州是大晉直隸的州，京師洛陽正在司州。司州最北爲平陽郡，最東爲鄴城，是大晉人口最多的州。
東海王在豫州指揮平定石勒、王彌，平陽沒有強軍。劉淵力排衆議，先打下平陽，再東攻上黨。打通和王彌、石勒的聯繫。
劉淵出幷州攻平陽，是非常現實的。從地理上講，上黨最好，可是上黨對幷州劉琨來說太重要。後來雙方在數年裡激烈爭奪上黨。上黨數易其主，誰也不能完全控制上黨。
劉淵定下出兵南攻平陽之策，就要求大練兵衆，準備攻城器械。安排妥當，就問文武還有什麼事要說。
劉聰便問：“前時，劉琨偷襲我們，有百員傷兵被我俘虜，如今他們傷愈，如何安排這百人？”
劉淵冷笑道：“把他們放走。當初劉琨入並，放了我們去阻擊他的人。有些雜胡纔去投靠他。把他們放走，讓他們知道，我們也不會虧待他們。”
劉聰遵命。劉曜聽完，也上前稟報：“父王，您派去聯絡劉虎的人已經迴歸。劉虎說他在劉琨地盤包圍之中。不得已只有表面臣服劉琨，不過將來您與劉琨決戰幷州，他必傾向我們。”
劉虎部也屬於匈奴五部，但他部卻在新興（忻州）一帶放牧。因在晉陽以北，在劉琨完全控制的地盤之中。被迫在表面上臣服劉琨。一百年之後其直系後人赫連勃勃天王建立胡夏國。《新唐書》竟記這一支爲東漢開國皇帝劉秀的直系子孫。
九月，漢王劉淵再命王彌、石勒攻擊河北各重鎮，以亂晉廷。然後自己帶領匈奴四部南下出幷州。攻司州平陽。平陽百年未遇戰爭，劉淵35萬部衆進入平陽，僅是騎兵就不下五萬人。平陽太守宋抽未戰而逃，劉淵暫時駐紮蒲子城。命劉聰、劉景繼續南下攻河東。勝利來的特順利，劉淵膽子越來越大，他要把河東當做戰略緩衝。以黃河爲防線。
河東爲洛陽北面屏障，又是關中長安的東大門，地位重要，城池也雄偉。劉聰來攻。一百多年以來，漢民多勝胡人。河東太守自信心過重，竟出城與匈奴兵野戰。劉聰騎軍比河東太守路述的步兵還多，結果可想而知。路述大敗，傷亡半數，纔回城死守。
同時王彌、石勒又攻下大晉天子第二號重鎮——鄴城，極大地牽制了大晉王朝的注意力。東海王越眼裡，鄴城及鄴城以東的青州，以南的兗州是其根基所在。東海王親自坐鎮，令豫州刺史裴憲爲前線主帥，尋找民軍決戰。
劉淵命劉聰全力攻打河東。劉聰督衆狂攻二十餘日，終於毀掉城池一角，胡軍蜂擁而進，路述戰敗殉國。
劉淵拿下河東郡城，晉東海王派將軍曹武出屯大陽，與劉淵爭奪河東。大陽（山西平陸縣）在黃河以北，其南面隔河相望的就是三門峽市。雖然劉淵佔領河東郡城，由於曹武還在河東地區內，晉軍還勉強控制著黃河北岸，還沒有喪失主動。
而由於王彌、石勒在河北的農軍各有數萬，東海王把晉軍中原主力放在王彌、石勒一面，以豫州刺史裴憲爲元帥。
劉淵兩路進攻大晉。風生水起，也就不管不顧自立爲帝，國號還是漢。但他還是比西蜀的氐人李特晚稱帝兩年。劉淵把都城建立在平陽（臨汾城），據說平陽在‘夏朝’時，本是匈奴故居。五胡亂華之中，羌、氐、匈奴均是中原故民。在上千年漫長的歷史中，被農耕民族擠出中原。匈奴自稱胡人，胡的古意爲“遠”，即遠離故土的人。
由於兵不血刃的攻下平陽，以至於劉淵敢於繼續南下，拿了大半個河東地區。劉淵獲得出其意料的收穫。河東郡本身是沒有胡人放牧的，可是河東與陝西只有一河之隔，陝西胡人紛紛來投。人數較多的有氐族單徽，鮮卑後部等。快六十歲的劉淵以氐族單徽之女爲皇后，意在聯盟陝西諸胡。氐族單徽之女是十年前劉淵做‘匈奴五部大都督’時所娶，本是小妾。
匈奴除皇室以外，還有四大貴族，他們是呼延氏、卜氏、蘭氏、喬氏。後面匈奴四大貴族的領袖人物將紛紛登場，他們的國學水平令人震驚。呼延氏是南匈奴除皇族外，最大部落。劉淵的妻子本是呼延氏。一般匈奴大單于皇后多出自呼延氏。這次立氐族單氏爲皇后，意在全力拉攏陝西羌氐部落，也算用心良苦！
鋼指戒