李冰率領著五萬定北軍花了將近一天的時間才渡過黃河，然後兵分兩路朝著榆林郡殺過去
，榆林郡的治所榆林縣位於黃河沿岸，也屬於土地肥沃的地方，如果能夠拿下榆林郡，就可以和五原郡這兩片土地連成一片，另外，還可以以榆林郡爲跳板和根據地，進入黃河南岸的關中地區，然後直插長安，榆林和京師之間只有朔方和上郡兩個郡，這兩個郡都是地廣人稀的地方，守軍戰鬥力都不是很強，所以形式對於李冰來說十分的有利。
李冰親自率領一路沿河而下直接前往榆林縣，而另外一路兩萬人則有李元霸爲主，徐世績爲輔，直奔榆林郡其餘的縣城，不給榆林縣的守軍撤退的容身之處。
李冰起事的消息不亞於重磅炸彈，一下子震驚了朝野，雖說先前李淵起事的時候朝中已經有了心理準備，但是宇文化及傳來的消息卻是李冰被追擊跳崖，生死不知，所以李淵起事後，五原郡一直按兵不動，讓那些人心中有了些許的希望，希望李冰真如宇文化及說的那樣，跳崖身亡，不然的話，就憑著李冰在軍中的威望，憑著李冰那戰無不勝的神話，那大隋完全就是爲自己樹立了一個極其強大的對手，所謂希望越大，失望越大，當李冰在五原起事的消息傳到了朝廷的時候，朝中有些人都嚇呆了，尤其是那些武將們，雖然有的都是功勳卓著的老將，但是一聽說要與李冰爲敵，都爲難的搖搖頭，倒是那些文臣們，整天只知道聖人言論什麼的，對於李冰起事一事都沒有什麼感覺，認爲不過是小疾而已。然後兵部緊急的派出將領帶領三萬大軍前去支援榆林。
李冰沿河而下一路急行軍，三天過後，李冰率領的三萬軍隊已經到了榆林縣城下。
榆林守將是薛圖，沒有什麼名氣。自從李冰平定了突厥之後，榆林已經沒有了昔日突厥的威脅，加上原本榆林唯一的一員大將來護兒投奔了李冰。所以榆林再也沒有什麼厲害的將領。但是反正也沒有什麼戰事，榆林太守也沒有向朝廷要求派個將領過來，榆林地最高將領就落在了來護兒原本的副將薛圖的身上。
到了榆林縣城下，雖然榆林郡沒有什麼厲害地大將。但是榆林守軍地實力還是不弱的，畢竟來護兒曾經在這個呆了一段時間，鑑於來護兒在軍中的影響力，李冰就讓來護兒上前勸降，來護兒一催自己坐下的賽龍五斑駒。手中持著鐵槍。大搖大擺地到了榆林縣城城下，仰起頭來看著城上：“城上的狗崽子們，本將軍回來了來護兒扯著大嗓門喊道，“呦，二虎子，幾年不見，你小子當校尉了，還有你，孫三狗。怎麼這些年了你連個伍長還沒混上啊……”來護兒就在下面滔滔不絕的說著。勸降成了認親大會，這個也是來護兒戰術。那就是大打感情牌，這裡面很多的將領都是來護兒一手帶出來的，所以裡面很多人都對來護兒有著特殊地感情。
“看，是來將軍回來了！”“什麼，來將軍回來了？”“哇，真地是來將軍啊！”“在哪呢，在哪呢，讓我看看！”……原本還十分有秩序的城樓現在一片混亂，那些士兵們爭先恐後的往城前擠著，都想看看來護兒，把榆林守將薛圖氣的是七竅冒煙，大聲的呵斥著那些士兵們，並且出動了他的親兵對上前驅趕，那些士兵們纔不情不願的退回去，城樓上的騷亂才平息了下來。
薛圖走到前面，對著下面的來護兒聽著：“造反地逆賊，你不乖乖投降也就罷了，還敢到我榆林城來招搖，也太不把我們榆林軍放在眼中了吧，本將勸你趕緊束手投降，然後獻上賊手李冰地腦袋，我可以念在以往的情分上替你求求情，從輕發落！”
“呸！誰家地狗沒事放出來亂嚷嚷！”來護兒翻翻白眼說道，“哦，原來是薛圖啊，你小子挺牛的啊，老子不過離開了幾年，你現在已經爬上這個位置了啊，給太守大人送上了多少錢啊，還是說把自己的老婆送上去給太守享受了！”來護兒在李冰的身邊呆久了，也跟著學壞了，嘴巴變得惡毒起來，把薛圖罵的不知道在城頭上直跳。
“你……你血口噴人！來護兒，別給臉不要臉，你丫就一個不忠的逆賊，我好心好意的看在曾經的情分上想要拉你一把，沒想到你如此的執迷不悟，罷了，我就大義滅親吧，弓箭手準備！”薛圖先是氣的直跳，但是很快就鎮靜了下來，然後下達了命令，但是出乎他意料的，聽從他吩咐的只是很少一部分人。大部分的士兵都是左右爲難的站在那裡觀望著，一面是自己的長官的命令，另一面是自己曾經最崇拜的前上司，他們也不知道該如何是好，愣愣的站在那裡。
就在那些士兵們左右爲難的時候，就聽見下面的來護兒用一種滄桑的語氣說著：“兄弟們，不用爲難，舉起你們的弓箭來吧，本將從來不害怕，但是在死之前，我還是想告訴你們一句，現在的大隋已經不再是那個值得我們守護的那個大隋了，你知道我身後那個年輕的人是誰嗎？那就是武平郡公，那個十四歲平突厥，打下了半個高句麗的英雄，但是我們的英雄又受到了什麼樣的待遇，楊廣的猜忌，甚至不惜對他和他的家人們下殺手，兄弟們，你們設身處地的想想，如果是你們，你們在這裡打仗，但是你的家人卻遭到了當地狗官的欺負，你是什麼心情，別忘了，是誰打跑了突厥，讓你們過上安穩生活的，看看大隋的土地上，到處都是民不聊生，這樣的皇帝，還保他何用？”來護兒一番慷慨激昂的話讓那些士兵們震驚了，他們都知道了李冰造反的事情，但是朝廷只是告訴他們李冰反了，沒有人告訴他們原因，聽了來護兒的話，他們心中才受到了衝擊，榆林軍中有許多崇拜李冰的人，還有那些原來二路軍的士兵們，這才明白了自己心中的偶像造反的原因。
“這……這是狡辯，都別聽他的，放箭，給我放箭！”薛圖見那些士兵一個個都遲疑了起來，他不由得慌了，但是他的口才顯然沒有在李冰身邊經過學習鍛鍊的來護兒那麼離開，半天都說不出什麼來，這讓他的發言是那麼的無力，看到薛圖那著急的樣子，那些士兵們更加的疑惑了。
“去他孃的，老子相信李大帥，老子不幹了！”不知道是誰突然說了這麼一句，頓時這一句話就引起了連鎖反應，一個接著一個的士兵口中嚷嚷著要跟著李冰造反，尤其是那些遼東的二路軍士兵們，在李冰手下當過兵的他們知道李冰待人一向很和氣，而且在李冰手下當兵的待遇也很好，糧餉、軍餉之類的從來都不會拖欠，而且李冰在戰場上百戰百勝的神話也讓那些士兵們心中崇拜不已，在李冰掌控二路軍期間對於二路軍的思想工作也在此刻產生了很大的作用，士兵們紛紛的走下城樓，要跟著李冰造反，甚至有些士兵自發的攻擊起城門來，想要奪取城門將定北軍放進來，榆林城內頓時一邊混亂，薛圖指揮著忠於他的士兵們跟那些想要跟著李冰造反的士兵們先激戰了起來。
城中發生的事情已經通過望遠鏡被李冰看見了，這正好是個時機，也許可以兵不血刃的拿下榆林縣城，李冰一揮手中的方天畫戟，定北軍的士兵們就如同潮水一般朝著城門撲過去
，現在榆林軍內部已經混亂了起來，哪裡還有心思去管那些衝過來的定北軍，不負吹灰之力的，定北軍就衝到了榆林縣城下，攻城用的撞城車狠狠的朝著城門撞過去
，李冰現在有些痛恨自己的武器不是李元霸那樣的大錘，要不然的話自己也能拿著錘衝過去
撞城門。
剛剛撞了幾下，城門紋絲不動，但是就在撞城車再一次衝過去
的時候，門卻突然打開了，撞城車收不住，一下子直接衝進城去，原來是那些造反的士兵們見定北軍還沒有進城，拼死靠近了城門，把城門上的鐵閘給扳了下來，那巨大的城門頓時就被打開了。
城門被打開後，定北軍的士兵們就如同猛虎下山一般衝進了榆林城中，也認不出是不是造反的士兵，總之是見人就砍，弄得場面也是一度混亂了起來，李冰看到這個場面，就下令讓那些造反的榆林士兵們先到城外，然後城內的戰鬥就由定北軍來解決，場面這個時候纔有了好轉，薛圖見大勢已去，但是想想自己剛纔得罪了來護兒，再說他也不願意臣服於李冰這個年輕人，所以他就選擇帶著剩下的人負隅頑抗，榆林郡雖然彪悍，但是遠遠不是李冰麾下經過戰火考研的定北軍的對手，在連弩一頓齊射下，薛圖率領的榆林郡全軍覆沒，而定北軍只是以微小的帶價就佔領了榆林縣城，獲得了出兵以來的第一場勝利。