刘武周的祖籍河间景城，父亲刘匡举家迁徒马邑(今山西朔县)。刘武周“骁勇善射，交通豪侠”。他的哥哥刘山伯每每告诫他说： “你**朋友，将来一定会使我们遭到灭族之灾。”并多次为此辱骂他。刘武周因此而离家出走，到东都洛阳后，在太仆杨义臣帐内办事行走，应朝廷征募前往辽东征讨高丽，因军功授建节校尉。

回师后，刘武周任鹰扬府校尉。马邑太守王仁恭因为敬重他是州里的人物，颇为赏识，常常令他率虞侯屯于自己宅下，因而刘武周与王仁恭的侍儿私通。刘武周担心事情泄露后于己不利，又眼见天下已经动乱，便心怀造反意图，设计杀死了王仁恭，自领马邑太守。

刘武周就势在马邑起兵，作战连连告捷，因而军威大振，于是又攻陷定襄郡，然后回归马邑。突厥立刘武周为定杨可汗，刘武周自称皇帝，以妻沮氏为皇后，建元为“天兴”。以卫士杨伏念为左仆射，妹婿范君璋为内史令。

李渊在晋阳起兵并决定西取长安时，不得不派使臣向突厥始毕可汗卑辞厚礼，结为友好，并许诺攻下长安后，所有男女财物都归可汗。这一切，目的在于攻取长安期间防止突厥与刘武周联合南下进犯。虽然如此，攻取长安时，李渊还是委任李元吉率重兵镇守晋阳。

河北易州的地方武装宋金刚被窦建德击败，率余部四千人投奔刘武周。刘武周平素知道宋金刚善于用兵，十分高兴，委以军事，号为宋王。宋金刚也深为依重，休了原妻，娶刘武周之妹。

唐武德二年(619),突厥与唐王朝的关系发生变化，转而支持刘武周南下。宋金刚劝说刘武周攻取晋阳，南下争夺天下。刘武周任命宋金刚为西南道大行台，命他率二万士兵入侵并州，驻军于黄蛇岭。这时，突厥的骑兵也赶来参战。黄蛇岭与太原近在咫尺，李元吉于慌忙之中派张达率兵抵御，结果全军覆灭，刘武周乘胜夺取榆次，又攻陷石州，杀死刺史王俭，接着又攻陷平遥，这时太原已处于刘武周军队的包围之中。

六月，刘武周派宋金刚率三万军队进攻太原，刘武周率军攻陷介州。李渊派左武卫大将军姜宝谊，太常少卿、行军总管李仲文迎战，结果全军覆灭，姜、李皆被俘虏。后来，姜宝谊、李仲文得以逃回，与刘武周再度交战。李渊为唐军屡遭失败而担忧，派右仆射裴寂为晋州道行军总管，前往山西讨伐刘武周。裴寂到达介州，宋金刚据城固守并切断唐军水源，对唐军发起突然袭击，唐军溃败而逃，退至晋阳。晋州以北地区除了西河和太原外，都被刘武周所占据。

守在太原的齐王李元吉，在李渊晋阳起兵后留守太原，骄奢**逸，不理政事，整日饮酒狩猎，压榨百姓。当刘武周的大军逼近太原时，李元吉乘黑夜溜出太原，逃回长安，刘武周于是占据太原。刘武周派宋金刚攻陷晋州，右骁卫大将军刘弘基战败被俘，后来又逃归。宋金刚又攻取浍州，进逼绛州，攻陷龙门，到达黄河岸边。宋金刚进攻翼城、绛县，裴寂被逼迫到山西西南部虞州、泰州的小地方。这时，夏县人吕崇茂杀县令，自号魏王，响应刘武周，隋朝旧将王行本据守蒲坂，也秘密与宋金刚联合，唐政权闻此大骇。

唐高祖在形势不利的情况下，出示手谕： “贼势如此，难与争锋，宜弃大河以东，谨守关西而已。”这时，已从陇右前线平定薛举而胜利返京的秦王李世民，在关键时刻审时度势，向唐高祖进谏说： “太原，王业所基，国之根本；河东富实，京邑所资，若举而弃之，臣窃愤恨。愿假臣精兵三万，必冀平殄武周，克复汾、晋。”

唐高祖于是征调关中的全部兵力，全部交秦王李世民统领，派他率大军进攻刘武周。

十月乙卯日，唐高祖到达华阴，在长春宫为秦王李世民的东征大军送别。

十一月，秦王李世民率大军抵达黄河岸边。这时黄河已经结冰，李世民率大军踏冰过河，驻扎在柏壁，与宋金刚的大军相对峙。当时，黄河以东的州县已被刘武周的军队掠夺一空，民心慌乱，唐军粮草缺乏。李世民向百姓发出安民告示，百姓听说李世民担任统帅前来，远近都来依附。然后收集粮食，以备军需。在形势不利的情况下，李世民“休兵秣马，惟令偏裨乘间抄虏，大军坚壁不战，由是贼势日衰。”在不出战的日子里，李世民不时离开营垒，外出侦察地形，为日后出击做好准备。

有一次，李世民率领少数轻骑兵外出侦察敌情，骑兵四散，李世民独自与一名甲士登上一个小山丘后歇息。突然，敌兵从四周包围了山丘，李世民与甲士都没有发觉敌人的到来。这时，正好有一条蛇追逐田鼠，触动了甲士的脸。甲兵惊醒后，发现敌兵已从四处包围而来，立即禀告李世民上马。李世民及甲士快跑百余步，被敌人的骑兵追上。

危难之中，李世民镇静异常，他手取大羽箭，张弓搭箭，一箭将敌兵的骁将从马上射了下来。敌兵见将领被射杀，急忙退去。李世民以他的临危不乱和高超的射箭本领，在意外的危难中得以安然无恙。

坚壁不战期间，江夏王李道宗随李世民登柏璧城察看敌情，李世民问李道宗： “贼恃其众，来邀我战，汝谓何如?”李道宗答道： “群贼锋不可挡，易以计屈，难以力竞。今深壁高垒，以挫其锋；乌合之众，莫能持久；粮运致竭，自当离散，可不战而擒。”李世民说： “汝意暗与我合。”事实表明，李世民、李道宗的“深壁高垒，以挫其锋”的策略，对于改变敌我形势和力量对比是十分有利的。

十二月，唐高祖又派永安王李孝基、陕州总管于筠、工部尚书独孤怀恩、内史侍郎唐俭进军攻取夏县，驻扎于城南。守将吕崇茂向宋金刚求救，宋金刚派骑兵骁将尉迟敬德以及寻相率兵增援。李孝基表里受敌，唐军大败，李孝基、独孤怀恩、于筠、唐俭以及行军总管刘世让都让敌军俘虏了。

李世民在唐军大败、五将领俱被虏的险恶形势下，乘着尉迟敬德、寻相率军返回浍州时，派兵部尚书殷开山、总管秦叔宝等人，于美良川出其不意地进行阻截，大破敌军，斩首二千余级。不久，尉迟敬德、寻相率领精骑兵秘密地前往蒲坂援助王行本，李世民获悉后率三千骑兵抄近道连夜直奔安邑，大破敌军，尉迟敬德、寻相仅以自保，其部下皆被俘虏，李世民又回军柏壁。

当时，唐军将领都请求乘胜与宋金刚决战，李世民回答说：“宋金刚悬军深入，精兵猛将，咸聚于此。刘武周据太原，倚金刚为扦蔽。军无蓄积，以虏掠为资，利在速战。我避锐以挫其锋，分兵汾、隰，冲其心腹，彼粮尽计穷，自当遁走。当待此机，未宜速战。”

李世民在连获两次胜利的情况下，以冷静的头脑继续坚持“坚闭不战”的战略，表明此时他已成为一位颇为成熟的军事指挥家。

武德三年二月，刘武周派兵进攻潞州，攻陷长子、壶关。乙巳日，刘武周又派兵侵犯潞州，被王行敏击破。

三月甲申日，唐行军副总管张伦在浩州击败刘武周，俘虏与杀死千余人。

四月，刘武周多次进攻浩州，被李仲文击败。这时，宋金刚军中已经没有了粮食，就在丁末日向北撤退。李世民审时度势，认为反击的时机已经成熟，于是率大军北上追击。

在吕州秦王李世民追上寻相的军队，大破敌军。李世民率大军乘胜追击， “一昼夜行二百余里，战数十合。”到达高壁岭时，刘弘基拉马劝谏说： “大王破贼，逐北至此，功亦足矣。深入不已，不爱身乎!且士卒饥疲，宜留壁于此，俟兵粮毕集，然后复进，未晚也。”李世民回答说： “金刚计穷而走，众心离沮；功难成而易败，机难得而易失，必乘此势取之。若更淹留，使之计立备成，不可复攻矣。吾竭忠徇国，岂顾身乎!"于是，李世民策马前进，乘胜追击，将士们见统帅如此身先士卒，也不敢再说什么饥饿疲劳，一直追击到雀鼠谷，终于追上了宋金刚的部队， “一日八战，皆破之，俘斩数万人。夜，宿于雀鼠谷西南，世民不食二日、不解甲三日矣，军中只有一羊，世民与将士分而食之”。

丙辰日，陕州总管于筠从宋金刚那里逃回来，李世民率军直扑介休，与宋金刚展开决战。宋金刚这时还有众二万人，出西门背城布阵，南北七里。李世民派总管李世劫与金刚交战，交战后稍退，敌军乘胜进攻。这时，李世民率精锐骑兵从宋金刚军阵后出击，大败敌军，杀敌三千人。宋金刚带领轻骑兵逃走，李世民追赶数十里，到达张难堡。唐浩州行军总管樊伯通、张德政据堡自守，李世民于城下脱去甲胄，樊、张二人看见是统帅秦王到来，高兴得又是叫又是哭。李世民的左右近卫告知樊、张：秦王已经两天没有吃饭了。樊、张忙着进献酒食，稍事休息。

宋金刚败退，尉迟敬德收拾残部据守介休，李世民派李道宗、宇文士及前往劝说，尉迟敬德与寻相以介休、永安降唐。李世民得骑兵骁将尉迟敬德，十分高兴，任命他为右一府统军，让他仍然统率自己原有的八千名部众，与诸兵营相参驻扎，对尉迟敬德给予充分的信任和重用。从此，尉迟敬德便成为秦王麾下一位攻无不克的猛将。

刘武周听到宋金刚战败，十分恐惧，放弃并州逃往突厥。宋金刚收拾余众，想要再与唐军交战，部下不肯听命，只好带百余骑兵逃往突厥。

李世民率大军到达晋阳，刘武周所任命的左仆射杨伏念以城投降，被俘的唐俭在城中封府库以待李世民。李世民率军进入晋阳。至此，刘武周所占领的山西失地，全部被唐军收复。

不久，宋金刚想要逃往上谷，被突厥追获，腰斩而死。

刘武周逃往突厥，到达朔州，想起了内史令苑君璋当初对他的一番劝谏： “唐主举一州之众，直取长安，所向无敌，此乃天授，非人力也。晋阳以南，道路险隘，悬军深入，无继于后，若进战不利，何以自还!不如北连突厥，南结唐朝，南面称孤，足为长策。"然而，刘武周当时没有听从苑君璋的建议，率兵南下，留苑君璋守卫朔州。待到失败后逃至朔州，刘武周哭泣着对苑君璋说： “当初没有听你的话，以至今日如此。”不久，刘武周又谋划逃归马邑，事情败露后，突厥将刘武周杀死，任命苑君璋为大行台。

秦王李世民在同刘武周的军事斗争中，面对的敌人兵精将猛，实力远比陇右的薛举父子要强大得多。然而，李世民采取了正确的战略战术，在军粮缺乏的情况下有民众的支持，这与他晋阳起兵后，在攻取长安的行军路上军纪严明、与民秋毫无犯有关。在捕捉到战机后，李世民又当机立断，在战斗中不辞劳苦，身先士卒，一鼓作气，终于消灭了刘武周、宋金刚的军事力量，收复失地，代北地区尽数划入唐王朝的版图。

李世民对刘武周作战的胜利，消除了唐王朝东向争夺天下时的北方忧患。在这场斗争中，李世民已经锻炼成为一位杰出的军事统帅。

原来关东有王世充、李密、宇文化及、窦建德四支强大武装割据力量，江南则有萧铣、杜伏威两支劲旅。当李世民集中精力讨伐薛举父子和刘武周时，李渊只派了部分说客前往山东进行游说。后来李密这一股力量先被宇文化及军所重创，后又被王世充部击败。

武德元年(618)十月，李密经部下魏徵的劝说率余部归唐。李渊就任命淮安王李神道为山东道安抚大使，率一支部队出关，魏徵随行，一路招安李密旧部。当时李密旧部徐世劫仍控制着东至海、南至江、西至汝州、北至魏郡的大片地区。经过魏徵劝说，徐世劫也归唐，开仓运粮，供给李神通的军队。徐世劫被唐封为黎州总管，后赐姓李氏，成为李世民的主要军事大将之一。

唐在河南、山东的声威渐振，但毕竟是孤军深入。不久，窦建德部西进，首先在武德二年(619)闰二月打败宇文化及，后又在九月发兵南下攻唐军，接连攻克相州、黎阳，并俘获了李神通、徐世劫和魏徵。王世充也乘机夺取了唐在河南的一部分土地。其时，李世民正在山西与刘武周军决战，唐军主力无法东援，因此唐军在关东所占领的地盘很快全部丧失了。