李渊在晋阳命令刘文静伪作了一份隋炀帝的敕书，在太原、雁门、马邑等郡征兵。二月，李渊又趁叛隋而起兵的刘武周南下汾阳宫(今山西宁武南)之机，以防备刘武周为名，下令募兵。与此同时，李渊向突厥始毕可汗称臣，取得了突厥的支持，亦解除了受突厥攻击的后顾之忧。在做好这种种准备之后，李渊终于起兵反隋。由于他准备充分，谋划精密，加上兵多将广，又个个骁勇善战，所以一路上势如破竹、威不可挡。他们很快攻破了西河城，进城后秋毫无犯，慰抚民众，恢复旧业，取得了老百姓的支持和信任。七月份，李渊以李元吉为镇北将军、太原留守，负责太原的一切事宜。李渊亲领三万人，誓师动兵，改易旗帜，开向关中，不到半年的时间便推翻了隋朝的统治。
由此可见，太原起兵的全过程，包括此前数年的苦心经营，都是李渊一手操办的，他为大唐的建立作出了卓越的贡献，唐王朝创立的主要功劳应该在他身上。而一直以来“阴结豪杰”、勇而有为的李世民，是李渊得力的助手，是积极的配角。然而在《旧唐书》、《新唐书》、《资治通鉴》等正史中，事实却发生了歪曲。