〔20〕隋大业七年611，募兵伐辽东，建德补队长。方如军，会邑人孙安祖盗羊，为县令捕劾笞辱，安祖刺杀令，亡抵建德，建德阴舍之。时山东饥，群盗起，乃谋曰：“往文皇帝时，天下盛强，发百万众伐辽东，犹为所败。今水潦为灾，民力刓敝，主上不是恤，而亲驾临辽。且往岁西征，十不一返，今创夷未平，又重发兵，人情危骇，易以摇动。丈夫不死，当建功于世，渠为亡命虏乎！我闻高鸡泊广袤数百里，葭薍阻奥，可以违难；承间窃出，椎埋掠夺，足以自资。因得聚豪杰，且观时变，以就大计。”安祖然之。建德为招亡兵及民无产者数百，使安祖率之，入高鸡为盗，安祖号“摸羊公”。
隋炀帝大业七年，朝廷招募士兵征讨辽东，窦建德被补任为队长。他正要出发从军，恰巧同乡孙安祖偷了羊，被县令逮捕并受鞭打羞辱，孙安祖刺杀了县令，逃到窦建德那里，窦建德暗中收留了他。当时山东地区闹饥荒，盗贼纷纷兴起，窦建德于是谋划说：“过去文帝时期，天下强盛，发动百万大军征讨辽东，尚且被击败。如今水灾成患，民力疲惫不堪，皇上不体恤百姓，反而亲自率军征辽。而且往年西征，十个人中没有一个能回来，现在创伤未平，又再次征兵，人心恐惧不安，容易被煽动。大丈夫不死，就应当建功立业，怎能做逃亡的囚徒呢！我听说高鸡泊方圆数百里，芦苇丛生，地势险阻，可以躲避祸难；趁机出去劫掠，足以自给。由此可以聚集豪杰，观察时局变化，以成就大业。”孙安祖赞同他的话。窦建德为他招集了逃亡的士兵和无产的百姓数百人，让孙安祖率领他们，进入高鸡泊为盗，孙安祖号称“摸羊公”。
〔21〕时鄃人张金称亦结众万余，依河渚间，蓚人高士达兵千余屯清河鄙上。诸盗往来漳南者多剽杀人，焚乡聚，独不入建德闾，郡县意建德与贼通，捕族其家。建德至河间，闻家屠灭，即率麾下二百人亡归士达。士达自称东海公，以建德为司兵。安祖为金称所杀，其下数千人归建德，众益盛，至万人，犹保高鸡泊。然倾身接物，其执苦与士卒均，由是能致人死力。
当时鄃人张金称也聚集部众一万多人，依托河洲之间；蓚人高士达有士兵一千多人驻扎在清河边境。各路盗贼往来漳南的很多都抢劫杀人，焚烧乡村，唯独不进入窦建德的里巷，郡县官员怀疑窦建德与盗贼勾结，逮捕并灭了他的家族。窦建德到达河间，听说家族被屠杀，就率领部下二百人逃归高士达。高士达自称东海公，任命窦建德为司兵。孙安祖被张金称杀死，他的部下几千人归附窦建德，部众更加壮大，达到一万人，仍然据守高鸡泊。但他待人接物很谦恭，吃苦耐劳与士兵相同，因此能够使众人为他效死力。
〔22〕十二年616，涿郡通守郭绚率兵万人讨士达，士达自以智略不及建德，乃推为军司马，以兵属焉。建德既统众，思用奇厌伏群盗，乃请士达守辎重，自以精兵七千迎绚，诈为亡状。士达取所虏，阳言建德妻子，杀之。建德遗绚书约降，请前驱执贼自效。绚信之，引兵从建德至长河界，欲与盟，兵懈不设备。建德袭杀其军数千人，获马千匹，绚以数十骑去，追斩于平原，献首士达，威振山东。
大业十二年，涿郡通守郭绚率领一万士兵讨伐高士达，高士达自认为智谋不如窦建德，于是推举他为军司马，把军队交给他。窦建德统率军队后，想用奇计制服各路盗贼，于是请求高士达守卫辎重，自己率领七千精兵迎战郭绚，假装是逃亡的样子。高士达抓来俘虏，假称是窦建德的妻子儿女，杀了他们。窦建德写信给郭绚请求投降，表示愿意当前锋捉拿贼寇效力。郭绚相信了他，率兵跟随窦建德到长河边界，想与他结盟，军队松懈没有防备。窦建德袭击杀死他的军队几千人，缴获战马一千匹，郭绚带着几十名骑兵逃走，被追赶到平原杀死，窦建德把首级献给高士达，威震山东。
〔23〕隋遣太仆卿杨义臣讨破张金称于清河，残党畏诛，复屯啸归建德。义臣乘胜欲遂入高鸡泊，穷划根穴。建德谓士达曰：“隋善将独义臣耳，新破金称，其锋不可当。宜引兵避之，彼欲战不得，军老食乏，乘之可有功。”士达不纳。留建德守壁，身将兵逆战，置酒享士。建德闻，曰：“东海公未捷，遽自矜大，祸至不日矣。隋兵胜，必长驱而来，吾不能独支。”乃留众保壁，帅锐士据险待。后五日，义臣斩士达于阵，追北薄垒，守兵溃。建德不能军，以百余骑走饶阳，饶阳无备，因取之。义臣已杀士达，谓余党不足忧，引去。故建德得还平原，收士达士死胔葬焉。为士达发丧，军皆缟素。招溃卒，得数千人，军复振，自称将军。初，他盗得隋官及士人必杀之，唯建德恩遇甚备，引故饶阳长宋正本为客，尊任之，参决军议。隋郡县吏多以地归之，势益张，兵至十余万。上谷贼王须拔自号“漫天王”，以兵略幽州，战死。其下魏刀儿号“历山飞”，壁深泽，众十万。建德以计袭取之，并有其地。
隋朝派太仆卿杨义臣在清河打败了张金称，张金称的残余党羽害怕被处死，又聚集起来投奔了窦建德。杨义臣乘胜想直接进入高鸡泊，彻底铲除他们的老巢。窦建德对高士达说：“隋朝能打仗的将领只有杨义臣一个，他刚刚打败了张金称，锐气正盛，我们挡不住。应该带兵避开他，他想打打不着，军队疲惫粮食又缺，到时候再趁机进攻就能成功。”高士达不听。他留下窦建德守营，自己带兵迎战，还摆酒宴犒劳士兵。窦建德听说后，说：“东海公还没打胜仗就急着自大，灾祸马上要来了。隋军打赢了，肯定会长驱直入，我独自撑不住。”于是留下部队守营，自己率领精锐占据险要等待。五天后，杨义臣在阵前杀了高士达，并追击败兵逼近营垒，守军溃散。窦建德无法组织军队，带着一百多骑兵逃到饶阳，饶阳没有防备，就攻占了它。杨义臣杀了高士达后，认为剩下的党羽不值得担心，就撤军走了。所以窦建德能回到平原，收集高士达部下的尸体埋葬。他为高士达发丧，全军都穿上丧服。招集溃散的士兵，得到几千人，军队重新振作，自称将军。当初，别的盗贼抓到隋朝官员和读书人一定杀掉，只有窦建德对他们待遇优厚，请来原饶阳县长宋正本做宾客，尊重并任用他，让他参与决策军务。隋朝各郡县的官吏大多带着地盘归顺他，势力越来越大，兵力达到十多万人。上谷的贼寇王须拔自称“漫天王”，带兵攻打幽州，战死了。他的部下魏刀儿号称“历山飞”，在深泽扎营，有十万部众。窦建德用计谋偷袭攻取了他，吞并了他的地盘。
〔26〕七月，隋右翊卫将军薛世雄督兵三万讨之，屯河间七里井，建德以劲兵伏旁泽中，悉拔诸城伪遁。世雄以为畏，稍弛备，建德率敢死士千人袭之。会大雾昼冥，跬不可视，隋军惊，遂溃，相腾藉，死者如丘，世雄引数百骑亡去。尽得其众，获河间丞王琮，劳遣之。琮复婴城，建德进攻未下，而河间食尽，闻炀帝遇杀，琮率吏发丧，乘城大临，建德遣使入吊，琮因请降。建德为退舍，饬馔具。琮率郡属素服面缚军门，建德亲释徽纆，与言隋之亡，琮伏哭极哀，建德亦为泣。麾下或言：“河间久拒守，多杀士，今力穷而下，请烹之。”建德曰：“琮，谊士也，吾方旌擢以励事君者。且往为盗，可妄杀人，今将安百姓，定天下，而害忠臣乎？”即令其军曰：“与琮隙者敢辄摇，罪三族！”乃授琮瀛州刺史。
七月，隋朝右翊卫将军薛世雄率领三万兵马讨伐窦建德，驻军在河间的七里井。窦建德把精锐部队埋伏在旁边的沼泽地里，然后故意拔掉各城的旗帜假装逃跑。薛世雄以为窦建德害怕了，渐渐放松了防备。窦建德率领一千名敢死队突袭薛世雄。正赶上大雾弥漫，白天像黑夜一样，连半步远都看不清，隋军惊慌失措，于是溃败，互相踩踏，死的人堆得像山一样。薛世雄带着几百骑兵逃跑了。窦建德缴获了薛世雄的全部人马，抓住了河间县丞王琮，但慰劳了一番就放他走了。王琮回去后又据城防守，窦建德进攻没能拿下，而河间城内粮食吃完了，这时听说隋炀帝被杀，王琮带领官吏发丧，登上城墙大声痛哭，窦建德派人进城吊唁，王琮趁机请求投降。窦建德为此后撤三十里，准备好酒食。王琮率领郡中官员穿着丧服，反绑双手来到军营门口，窦建德亲自解开绳索，和他谈论隋朝灭亡的事，王琮趴在地上哭得极其悲痛，窦建德也为他流泪。有人对窦建德说：“河间长期抵抗，杀死了我们很多士兵，现在力尽投降，请把他煮了。”窦建德说：“王琮是个有义气的人，我正要表彰提拔他来鼓励那些忠于君主的人。况且以前当强盗时可以随便杀人，现在我要安抚百姓、平定天下，怎么能杀害忠臣呢？”随即命令他的军队说：“和王琮有仇怨的人胆敢轻举妄动，就灭三族！”于是任命王琮为瀛州刺史。
〔27〕始都乐寿，号金城宫，备百官，准开皇故事。冬至，大会僚吏，有五大鸟集其宫，群鸟从之。又宗城人献玄圭一，景城丞孔德绍曰：“昔天以是授禹，今瑞与之侔，国宜称夏。”建德然之。改元五凤，以德绍为内史侍郎。
开始定都乐寿，号称金城宫，配备百官，依照开皇年间的旧制。冬至日，大会僚属官吏，有五大鸟聚集在宫殿上，群鸟跟随。又宗城人献上一枚玄圭，景城丞孔德绍说：“从前上天把此物授予夏禹，今天的祥瑞与它相等，国家应该称夏。”窦建德认为正确。改年号为五凤，任命孔德绍为内史侍郎。
〔28〕武德元年618，宇文化及至魏县，建德谓其纳言宋正本及德绍曰：“吾，隋民也；隋，吾君也。今化及杀之，大逆不道，乃吾仇，欲为天下诛之，何如？”正本等曰：“大王奋布衣，起漳南，隋之列城莫不争附者，以能杖顺扶义、安四方也。化及为隋姻里，倚之不疑，今戕君而移其国，仇不共天，请鼓行执其罪。”建德善之。即引兵讨化及，连战破之。化及保聊城，乃纵撞车机石，四面乘城，拔之。建德入，先谒萧皇后，语称臣。执宇文智及、杨士览、元武达、许弘仁、孟景等，召隋文武官共临斩之，枭首辕门；囚化及并其子，载以槛车，至大陆县斩之。
武德元年，宇文化及到达魏县，窦建德对他的纳言宋正本和孔德绍说：“我是隋朝百姓；隋朝是我的君主。现在宇文化及杀了他，大逆不道，是我的仇人，我想为天下人诛杀他，怎么样？”宋正本等人说：“大王出身布衣，在漳南起兵，隋朝的各城没有不争相归附的，是因为能够扶持正义、安抚四方。宇文化及是隋朝的姻亲，倚仗他而不怀疑，现在杀害君主篡夺国家，仇恨不共戴天，请让我们击鼓进军讨伐他的罪行。”窦建德认为好。立即率兵讨伐宇文化及，连续作战打败了他。宇文化及据守聊城，窦建德就使用撞车和机石，四面攻城，攻下了。窦建德入城，先拜见萧皇后，说话自称臣。逮捕宇文智及、杨士览、元武达、许弘仁、孟景等人，召集隋朝文武官员一起监斩，在辕门悬首示众；囚禁宇文化及和他的儿子，用囚车装着，押送到大陆县斩首。
〔29〕建德性约素，不喜食肉，饭脱粟加蔬具，妻曹未尝衣纨绮。及为王，妾侍裁十数。每下城破敌，赀宝并散赉将士。至是，得隋宫人尚千数，悉放去；其文武、骁果尚万余，各听所之。乃以诛化及报越王侗，侗封之夏王，遂号大夏。以隋黄门侍郎裴矩为尚书右仆射，兵部侍郎崔君肃为侍中，少府令何稠为工部尚书，余随才署职，委以政事。有愿往关中及东都者，恣听不留，仍给道里费，以兵护出于境。
窦建德本性节俭朴素，不喜欢吃肉，吃饭只吃糙米加蔬菜，妻子曹氏不曾穿丝绸。等到称王，妾侍才十几人。每次攻下城池击败敌人，所得财物都分赏给将士。到这时，得到隋朝宫女还有上千人，全部释放；隋朝的文武官员、骁果军还有一万多人，各听其便。于是把诛杀宇文化及的事报告越王杨侗，杨侗封他为夏王，于是号称大夏。任命隋朝黄门侍郎裴矩为尚书右仆射，兵部侍郎崔君肃为侍中，少府令何稠为工部尚书，其余根据才能安排职务，委任政事。有愿意前往关中或东都的，听任他们离开，并给路费，派兵护送出境。