可汗的问题虽然暂时得以解决，但从此汗国内部的分裂却由此埋下种子。

沙钵略继承大可汗之位后，沙钵略也按突厥人的收继婚制，继承了上任可汗的可贺敦北周千金公主为自己的可贺敦。当时杨坚刚篡夺了北周政权，建立隋朝，对于突厥礼遇冷淡，不再如北周时那般的优待，因此突厥人非常怨恨。而千金公主又因杨坚灭亡自己的宗族国家，更是日夜向沙钵略进言，请他替北周报仇。适逢当时北齐的旧将高保宁在营州发动叛乱，沙钵略便与高保宁联合发兵进攻隋朝。双方之间接连爆发战事，到第二年，沙钵略召集汗国五位小可汗的全部军队四十万人大举进犯隋朝，侵入长城以南。

突厥人接连将武威、天水、安定、金城、上郡、弘化、延安等郡的牲畜全部掠夺一空，沙钵略还想进一步南侵，可诸可汗却已经满足于劫掠到战果，并不想继续做战。这时达头可汗却已经为隋朝离间，独自率部返回。紧接着隋将长孙晟又成功游说了沙钵略可汗的儿子染干，染干谎报军情说铁勒诸部起兵造反，准备袭击汗庭牙帐，沙钵略担心后院起火，于是回兵退出塞外。

开皇三年，沙钵略再次派兵南侵，隋朝分兵八路出塞反击突厥，沙钵略率阿波可汗、贪汗可汗等迎战，结果因为轻敌，沙钵略为卫王杨爽率军大败于白道，沙钵略可汗丢弃所穿的金甲，潜伏于茂草之中才得以逃脱。当时，突厥军中因为缺粮，只好粉碎尸骨作为粮食，加上军中疾病流行，因此死亡的人极多。当年五月，阿波可汗在长孙晟的劝说之下，派遣使者随长孙晟到陈朝请和，沙钵略素来嫌忌阿波可汗骁勇骠悍，他败兵回归途中，听说阿波可汗要与隋朝讲和，于是立即返回草原，举兵偷袭北边阿波的地盘，大获全胜，并杀死阿波可汗的母亲。阿波可汗还军后，无处安身，于是只得向西投奔了西面的达头可汗。

当时达头可汗在西面实力强劲，阿波来投，于是达头便给阿波补给兵力武器，让他率军东进攻打沙钵略。阿波回到东面，旧部纷纷前来归附，很快就达到将近十万骑兵。于是阿波与沙钵略决战，新仇旧恨一起，既为当初沙钵略阻止自己继承汗位，又为他杀死自己的母亲，掠夺自己的部份人口牲畜。两方交战，新为隋朝大败过的沙钵略不敌骠悍的阿波可汗大逻便，多次被击败。阿波可汗连败沙钵略，重新收复了自己的地盘，兵势更加强盛。

当时五小可汗之一的贪汗可汗一向与阿波可汗的关系和睦，沙钵略被阿波击败后，却又杀向贪汗，击败了贪汗可汗，夺取了他的部落，将他的可汗废黜。贪汗可汗因此也逃奔达头可汗，沙钵略可汗的堂弟地勤察另外统领有自己的部落，因为和沙钵略可汗有矛盾，就率领部落叛归阿波可汗。

阿波可汗与沙钵略可汗一时之间，攻伐不断，这时双方反而都相互到长安向隋朝请和求援，可杨坚却只是坐山观虎斗，并不搭救任何一方。