己父亲被陷害囚禁之后，召集食客十数人前往费县西山等候在转运押送臧戒的道路旁，然后伏击了押运的队伍，并将父亲救出来，还当场将这个太守杀死。当时押送的役卒有百余人，因为畏惧臧霸的凶猛都避而窜逃，臧霸此后便与父亲逃亡东海郡，而经此事之后。臧霸的孝烈勇名便传遍了徐州和兖州。

黄巾起义时。臧霸从属陶谦。击破贼众，拜为骑都尉。后来臧霸收兵于徐州，与孙观、吴敦、尹礼等聚合军众，臧霸为统帅。屯于开阳一带，自成一方势力。

臧霸见几个心腹皆已到齐，于是开口说道：“陶使君刚刚辞世，曹操便率军来攻，虽然张闿袭杀曹嵩一家这事做的欠妥，但曹操图谋徐州也是人尽皆知。若被曹操顺利攻下郯城，接下来我们也会面临覆灭的危险，因此我觉得应该奉糜竺的命令，出兵兰陵抵御曹军。”

孙观字仲台。是兖州泰山人，年少时便与臧霸结伴闯荡州郡，既是臧霸最信任的兄弟，也是臧霸手下第一猛将，他见臧霸有意抵御曹军。立即附和：“将军所言甚是，曹军虽然势大，但我们并非孤军奋战，只要同心协力，必定让曹军有来无回，饮恨徐州！孙某不才，愿为先锋，率领兵马前往兰陵抵御曹军！”

吴敦和尹礼见臧霸和孙观迎战的态度坚决，也没有出言反对，纷纷表示愿意随臧霸迎击曹操。

臧霸麾下有兵马两万五千之众，除了驻守开阳附近的几座县城之外，能够抽调出来的兵力有一万人，他于是委任孙观为主将，尹礼为副，带着一万士兵紧急赶赴兰陵县进行防守。

臧霸出兵的同时，返回阴平的简雍给刘备带来了好消息和坏消息。对于刘备而言，好消息自然是陈登提出的三道防线对策被糜竺采纳了，而坏消息则是刘备要依靠麾下五千兵马在阴平支持至少半个月到一个月以上，不能马上就往兰陵方向撤退。

刘备来徐州，打得就是接掌徐州的主意，只是临到最