并州，上党郡，出任太守的张辽，招揽流落在各郡的并州军旧部，重建并州军。

并州在汉末一片混乱，刺史、太守频繁更换，又有游牧骑兵进犯，因此，并州军四分五裂，流落各处。

徐天把并州军分为南北两支兵马。

雁门太守牵招总督并州北部兵马，扫荡游牧部落。

上党太守张辽总督并州南部兵马，参与逐鹿中原。

在张辽、高顺的号召下，陆续有并州汉军归队。