赵匡胤登基之后，禁军的组成仍是沿袭了后周时期的制度。是由殿前司与侍卫亲军司两个部门执掌禁军。殿前司的将领依次排列顺序是：殿前都点检—副都点检——都指挥使——副都指挥使——都虞候；侍卫亲军司的排列次序：马步军都指挥使——副都指挥使——都虞候——马军（步军）指挥使。
建隆二年七月，第一次‘杯酒释兵权’前，石守信担任马步军都指挥使，高怀德担任殿前副都点检，王审琦担任殿前都指挥使，张令铎担任马步军都虞候。原来由赵匡胤担任的殿前都点检改由慕容延钊担任，一年之后，慕容延钊被罢免，从此殿前都点检成为了历史名词。在顺利解除了部分禁军将领军权之后，马步军都指挥使、副都指挥使、都虞候、殿前副都点检的职务再没有任命武人担任。
从此之后，禁军变成了由马军都指挥使、步军都指挥使、殿前都指挥使分别统率。而侍卫司分为马军和步军，加上殿前司，在宋代统称为“三衙”。从宋初，统领三衙、掌管全体禁军的将领不复存在。不但如此，三衙的指挥禁军权力也得到限制，只有天子一人才是真正统领禁军的最高统帅。赵匡胤为了方便控制禁军，更提拔了一些在军中资历相对浅、地位低的武将出任禁军将领。
即使是这样，赵匡胤仍然规定——禁军指挥使只有掌兵之权，没有发兵之权。禁军发兵须经枢密院，而枢密院使在没有得到他的允许，也没有权力调动指挥使手下的禁军士兵。既有掌兵权，又有调兵权的惟有赵官家一人而已。由于赵官家自己掌握了自己的命运，从制度上根除了五代以来禁军将领驾驭皇帝的痼疾。
这也是他明白：自己之所以有今天的成就，全在于掌握了禁军军权。如果再不知亡羊补牢，预防类似事件的重新上演，那实在是愚不可及了。
通过一场载入史册的酒宴，赵匡胤顺利的解除了禁军将领的兵权。但是盘踞在各地的藩镇节度使仍是新王朝的心腹大患，这种潜在危险依然让赵匡胤寝食难安。
做为后周世宗的继承者，沿袭借鉴柴荣的成功经验就成了自然之事。
乾德三年，赵匡胤命令包括藩镇在内的全国各地长吏挑选本道骁勇精兵，补充京师禁军缺额。先是选拔壮硕军士做为兵样，分送各地照样募兵。估计这‘兵样’都是禁军精锐中的精锐，应该是与现在国旗护卫队的不相上下。这样苛刻的条件，各地方一时也无法保质、保量的完成征兵名额。不得已之下退而求其次，后来又改用木梃，分为高下之等，发至各地依样遴选。从此之后，各地州府精兵尽数收拢在中央禁军之中。
对新收编在禁军中的士兵，赵匡胤极为重视。新兵的训练工作，不但是由他亲自指派人手负责，而且亲力亲为自己监督指挥。首先，严明军纪：新兵不准在军营中饮酒吃肉；不许穿绢做的服装，这样做是要他们养成节俭的生活习惯。
在灌输给这些新军服从为天职的同时，严格等级制度，借此机会消除五代以来以下犯上的风气。
在把全国各地的精壮男子全部收为禁军之后，留在地方相对弱些的兵丁称为厢兵，主要职能是维护地方治安与做些杂役。虽然弱是弱点，对付手无寸铁的百姓还是不在话下的，倘若是有农民扛了锄头来和他们拼命的，这些厢军只好选择退避三舍了，这时候就需要京师中的禁军出动了。
这样解释，读者就会明白为什么宋江等三十六名梁山好汉，会纵横齐鲁、无人敢撄其锋的原因了！