皇太极一则是为了团结和拉拢汉族地主与蒙古贵族，加强统治基础；二则是为了增强军事力量，以适应对明战的需要；三则是为了削弱满洲八旗主旗贝勒和旗内贝勒的势力，借以加强汘权，所以又分别建立汉军八旗和蒙古八旗早在努尔哈赤时期，在满州八旗中就有十六个汉人牛录。
皇太极即位后，到了天聪五年(1631年)正月，把汉人牛录拨出约二千多人，正式成为一汉军旗，命汉官佟养性统辖，敕谕曰：“凡汉人军民一切事务付尔总理，各官悉听尔节制。”天聪七年(1633年)七月，皇太极命满洲各户下汉人十丁抽一，约一千多人，由马光远统领，天聪八年(1634)五月，正式定名为汉军，以黑旗为标志。崇德二年(1637年)七月，汉军由一旗增为二旗，称为“左右两翼”，以石廷柱为左翼固山额真马光远为右翼固山额真。
崇德四年(1639年)六月，又分汉军两旗为四旗，以马光远、石廷柱、王世选、巴延四人为固山额真，各领一旗。崇德七年(1642年)六月，再增设四旗，共为八旗，称之汉军八旗，旗色与满洲八旗相同，每旗设固山额真一人，梅勒额真二人，甲喇额真五人。
约有一百六十一个牛录(即佐领)，三万三千多人天命六年(1621年)，后金攻占辽沈后，归降的蒙古军民，有的已被单独编为牛录，称蒙古军，由武纳格、布彦代统领，隶满洲八旗。皇太极即位后，蒙古归附军民不断增多，大约到了天聪三年(1629年)将原先的蒙古军扩编成“蒙古二旗”。
天聪七年(1633年)，把“蒙古旗”，分为“右营”和“左营”，以武纳格和鄂本兑同为固山额真分别统领。天聪八年(1634年)五月，改“右营”为“右翼兵”，鄂本兑领之；“左营”为“左翼兵”，武纳格领之。天聪九年(1635年)皇太极将蒙古二旗，扩充为蒙古八旗，旗色和建制同满洲八旗一样关之前蒙古八旗，约有一百二十九个牛录(即佐领)万五千多人。
汉军八旗和蒙古八旗的组成虽然与满洲八旗相同，但是汉军八旗蒙古八旗的固山额真是由皇太极任命，而且可以撤换，他直接指挥这两八旗军，因此军事实力大增，其他贝勒无法抗衡。
