努尔哈赤在统一女真各部的战争中，取得节节胜利。随着势力扩大，人口增多，他于明万历二十九年（1601）建立黄、白、红、蓝四旗，称为正黄、正白、正红、正蓝，旗皆纯色。四十三年，努尔哈赤为适应满族社会发展的需要，在原有牛录制的基础上，创建了八旗制度，即在原有的四旗之外，增编镶黄、镶白、镶红、镶蓝四旗（镶，俗写亦作厢）。旗帜除四正色旗外，黄、白、蓝均镶以红，红镶以白。把后金管辖下的所有人都编在旗内。
其制规定：每300人为1牛录，设牛录额真1人；5牛录为1甲喇，设甲喇额真1人；5甲喇为1固山，设固山额真1人。据史籍记载，当时编有满洲牛录308个，蒙古牛录76个，汉军牛录16个，共400个。此时所编设的八旗，即后来的满洲八旗。清太宗时，又建立蒙古八旗和汉军八旗，旗制与满洲八旗同。八旗由皇帝、诸王、贝勒控制，旗制终清未改。
八旗的雏形来自于明代女真人（满洲人）的射猎小队牛录，每十人为一牛录。后来努尔哈赤将这一制度进行了改善，于1615年正式创立八旗，分为正黄、镶黄、正白、镶白、正红、镶红、正蓝、镶蓝八个旗色。正黄旗和镶黄旗为皇帝亲兵，地位高于其他六旗。
八旗制度是“以旗统人，即以旗统兵”的军民一体、军政合一的社会组织。八旗士卒平时亦兵亦民，有事披甲出征，无事则耕种狩猎。八旗旗主都是由努尔哈赤的儿子或孙子们担任，他们既是政治首领又是军事统帅，旗主之位是世袭制。
八旗制度是在“归附日众，牛录激增”的条件下创立的，这时的努尔哈赤已从人丁数十的小部酋长，经过三十余年的南征北战，“招徕各部，环满洲而居者，皆为削平，国势日盛”，成为辖地千余里，统兵数万的女真国汗了，但这距离实现统一女真各部的要求还相去甚远，为了使更多的女真乃至蒙古酋长“率部来归”，努尔哈赤仍采取“恩威并行，顺者以德服，逆者以兵临”的方针，招抚和征讨并用，巩固现存的实力，恩养降服归顺的人员，对拒不投降的部落，努尔哈赤则遣军征剿，胁迫其归顺。
无论是对主动归顺的人员，还是被迫降顺的敌兵，努尔哈赤都予以“编户”，将其分别编在各个牛录里，不贬为奴隶，原来是首领的仍授予官职，将其属下编在其所统辖的牛录。对于主动来归的人，努尔哈赤更是从优奖赐。如东海湖尔哈部女真部长纳喀达率属下百余户来归，努尔哈赤特别派遣二百人前往迎接，设大宴，厚赐财物。每当攻取一个部落之后，即将其“属下人分隶八旗”，允其本人或子弟统领牛录，带兵打仗，并可因功封授官职。
到了1635年，努尔哈赤的继任者皇太极将原分隶满洲八旗的蒙古骑兵分离出来，改由蒙古降将统领，组成了蒙古八旗。蒙古八旗也分为黄、红、蓝、白四色，又各分正、镶两旗。各旗设固山额真，管辖梅勒章京、甲喇章京。后来，他又将归降的明军和辽东汉人，也编入了满八旗，只有佟养性、石廷柱两部汉军独立编旗，至1642年始正式设立汉八旗。汉八旗的一切规制都和满八旗、蒙八旗相同。
清军入关之后，八旗的作用为镇守四方，全国大概分为八个地区由八旗军队镇守，而八旗中的精英则是在京师八个方位驻扎保卫京师。八旗中不乏有蒙古人、满人、汉人，为解决官兵的后顾之忧，设立兵饷和并兵制制度。