所谓北洋军阀中的皖系，不过是得名于其领袖——段祺瑞的籍贯而已。在北洋军阀大团体的首领和北洋军创始人袁世凯去世后，以段祺瑞为首的皖系派别能够迅速掌握北京政府的大权，是有其相当的必然性，或者叫做合理性。在袁世凯手下诸位掌握军权的将领中，段祺瑞有着超出别人的能力及影响力，他是北洋军最早的统兵大员，并以严于律军而闻名全国，有大量的军中将领出自其门下，在袁世凯在世时，以隐然形成了以段祺瑞为中心的军内派别。
段祺瑞在北洋诸将中较早进入政界的人物，在袁世凯政府中曾长期担任陆军总长，后又荣任政府总理，这不但为自己积累了大量的从政经验和政治人脉，也在政府、尤其是议会中赢得了相当的影响力。其三，段祺瑞胸有大志，个人品种无懈可击，更有敏锐的政治嗅觉，这使他在袁世凯称帝活动中没有附逆;在张勋复辟中，第一次公开予以讨伐，获得了“再造民国”的盛誉。
从府院之争中逼走总统黎元洪、粉碎复辟的张勋辫子军，到玩弄冯国璋、徐世昌总统于掌股，悍然发动旨在统一中国的护法战争等等事件中，以段祺瑞为首的皖系几乎无往不利，且由于由皖系议员把持的国会的存在，使得几乎所有政治措施都是合乎法统国体的行为，这段岁月可谓皖系政府的巅峰。
然历史总是表现出盛极而衰的现象，就是在连绵不绝的护法战争及此后的南北和谈中，北洋军阀内部的矛盾因对权力的追逐、利益的得失而空前激化，段祺瑞的武力统一国策，不但使广东护法军政府及南方军阀们胆寒，也使得北洋军内部其它派别的实力人物的不满情绪加剧，各派反皖政治势力就在段祺瑞眼皮底下联合起来，而其却几乎毫无察觉，当其操纵政府参与一战、以心腹徐树铮经营所谓边防军的时候，南北军阀们即下定决心、不惜一战也要推翻皖系政府了。
吴佩孚带头在护法前线的擅自北撤，敲响了对段祺瑞政府的战争号角，出于维护北洋团结的一厢情愿，段祺瑞请求奉军首领张作霖予以调解，实不知张雨帅也是阴谋集团的一份子，其借调解为名，暗中却却将奉军遣入关内，形成了和曹、吴直军夹击奉军之势，而原段祺瑞心腹的张怀芝、张敬尧、吴光新等部，也多处于溃败或被包围状态，可以说直皖战争还没开始，皖系已是必败之势。
虽然，直皖战争皖系政府垮台多年后，段祺瑞运用政治手段，在奉军、国民军联合驱逐直系北京政府后，出来收拾局面，当了临时执政，但那时的段祺瑞基本已无自己的军队，政治上也已经难有大的作为了。