小刀会来源有两种：一属天地会支派，二属白莲教支派。上海小刀会属于前者。道光二十九年（1849），建立于福建厦门，不久传至上海。
1842年第一次鸦片战争后，上海作为通商五口，正式对外开放。"迢迢申浦，商贾云集，各色人等，相率来到沪滨"。其中又以广东、福建人为多。这些人中有做外侨仆役的，有在租界经商的，有充当洋行掮客的，但大量的是无职业的游民。游民中有失业的水手、船夫，也有无赖、恶棍、鸦片贩子，更有被太平军击溃流落来沪的兵勇。
上海是中国沿海商贾云集、帆樯如织的重要商业城市，水上交通历来比较发达，自对外通商以后，外国轮船穿梭往返逐渐排挤了长江和沿海一带木帆船的航运，使大批船夫失业。漳州、泉州一带主要靠的就是海上生计，上万艘船只没有活路，大部分流入了上海、广州。广东的艇匪、闽浙的海盗都是过去的船民。他们丧失了土地，如今海上贸易也被洋船给夺去了。
这些人有着共同的心理：不满现状、放荡不羁。他们流落江南，以护送鸦片烟土为业，平时逐利构怨，树党相仇。聚众寻仇，争夺地盘，福建之泉州帮、漳州帮为最横。浙江东台、宁州排行老二。当时上海小刀会共有"七党"："闽则曰建，曰兴化；粤则曰广，曰潮，曰嘉应；浙则宁波；而土著则上海。合之数千人，居无恒产，出无执业，攘夺抢掳，而资生之具莫能问所从来"。这些人统称为洪帮，另有青帮，主要是漕运。
酝酿起义
小刀会是成立于厦门的民间秘密团体，属天地会支派，1851年传到上海。
上海小刀会成员主要为上海的福建籍劳动人民和部分工商业主；与小刀会性质相同的秘密结社，上海还有主要成员为广东人的天地会和本地人组成的庙帮﹑塘桥帮﹑百龙党﹑罗汉党等。
1852年，天地会成员周立春在青浦领导发动抗粮斗争，南汇﹑华亭（今松江）﹑上海等县继之而起。这些斗争使各个秘密组织逐渐联合起来。
随着太平军的兴起，天地会各支派纷纷而起，上海地区一触即发。通过刘丽川的串连，广东、福建、上海、浙江七帮联合起来，准备趁机起事，他们打出的口号就是"反清复明"。
1853年，在福建小刀会起义的影响下，各支力量以小刀会名义结成统一组织，推举天地会广东帮首领刘丽川为首领，准备举行大规模的武装起义。
坚守上海
1853年9月5日，周立春﹑徐耀等在青浦首举义旗攻占嘉定。7日，刘丽川和原小刀会福建帮首领陈阿林等在上海起义，占领县城。随即，从上海﹑嘉定分别出发，接连攻占宝山﹑南汇﹑川沙﹑青浦四县，成立小刀会政权。初用“大明国”国号，旋即改称太平天国，由刘丽川上书太平天国天王洪秀全，表示接受领导。
占领上海之后，起义军以文庙为总指挥部，建立了"大明国"。公推刘丽川为"大明国统理政教招讨大元帅"，李咸池为平胡大都督，陈阿林为左元帅，林阿福为右元帅，潘起亮为飞虎将军。其他首领也封以将军、先锋等名号。刘丽川等发布告示，严申军纪："不听号令者斩，奸淫妇女者斩，掳掠财物者斩，偷盗猪狗者斩。"
清朝政府急从围攻太平天国天京（今江苏南京）的江南大营抽调部分清军及其它地方武装，由大营帮办﹑署理江苏巡抚许乃钊率领，赶赴上海镇压。
1853年9月22日，清军陷嘉定，周立春被俘牺牲，其女周秀英和徐耀率领部分起义军转入上海。至月底，周围各县相继失陷。起义军在上海坚守抗敌，曾宣布豁免三年赋税钱粮，并铸造货币，发展商业，保证粮食供应，打击高利贷，得到上海人民的拥护。
失败过程
英﹑美﹑法当局曾声称对局势保持“中立”。但为维护在华利益和威胁清政府，1854年4月，英美驻军袭击了上海城内的清军营盘。7月，清政府任吉尔杭阿署江苏巡抚。
吉尔杭阿派苏松太道吴健彰与英﹑美﹑法当局谈判，以出卖上海海关和租界主权，换取它们的支持。
从此，上海海关开始由英﹑美﹑法三国委派的“税务司”共管，上海租界建立了独立于中国行政系统和法律制度以外的统治机构。
早在小刀会起义不久，外国势力与清军即在上海城北建筑围墙，以隔断城内起义军与外界的联系。
1854年12月14日，法国舰队司令辣厄尔向小刀会宣战。
1855年1月6日，法舰队司令辣厄尔领法军与清军配合，用炮轰开城墙，清军攻进县城，史称“北门之战”。
除夕，江宁知县刘存厚令攻破县城，清军涌入上海县，1855年2月17日（正月初一），小刀会弹尽粮绝，刘丽川率众突围，次日到虹桥附近力战，被江苏提督虎嵩林杀死；周秀英﹑徐耀等相继牺牲。一部分余部逃往镇江加入太平天国；陈阿林突围逃出后，搭船到香港，后转南洋经商。其它突围残部流散各地，继续参加反清斗争。上海小刀会起义至此即告失败。
事后清军统帅吉尔杭阿奏请清政府奖励；咸丰皇帝下旨，赏辣厄尔、法国驻沪领事爱棠绸缎各四卷，水师官兵白银一万两。