陈胜在陈县称王建政后，大梁人陈余劝说陈胜北略黄河以北之地，并自告奋勇愿领兵前往平定赵地。于是陈胜派以前交好的陈县人武臣为将军，以邵骚为护军，以张耳、陈余为左右校尉，给予3000兵士，北攻赵地。
秦二世元年八月，武臣自白马（今河南滑县东北）渡过黄河，一路扩充军队，得兵数万人，武臣被立号为“武信君”。武臣率军攻占赵地十余城，并杀了所下之城的秦朝官吏。于是赵地剩下的城池都据城坚守不降。武臣转向东北方攻打范阳（今山东梁山县西北）。
范阳人蒯通（本名蒯彻，汉避武帝讳改彻为通）游说秦范阳县令向武臣投降。之后蒯通又作为范阳令的使者劝说武臣，让他接受范阳令的投降封其为侯，然后让范阳令到燕赵之地驰游，给那些不降的城池看看。蒯通说如此以来燕赵之地的城池自然都会不战而降，可以传檄而定千里之地。武臣听从了蒯通的计策，让蒯通赐给范阳令侯印。赵地的各地听说后，有30多城不战而降武臣。
武臣等人到邯郸后，张耳、陈余听说周文西进到戏（今陕西临潼东）即败退，又听说诸将为陈胜出征略地，却有很多因谗言诽谤而获罪被杀，还又怨恨陈胜采纳他们的计策、不任命他们做将军而仅仅只授予校尉之职，于是劝说武臣自立为王。武臣于是自立为赵王，并封陈余为大将军，封张耳为右丞相，而封邵骚为左丞相。
陈胜得到了武臣自立为赵王的消息，大怒，原想杀尽武臣等人的家眷，但是上柱国房君（封号）蔡赐劝陈胜说，现在强秦尚在，如果杀了武臣等人的家眷等于又给自己制造出一个劲敌，不如乘机祝贺武臣等，而让他们赶快带兵西攻秦地。陈胜认为说的对，听从了蔡赐的建议，把武臣等人的家眷软禁在宫中，而封张耳之子张敖为成都君。接着陈胜派使者前往祝贺武臣称王，并命令催促他们发兵向西攻入函谷关。
但张耳、陈余又劝赵王武臣说：“大王您自立为赵王陈胜是不愿看到的，只不过是为了让您替楚国去西攻强秦，才来祝贺。一旦楚国灭了秦，陈胜必然来攻打赵国。希望大王不要向西进兵，而是北略燕地、代地，南收河内地区（今河南黄河以北地区，即秦河内郡一带），以壮大自己的势力。”赵王认为有理，于是没有向西进兵，而是派韩广攻燕地，李良攻常山郡（秦时本称恒山郡，汉避文帝讳改为常山），张黡攻上党郡。
韩广攻下燕地后，在当地民众的支持下，也有样学样，自立为燕王。赵王武臣大怒，率张耳、陈余进攻燕国。但是武臣一次微服出行时被燕军捕获，张耳、陈余数次遣使交涉使者都被杀。幸而赵军中有一小卒，自告奋勇出使燕营，声称燕将如杀了武臣则遂了张耳陈余心愿，武臣才被放回。
李良平定了常山郡后，赵王武臣又命他攻打太原郡。李良率兵至石邑（今河北石家庄市西南），秦兵扼守井陉关（今河北井陉县东南），李良不得前进。秦将诈称秦二世派人给李良一封信，在不封口的情况下递给李良，劝李良投降为秦效力。李良不信，但又无法破关，就返回邯郸请求增兵。
秦二世二年（秦以十月为岁首，二世二年为前209年十月至208年九月）十一月，李良回邯郸时于途中遇到武臣的姐姐外出，她的随从有骑兵百余人。李良误以为赵王外出，拜伏于路边。武臣的姐姐酒醉，不知李良是大将，仅派骑士来答谢。
李良平时自以为是显贵，这次觉得在自己的随从面前丢了脸。此时其随从中有一人又在其中挑拨，而李良先前得到劝降的秦书后本就有些动摇，于是李良大怒，杀了武臣之姐，率军袭击邯郸。邯郸方面毫无防备，于是一时间赵王武臣和左丞相邵骚均被杀，张耳陈余因耳目较多而逃出。
张耳、陈余收集军队，得数万人。其门客中有人劝张耳说，张、陈二人都是外国人，只有立原赵国王室之后才能于赵国立足。于是秦二世二年端月（即正月，秦避始皇讳改正月为端月），张耳、陈余立原赵王后裔赵歇为王。李良率兵攻打陈余，被陈余击败，李良败走后投降了章邯。
章邯在破项梁军后，渡河北上攻打赵国。秦二世二年后九月（闰月），赵王赵歇与张耳退守巨鹿（今河北平乡西南），秦将王离率边防军约20万围巨鹿。章邯攻占邯郸后，将邯郸城夷平，迁徙其民于河内。之后章邯驻兵棘原（邑名，在漳水以南），在巨鹿以南筑甬道，以运粮供给王离军。无奈之下赵王派使者向楚怀王以及各国诸侯求援。
赵将陈余北收常山郡之兵数万，驻军于巨鹿之北。张耳一再催促城外的陈余解围，但是陈余不敢也无力解围。数月过后，张耳大怒，派使者张黡、陈泽责问陈余，并以两人数十年的交情逼迫。陈余无奈，派5000士兵交给张黡、陈泽，命他们尝试攻击秦军围城部队，结果全军覆没。
当时，各国将领来救赵国的有十余路人马，赵相张耳之子张敖也北收代郡之兵万余屯于巨鹿城北，可是他们害怕秦军强大，都扎下营寨，不敢跟秦军交锋。
秦二世二年后九月（闰月），楚怀王宋义为上将军，项羽为次将，范增为末将，率军数万北上以解巨鹿之困。楚军进至安阳（现在山东曹县东南）后，宋义逗留46天不前进。
秦二世三年（公元前208年）十一月（秦二世三年为前208年十月至前207年九月），项羽矫诏杀宋义。楚怀王遂封项羽为上将军，并令英布和蒲将军两支楚军也归其指挥。
项羽先派遣部将英布、蒲将军率领两万人为先锋，渡过黄河（一说为漳水），小胜秦军。然后，项羽亲率主力渡河，并下令全军破釜沉舟，每人只带三天干粮，以示决一死战之决心。楚军过河后击败章邯军，章邯后退。齐、燕、魏等各路救赵军队皆作壁上观，待楚军大破秦军时，纷纷也冲出营垒助战，与楚军一起围攻王离军，最后俘获了秦军统帅王离，杀死秦将苏角，迫使秦将涉间自杀。巨鹿之困因而得解。
巨鹿解围后，赵王赵歇与张耳出城答谢诸侯。张耳见到陈余，责怪他不救巨鹿，并问张黡、陈泽的下落。陈余称自己给二人5000军士，他们进攻围城秦军时身死。
张耳不信，以为是陈余杀了张、陈二人，仍一再追问。于是陈余怒解将军印交还张耳，张耳开始愣住未接，后在亲随的劝说下，也就顺势拿回了陈余的将军印，而且接收了陈余的部队。陈余于是率亲信数百人跑到黄河岸边的湖泽中捕鱼打猎去了。两个多年至交从此反目。
项羽随后率诸侯联军逼降章邯，又率军入关中，张耳率军跟从，赵王歇留在赵国镇守。
秦亡后，项羽改封赵王赵歇为代王，张耳以跟从入关之功被封为常山王，又将陈余所在的南皮（今河北南皮县北）附近三个县封给了陈余。