就在项梁和项羽在会稽起兵的时候，刘邦也在沛县（今江苏省沛县）一带进行起义。但刘邦的起义队伍太小，只有两三千人，为了能够站稳脚跟，刘邦决定寻找一个靠山。他与谋士萧何和张良经过一番商量，觉得附近的起义队伍中，只有项梁声势最大，就带着人马投奔了项梁。
刘邦像后来，项梁在与秦军的作战中战死，楚怀王命令项羽先率兵北上，营救赵国，然后再挥兵西进，攻打咸阳；又命令刘邦带兵从背后包抄咸阳，与他们约定谁能首先进入咸阳，平定关中，谁就做关中王。
刘邦西进以后，采用谋士郦食其的建议，避开秦军的主力部队，首先攻取了秦朝的交通要道陈留（今河南开封市东南），获得了大批军粮。随后，又采用张良的建议，以高官厚禄招降南阳郡守，攻下了南阳郡。从此，刘邦势力日渐壮大，军队所到之处，秦朝守军纷纷投降，一路顺利攻到了咸阳。
这时，项羽已经在巨鹿大败秦军主力，秦朝的很多将领都投降了项羽。赵高见秦朝的大势已去，就杀了秦二世，想要自己称王。但他害怕朝中大臣反对，就假意另立秦二世的侄儿子婴为秦王，等时机成熟再废帝自立。子婴察觉了赵高的阴谋，与大臣合谋杀掉了赵高，带着秦朝的文武百官，向刘邦投降。秦朝就这样灭亡了。
刘邦的军队进入咸阳城后，立即被咸阳城里豪华的宫殿和耀眼的金银珠宝给迷住了。军队的士兵们纷纷在咸阳城里争抢财物，刘邦也想呆在阿房宫里面再也不出来了。这时，刘邦的手下樊哙和张良及时提醒了他，刘邦重新振作起来，整顿军队，带兵回到灞上。他把咸阳附近的父老百姓召集到一起，对他们说：“秦朝的残酷法令把大家都害苦了。我来咸阳是要为百姓除害，不是要坑害大家。从今天起，我与大家约法三章：杀人者偿命；伤人者治罪；偷盗者治罪。除了这三条，秦朝的法令一律废除！”咸阳的百姓们听了，十分高兴，自愿拿出酒肉和粮食慰劳刘邦的军队。刘邦也奠定了民众基础，为他日后称王创造条件。
