前206年十月，刘邦率领大军攻入关中，抵达灞上。当了四十六天秦朝皇帝的子婴乘坐白车，驾着白马，颈上系着绳子，将皇帝玉玺和符节封好，在轵道亭旁边向刘邦投降。

有的将领认为应该杀掉子婴，刘邦说：“当初怀王派我前来，就是因为我能宽容待人。人家已经投降了，再杀他显得不够仁义。”于是把子婴交给官吏看管。

刘邦率军进咸阳后，将领们看到秦的宫室中骏马、宝物、美女等不计其数，都争先恐后地跑到秦的金库，将金银财物抢出来分掉。萧何却首先进去寻找秦丞相府的地图册和户籍档案，将它们交与刘邦，刘邦才得以了解天下的自然险要、户口的多少及力量强弱的分布。

刘邦想居住在豪华的皇宫里。樊哙说：“您到底想拥有天下呢，还是只想做一个富翁?这一切美丽奢华的东西，正是秦朝灭亡的原因，您要它们干什么呢?希望您赶紧返回灞上，不要留在宫中!”刘邦不听。

刘邦约法三章张良也附和说：“秦暴虐无道，因此您才能够来到这里，为天下人铲除残害百姓的秦贼，应该像服丧一样身穿缟素，以此赢得人心。如今您才刚入咸阳，就安于享乐，人们就会说您‘助桀为虐’啊!况且忠言逆耳利于行，良药苦口利于病，希望您听从樊哙的劝告。”刘邦幡然醒悟，于是接受他们的意见，下令封闭王宫，并留下少数士兵保护王宫和藏有大量财宝的库房，随即率领大军返回灞上。

为了取得民心，刘邦把关中各县父老、豪杰召集起来，郑重地向他们宣布道：“秦朝的严刑苛法把父老乡亲们害苦了。我与诸侯们约定，先入关中的人，在关中称王。依据约定，我应当在关中称王。现在我与父老们约法三章：杀人者处死，伤人者抵罪，盗窃者也要判罪!”除此之外，规定秦朝的法令全部废除，各官和百姓都按照原来的位置不动。

刘邦继续说：“我们之所以到这里来，是为了替父老们除害，而不是要来侵犯你们，请你们不必惶恐!我率领军队返回灞上，只是要等各路诸侯到来以后，一起制订法令，好让大家安居乐业。”听了刘邦的解说，父老、豪杰们都表示拥护约法三章。接着，刘邦又派出大批人员，到各县各乡去宣传约法三章。百姓们听了，都热烈拥护，纷纷取了牛羊酒食来慰劳刘邦的军队。刘邦一再辞让不肯接受，说：“仓库中的粮食还很多，并不缺乏，我不想让百姓破费。”百姓们更加高兴，反而担心刘邦不在秦地称王。

由于坚决执行约法三章，刘邦得到了百姓的信任、拥护和支持，最后取得天下，建立了西汉王朝。现在“约法三章”泛指以语言或文字形式定出几条简单的条款，要求大家共同遵守。