当今世界上大多数国家都实行中央银行制度，各国的中央银行或类似于中央银行的金融管理机构，对整个国民经济发挥着宏观调控作用。
随着经济发展，和其他国家一样，我国需要对银行券统一发行，需要建立一个全国统一而有权威的、公正的清算机构为之服务，需要一个统一的金融机构作为其他众多银行的后盾，在必要时为他们提供资金支持，需要有一个代表政府意志的专门机构专事金融业管理、监督、协调的工作，于是中国人民银行应运而生。而在此之前，最早的中央银行要追溯到1905年了。
清政府末期官商合办成立了户部银行，1905年8月在北京开业，这是模仿西方国家中央银行而建立的我国最早的中央银行。1908年，户部银行改为大清银行。
1911年的辛亥革命，促使大清王朝复灭，大清银行改组为中国银行。而交通银行始建于1908年，成立之初，曾自我标榜为“纯属商业银行性质”。但事实上，它后来成了北洋政府的中央银行。1913年，交通银行取得了与中国银行同等地位的发行权。1914年，交通银行改定章程，已经具备了中央银行的职能。这两家银行共同作为北洋政府的中央银行。
1924年8月，孙中山领导的广东革命政府在广州创立中央银行。1926年7月，国府移迁武汉，同年12月在汉口设中央银行。原广州的中央银行改组为广东省银行。1928年，汉口中央银行停业。
1928年11月1日，南京国民政府成立中央银行，总行设在当时全国的经济金融中心──上海，在全国各地设有分支机构，法定中央银行为国家银行，行使中央银行职责。1949年12月，中央银行随国民党政府撤往台湾。


1927年大革命失败后，共产党在建立根据地以后，就成立了人民的银行，发行货币。如1927年冬，闽西上杭县蚊洋区农民协会创办了农民银行等。1932年2月1日，苏维埃国家银行正式成立，苏维埃国家银行还在各地设分支机构，以带动根据地银行走向集中和统一。1934年10月，苏维埃国家银行跟随红军长征转移，1935年11月，它改组为中华苏维埃共和国国家银行西北分行。同年10月，国家银行西北分行改组为陕甘宁边区银行，总行设在延安。

随着解放战争的胜利，解放区迅速扩大并逐渐连成一片，整个金融事业趋于统一和稳定。
1948年11月，成立中国人民银行。 中国人民银行成立至今的五十多年，特别是改革开放以来，在体制、职能、地位、作用等方面，都发生了巨大而深刻的变革。

1948年12月1日，中国人民银行在石家庄正式宣告成立。1949年2月，中国人民银行总行随军迁入北京，以后按行政区设立分行、中心支行和支行（办事处），支行以下设营业所，基本上形成了全国统一的金融体系。
　　 这一时期的中国人民银行，一方面全部集中了全国农业、工业、商业短期信贷业务和城乡人民储蓄业务；同时，既发行全国唯一合法的人民币，又代理国家财政金库，并管理金融行政，这就是所谓的“大一统”的中央银行体制。
　　中国共产党十一届三中全会后，各专业银行和其他金融机构相继恢复和建立，对过去"大一统"的银行体制有所改良。但从根本上说，在中央银行的独立性、宏观调控能力和政企不分等方面并无实质性进展。同时，随着各专业银行的相继恢复和建立，“群龙无首”的问题也亟待解决。
　　1983年9月17日，国务院作出《关于中国人民银行专门行使中央银行职能的决定》。1984年1月1日，中国工商银行从中国人民银行分离出来，正式成立，承担原中国人民银行的工商信贷和储蓄业务。至此，中国人民银行的商业性业务基本剥离，正式成为我国的中央银行；中国工商银行则成为规模最大的专业银行，负责工商企业贷款，作为配套措施，中国建设银行从财政部分离，负责基本建设贷款，中国农业银行则负责农村服务贷款。中国人民银行专门行使中央银行的职能，专门负责领导和管理全国的金融事业。
　　 1995年，正式实施《中国人民银行法》，中国人民银行改革发展步入了法制轨道。1998年10月始，中国人民银行及其分支机构在全国范围内进行改组，撤销中国人民银行省级分行，在全国设立9个跨省、自治区、直辖市的一级分行，重点加强对辖区内金融业的监督管理。
2003~2008年：对国有银行进行股份制改造，2003年3月，经十届全国人大一次会议批准，中国银行业监督管理委员会正式成立，银行业监管职能正式从中央银行独立出来。
银行业改革开放的30年历程，将银行业引向市场化、多元化经营的新阶段。一个以中央银行为领导，以商业银行为主体，多种金融机构并存、分工协作的具有中国特色的金融体系已经形成。