新制度經濟學首先追溯到Ronald Coase(1937)，他提出一個簡單但仍是複雜的問題，為什麼組織會存在？ Coase的主張將分析單位著重在交易：廠商會同時比較在市場執行交易的成本與將交易內部化於組織中的成本。Coase認為，市場交易的成本包含：1. 使用價格機制的成本；2. 在每一次交易中，協商一個契約的成本。現代的制度經濟學的另一個先驅即有關財產權經濟學的文獻。這方面的文獻指出財產權的分配是決定個人誘因的關鍵因素。Harold Demsetz(1967)循Coase的主張，強調如何適當的分配財產權會減少協商與執行契約的成本。Armen Alchian和Demsetz(1972)聚焦在團隊生產。因為監督真實的生產力是昂貴的，所以要完美的監督將不會有效率，這也給了團隊中的每一個成員誘因去逃避義務。Armen Alchian和Demsetz主張員工可以僱用一個員工來監督其他人，給予監督者權力以開除逃避義務的員工。