[zt]说到底，制度毕竟是一个社会存在的范畴，
本质：由于人的行为存在着外部性、社会性问题，因此，这就存在着社会成本、社会效率和社会公平问题，如何使社会成本最小，效率最大，公平合理，这就需要人们遵循一定的规则。
产生：规则是如何形成的，现在存在着不同的理论观点，但我认为最初的原因是人们相互协调的结果——这就是楼主认为的博弈均衡。博弈的结果就是契约。如楼上所认为的“礼、祖宗家法”，“行动集合的相关规范体系”等等。
定义：政府产生以后，契约就存在两种形式，一种是非正规形式存在的，如“社会文化和历史习惯以及伦理”；一种是正规形式，这就是制度，当然，这是狭义的制度。广义的制度一般包括一切现实的和历史的契约形式、如习俗、伦理等等。但习俗、伦理等与正规制度是不相同的。它的功能及产生、存在的本质是不相同的，在此不予讨论。
形式：它的存在形式有两种，一种就是权力或者说是能力，它的制度就是强权制度，比如奴隶制度。一种制度就是民主制度，它通过大多数规则形成法，政府则根据法律来行事。
制度是建立在一定的社会关系——生产关系之上的。
功能：制度的作用并不是为了解决囚徒困境的，既然是一种正规的社会契约，那么它就要求人们必须遵循它，因此它就是用来约束社会所有人的行为的。有约束就是因为有人会违犯规则，而不是人人都认为该这样，所以自己也这样，如果人们能够达到这种境界，制度就不需要存在了。

http://forum.stock.sina.com.cn/cgi-bin/view.cgi?gid=6&fid=1453&thread=46660&date=20060626

虽然我不是研究制度经济学的，但是我知道对于“制度”的定义一直存在争议。但我建议你看看：韦森的2003年《中国社会科学》上的文章（可能是这一年的，但把握不大），另外在2006年3月的《journal of economic issues》上的第一篇文章是Geoffrey M. Hodgson写的“What are institutions?”，我觉得可能对你有用。