康芒斯说，有时候一个制度似乎可以比做一座建筑物，一种法律和规章的结构，正像房屋里的居住人那样，个人在这结构里面活动，有时候它似乎意味着居住人本身的“行为”。有时候凡是“动的”不是“静的”东西、或是讲“程序”不讲商品、或是讲活动不讲感觉、讲管理不讲平衡、讲控制不讲放任的东西，似乎就是制度经济学……如果我们要找出一种普遍的原则，适用于一切所谓属于制度的行为，我们可以把制度解释为“集体行动控制个体行动”。[1]制度经济学是对商品、劳动或任何其他经济量的法律上的控制，而古典的和快乐主义的学说只涉及物质的控制。法律上的控制是未来的物质的控制。[2]
新制度经济学家对制度的定义有不同的解释。新制度经济学家关于制度概念的涵义非常广泛，既包括规则和秩序，也包括组织本身；既有政治、经济、文化、技术等方面的制度，也把道德意识形态等纳入了制度范畴。新制度经济学家一般认为，制度是对人和组织行为的规范，它是人和组织为适应环境、合理配置资源、实现目标最大化的必要手段；制度是组织构造的结构模式，有些学者甚至把制度等同于社会组织；制度是人类主体内在的文化结构模式，人类的文化习俗和传统习惯是最早的制度形式。新制度经济学代表人物诺斯（DouglassC.North）认为：“制度是一个社会的游戏规则或形式上是人为设计的构造人类行为互动的约束”，“制度是一系列被制定出来的规则、守法程序和行为的道德伦理规范，它旨在约束追求主体福利或效用最大化的个人行为”。[3]舒尔茨（odoreW.Schultz）说：“我将一种制度定义为一种行为规则，这些规则涉及社会、政治及经济行为。”[4]
诺斯在《制度、制度变迁和经济绩效》一书中指出，制度是由一系列正式约束、社会认可的非正式约束及其实施机制所构成。正式约束又称正式制度，包括政治规则、经济规则和契约等。它由公共权威机构制定或由有关各方共同制定，具有强制力。非正式约束又称非正式制度，主要包括价值观、道德规范、风俗习惯、意识形态等。它是对正式制度的补充、拓展、修正、说明和支持，它是得到社会认可的行为规范和内心行为标准。正式制度与非正式制度相互联系、相互制约。在某种意义上说，非正式制度比正式制度更为重要。制度的实施机制以国家为主体，依靠国家的强制力，保证正式约束和非正式约束的实施。
新制度经济学又把制度分为三个层次：（1）宪法秩序。它是具有普遍约束力的一套政治、经济、社会、法律的基本规则，是制定规则的规则。“宪法秩序就是第一类制度；它规定集体选择条件的基本原则，这些原则是制定规则的规则。”[5]（2）制度安排。它是在宪法秩序下约束特定行为模式和关系的规则，具体指各种法律和制度。（3）规则性行为准则。它是源于意识形态的习俗和伦理道德原则，是赋予宪法秩序和制度安排的合法性的基础。“意识形态既被看作是一种规范制度，又被看作是一种完整的世界观，由它支配、解释信念并赋予合法性。”[6]
新制度经济学交替使用制度创新和制度变迁两个概念。制度变迁或制度创新不是指制度的任何一种变化，而是指用一种效率更高的制度取代原有制度或对一种更有效的制度的生产过程，是制度主体解决制度短缺，从而扩大制度供给以获得潜在收益的行为。诺斯认为制度决定了社会的演进的方式，制度的变迁是理解历史变迁和国家兴衰的一把钥匙，制度是“理解历史的关键”。[7]在经济发展、国家兴衰方面，制度起着至关重要的作用。“制度建立的基本规则支配着所有公共的和私人的行动，即从个人财产权到社会处理公共物品的方式，以及着收入的分配、资源分配的效率和人力资源的发展”。[8]新制度经济学把制度当作一种生产性资源，具有稀缺性，而这种稀缺的资源主要是由政府提供的。
制度变迁有两个方面的动因。由于外部环境的变化发展，一方面会使原来的制度安排变得无效、并非最佳或制度短缺，另一方面会改变可供选择的制度结构的制度选择范围。制度变迁的根源在于制度决定者与制度接受者的矛盾，推动着制度从均衡到非均衡再到均衡的矛盾运动。制度变迁的发生是由于制度非均衡的存在。制度均衡是人们对既定的制度及制度结构的满意或满足状态。制度均衡不是永恒的，也并不意味着此时的制度最佳。由于制度环境和成本收益的不断变动必然会打破原来的均衡，出现制度的再创新。制度非均衡表明制度的供给不能满足制度的需求，此时人们产生了制度变革的动机。当然制度非均衡并不必然会引发制度变迁，由于条件的制约，这种非均衡有时会持续相当长的一段时间。从总体上看，制度变迁和创新是一个连续不断的过程。