在人们简单的理解中，法人治理结构几乎就等于股东会、董事会、监事会和经理阶层的权力分配模式。然而，企业法人治理结构的含义决不止此，甚至企业法人治理结构一词也并不准确。从其原文看，更为严谨的用语是“公司治理结构”或“公司治理”，它主要是指公司制企业（即所谓的企业）的治理，而很少涉及合伙制和个人独资企业等其他企业形态。
那么，什么是公司治理结构呢？顾名思义，公司治理结构问题是伴随着现代公司制度的建立而产生的，尽管这一概念的使用已逐渐有泛化的趋势。关于现代公司的概念国际上并无一个标准的定义，比较有代表性的是美国著名企业管理史学家钱德勒所给出的定义，即现代公司是指由支薪的高中层经理人员管理的多单位企业。上述定义揭示了现代公司的重要特征，那就是企业的经营管理者不再是本家本人，而是职业经理人员。。现代公司之所以被称为“现代”，关键就在于它实现了所有权与经营权（或者控制权）的分离，而与所有权和经营权合一的古典企业相区别。
地看，现代公司的出现是生产化到一定阶段的产物。生产社会化的发展使得生产所需要的投资规模超过了私人投资者所能承受的限度，这客观上要求资本的集中；而大规模的投资如果由单个投资者所提供，也加大了其投资风险。因此单个投资者存在着分散投资风险的内在需求，从而以有限责任为基础的股份公司应运而生，这正是现代公司的典型形式。
随着企业规模的扩大和每个企业所有者人数的增加，所有者直接管理企业成为一种成本高昂的行为；同时由于个体之间存在着能力的差异，所有者未必是合格的企业家。因此从市场上选择一个善于经营的人代表所有者管理企业就是理性的选择，委托一代理关系由此产生，所有权和经营权实现分离。
但是由于委托人（所有者）和代理人（经营者）是不同的利益主体，具有不同的效用函数，因此二者之间潜在地存在着激励不相容。而且代理人（经营者）拥有关于其自身知识、才能、掌握的机遇和努力程度等的私人信息，这都很难为委托人（所有者）所观察和监督，而理性的代理人（经营者）又具有偷懒和机会主义动机，因而在委托人（所有者）与代理人（经营者）相比处于信息劣势的情况下，必然有代理成本或激励问题的产生。斯密最早观察到了股份公司中存在的这种委托一代理矛盾，而Berle和Means进一步清晰地揭示了现代公司中所有权与控制权的分离和由此所产生的所有者的利益和经营者利益往往背道而驰的现象。
为了解决现代公司中广泛存在的委托一代理问题，就必须设计一套相应的制度安排，使代理成本最小化，提高企业的经营绩效，这种制度安排就是所谓的公司治理结构。
按照米勒的定义，公司治理是为了解决如下的委托一代理问题而产生的：“如何确知企业管理人员只取得为适当的、盈利的项目所需的资金，而不是比实际所需多？在经营管理中，经理人员应该遵循什么标准或准则？谁将裁决经理人员是否真正成功地使用公司的资源：如果证明不是如此，谁负责以更好的经理人员替换他们？”
梅耶则将公司治理定义为：“公司赖以代表和服务于它的投资者利益的一种组织安排。它包括从公司董事会到执行人员激励计划的一切东西。……公司治理的需求随市场中现代股份公司所有权与控制权相分离而产生。”
科克伦和沃特克指出：“公司治理问题包括在高级管理阶层、股东、董事会和公司其他的相关利益人（stakeholder）的相互作用中产生的具体问题。构成公司治理问题的核心是：①谁从公司决策／高级管理阶层的行动中受益；②谁应该从公司决策／高级管理阶层的行动中受益？当在‘是什么’和‘应该是什么’之间存在不一致时，一个公司的治理问题就会出现。”
钱颖一认为：“在经济学家看来，公司治理结构是一套制度安排，用以支配若干在企业中有重大利害关系的团体——投资者（股东和贷款人）、经理人员、职工——之间的关系，并从这种联盟中实现经济利益。公司治理结构包括：①如何配置和行使控制权；②如何监督和评价董事会、经理人员和职工；③如何设计和实施激励机制。”