与传统的以威尔逊、古德诺的政治与行政的二分法和以韦伯的科层制理论为基础的官僚制的行政管理理论不同，新公共管理思想以现代经济学和私营企业的管理理论与方法作为自己的理论基础，不强调利用集权、监督以及加强责任制的方法来改善行政绩效，而是主张在政府管理中采纳企业化的管理方法来提高管理效率，在公共管理中引入竞争机制来提高服务的质量和水平，强调公共管理以市场或顾客为导向来改善行政绩效。由于严格说来，新公共管理尚未形成一种单一的理论，而只是一种理论思潮，所以我们在此将其称为一种“思想”而不是一种“理论”。根据西方行政学者P·格里尔、D·奥斯本和T·盖布勒等人的论述，新公共管理主要有如下思想：
1.政府的管理职能应是掌舵而不是划桨。与在传统公共行政管理中政府只是收税和提供服务不同，新公共管理主张政府在公共行政管理中应该只是制定政策而不是执行政策，即政府应该把管理和具体操作分开，政府只起掌舵的作用而不是划桨的作用。这样做的好处是可以缩小政府的规模，减少开支，提高效率。“掌舵的人应该看到一切问题和可能性的全貌，并且能对资源的竞争性需求加以平衡。划桨的人聚精会神于一项使命并且把这件事做好。掌舵型组织机构需要发现达到目标的最佳途径。划桨型组织机构倾向于不顾任何代价来保住‘他们的’行事之道。”[1](P12)因此，有效的政府并不是一个“实干”的政府，不是一个“执行”的政府，而是一个能够“治理”并且善于实行“治理”的政府。
2.政府服务应以顾客或市场为导向。新公共管理从公共选择理论中获得依据，认为政府应以顾客或市场为导向，从而改变了传统公共行政模式下的政府与社会之间的关系，对政府职能及其与社会的关系重新进行了定位。新公共管理认为，政府的社会职责是根据顾客的需求向顾客提供服务。“市场不仅在私营部门存在，也在公共部门内部存在。当市场在公共部门出现时，我们通常称之为系统，如教育系统、职业训练系统、心理卫生系统。但它们都是市场，就同金融系统、银行和保健系统一样都是市场。如果我们把市场导向的思想应用到我们的公用系统上去，我们就能取得伟大的成就。”[1](P288)于是在新公共管理中，政府不再是凌驾于社会之上的、封闭的官僚机构，而是负有责任的“企业家”，公民则是其“顾客”或“客户”。“企业家”在新公共管理思想中有其特殊的含义：并不是会做生意的人就是企业家。企业家把经济资源从生产率和产出较低的地方转移到较高的地方，企业家运用新的形式创造最大限度的生产率和效率。因此，企业家式的政府应该是能够提供较高服务效率的政府。为了实现这一目标，政府服务应该以顾客需求或市场为导向。只有顾客驱动的政府，才能提供多样化的社会需求并促进政府的服务质量的提高。因为这将使竞争进一步发展，不是政府管理人员选择服务提供者，而是政府管理人员让公民选择服务提供者。企业虽然以盈利为目的，但受顾客驱使的机制使企业不断寻求新途径使顾客满意。相反，政府是为公民服务的，但在大多数公共组织中甚至弄不清谁是它们的顾客或服务对象，而且服务水平低劣。所以，给公民以更多的选择权，让公民有机会来评价政府工作效果的“顾客驱动”机制将是一个推动政府改善工作的良好机制。
3.政府应广泛采用授权或分权的方式进行管理。政府组织是典型的等级分明的集权结构，这种结构将政府组织划分为许多层级条块。人们认同自己所属的基层组织，跨组织层次之间的交流及其困难，使得政府机构不能对新情况及时作出反应。由于信息技术的发展趋势，加快决策的压力猛烈地冲击着政府的决策系统，政府组织需要对不断变化的社会作出迅速的反应。企业界经理采取分权的办法，通过减少层级、授权和分散决策权的办法迅速作出反应，从而有效地解决问题。因此，政府也应该通过授权或分权的办法来对外界变化迅速作出反应。政府应将社会服务与管理的权限通过参与或民主的方式下放给社会的基本单元：社区、家庭、志愿者组织等，让他们自我服务、自我管理。奥斯本和盖布勒说：“当家庭、居民点、学校、志愿组织和企业公司健全时，整个社区也会健康发展，而政府最基本的作用就是引导这些社会机构和组织健康发展。……那些集中精力积极掌舵的政府决定其社区、州和国家的发展前途。它们进行更多的决策。它们使更多的社会和经济机构行动起来。”[1](P7～8)这是因为，健康而有活力的社会基本单元构成健康而有活力的国家。新公共管理认为，与集权的机构相比，授权或分权的机构有许多优点：比集权的机构有多得多的灵活性，对于新情况和顾客需求的变化能迅速作出反应；比集权的机构更有效率；比集权的机构更具创新精神；能够比集权的机构产生更高的士气，更强的责任感，更高的生产率等等。