考虑到《立法法》已正式确立了我国的法律表现形式，一些地方法规和规章也对违章建筑作了相应的规定，故法律意义上的违章建筑可作两种理解：
一是狭义上的违章建筑，即为违反法律、行政法规的规定，所建造的建筑物。二是广义上的违章建筑，是指违反法律、法规和规章的规定，所建造的建筑物，这也就是我们通常所说的违法建筑的概念。
在这里要说明的是：违章建筑是一个专有名词，有着特定的内涵，它不是违章与建筑两词的简单组合，不能完全根据违章的涵义来推断违章建筑的涵义。其关键在于对违法建设行为，是应予以法律制裁的；而违反规章制度建设的行为除造成某种特定的后果外，是不应当受到法律制裁的。由于到目前为止，没有一部法律、法规、规章将违章建筑规定为违反规章制度建造的建筑物。故此，认为违章建筑是违反规章制度建设的建筑物或认为违章建筑就是没有相关批准手续的建筑物的观点只能是一种社会理念，其作为法律概念不仅没有理论支撑的，而且也没有实证依据。
笔者之所以认为拆迁条例中所述的违章建筑是狭义上的违章建筑，除了上述论据外，还有下面两个重要理由：
第一，这一判定符合《行政许可法》规定的精神。该法规定了法律可以设定行政许可；尚未制定法律的，行政法规可以设定行政许可；尚未制定法律、行政法规的，地方性法规可以设定行政许可；尚未制定法律、行政法规和地方性法规的，省级政府规章可以设定临时性的行政许可。而关于城市建设，《城市规划法》已设定了行政许可；对于农村建设，《土地管理法》、《村庄和集镇规划建设管理条例》也设定了行政许可并规定了具体的程序，故地方法规及规章已无必要再就此事项设定行政许可，只能就实施行政许可作出细化的规定。若当事人的建设行为不违反法律和行政法规的规定，而只是违反了地方法规及规章的，就不应当认定为违反法律和行政法规的行为，其建筑物也不应当认定为违章建筑。
第二，这一判定也符合依法行政的基本要求。国务院在《全面推进依法行政实施纲要》中提出行政机关不仅要合法行政，还要合理行政。由于建筑物的拆除不仅是当事人物质财富的损失，同时也在某种程度上减少了全社会的财富，其是否拆除与补偿多少涉及到当事人的根本利益。在法律上未对违章建筑作出明确的界定前，行政机关不得作出对公民、法人或其他组织不利的解释，同时应当遵循公平、公正的原则，避免损害当事人的权益。故此，对拆迁条例中违章建筑应作严格意义上理解，而不应作扩大的解释。
（二）拆除违章建筑不予补偿的涵义
在法律上直接规定在拆迁过程中对违章建筑不予补偿，是上世纪八十年代的事。如1982年江苏省人大颁布的《江苏省城市建设用地管理和房屋拆迁安置试行办法》第十五条规定：“拆除违章建筑和临时性建筑不予补偿。”此后各地出台的拆迁管理办法中都有类似的规定。
笔者以为，此种规定是有其历史背景的。一方面当时的拆迁主要是政府行为，而非市场行为，对房屋的拆迁和对违章建筑的拆除主体实质上一致的，政府作为房屋的拆迁人同时又是对违章建筑实施管理的行政机关，有权决定违章建筑的命运。另一方面，在当时对违章建筑的处置没有补办手续一说，只有予以拆除。这在《城市规划条例》中可以得到印证。该条例规定对违反其规定进行建设的，对违章建筑的处置只有拆除，而无其他处置方法。
但2001年拆迁条例中的拆除违章建筑不予补偿的涵义已经发生了变化，其理由是两点：第一，1990年的《城市规划法》第四十条对违章建筑的处置除规定了拆除外，还规定了两种处置方式即没收及限期改正。即对违章建筑不再是一拆了事，而是分类处置。在这一点上，《城市规划法》比之《城市规划条例》有了很大进步。此后各地出台的办法中对限期改正进行了细化，限期改正实际上已成了补办手续的代名词。如2005年10月25日公布的《西安市城市规划管理条例》第四十一条规定：“未取得建设工程规划许可证进行建设，影响城市规划，尚可采取改正措施的，由规划行政主管部门责令停止施工，限期改正，补办手续，并按下列规定对建设单位或个人予以处罚：……”第二，2001年《城市房屋拆迁管理条例》中对拆迁人有了新的规定，行政机关在一般情况下不再是拆迁人，而作为拆迁人的更多的是房地产开发商等企业，拆迁成为市场行为，拆迁人和被拆迁人是完全平等的主体。作为民事关系一方，在拆迁双方达成一致意见之前，拆迁人是无权决定是否拆除被拆迁人的违章建筑的。