一 民国时代的科学遗产
中国的现代科学，不是对中国传统科学的继承，而是西方科学在中国传播的结果。中国的现代科学组织也不是由传统的社会组织演化而来的。在清末“新政”运动中，兴学堂，废科举，全面引进日本的学制与教材，奠定了现代教育的初步基础，中国人全面地开始了从传统儒学知识结构向现代科学知识结构的转变。这场教育革命以及由此兴起且持续不衰的留学大潮，为中国造就了完全区别于传统儒士阶层的新型知识分子队伍，从其中派生出中国第一代科学家。他们归国之后，首先致力于科学教育，不断提升大学水平，培养高级人才；同时开展科学研究，建立学术团体和科研机构，以地质学和生物学的本土化为先导，全面推进中国科学的体制化。经过将近半个世纪的奋斗，已在现代科学的一些基本学科领域奠定了初步基础，建立了一批研究机构，形成了初具规模的科学人才群体。
1949年之前中国科学组织的大致状况是：以中央研究院(成立于1928年)为国家最高学术研究机关，下设若干研究所承担各种学科领域的研究，成为国家的综合科学研究中心，其研究经费由国家拨款；1935年从全国重要学术机关中选出最有学术成就和管理业绩的科学家组成中央研究院评议会，负责对全国科学研究的指导、联络和奖励，后于1948年选出第一批院士，召开院士会议，进一步完善了中国的科学体制。北平研究院、国立大学、资源委员会和各产业部门下设的研究机构等国立机构在全国科学体制中占有主导地位。
作为中国现代国家组织中的最高学术机构，中国科学院是中央研究院的继承者。第一，中国科学院院长郭沫若，副院长除陈伯达之外的李四光、陶孟和、竺可桢、吴有训，都是前中央研究院院士，其中李、陶、竺3人分别是中央研究院地质、气象、社会研究所的所长。在遴选副院长时，中共领导人也是特别注意从原有中研院物色人选。第二，中央研究院下属的13个研究所，只有历史语言所迁往台湾，其他各所或全部或大部人员留在了大陆。这些研究所经过军管和科学院接收两个阶段，人员全部留用，仪器设备和房产等得以完整保存，成为中国科学院组建研究机构的最重要基础。院所两级构成、研究所的组织结构和职称职级等基本制度也被承继下来。第三，中央研究院院士中数理组25人中，除1人病故外，有21人留在大陆或是从海外归国；生物组28人中有20人留在大陆；人文组25人中有18人留在大陆。中国科学院酝酿学部委员名单时，首先是以前中央研究院院士为基础的，留在大陆的自然科学领域的院士也大多入选为学部委员。第四，中国科学院的对外译名，在1982年以前，用的是拉丁文Academia Sinica，用以表示与中央研究院之间的继承性。
二 来自延安传统的改造
中国共产党在延安时期也一度建立过“自然科学研究院”，从主观意向上表明是要抓科学研究的。但实际上因缺乏必要的条件，名不副实，不久即去掉“研究”二字，改称“自然科学院”，成为科技教育机构(后来并入延安大学，似可看作它的理工学院)。在整风运动中，在讨论本院的科学教育方针时，曾展开过一次大讨论，不管是激进的，还是温和的，全都一致批判自然科学教学中的教条主义，其中理论脱离实际成为最严重的问题。“理论联系实际”的延安传统，后来也就成为新中国改造旧科学的重要思想武器之一。