清末民初，以“通俗教育”和“平民教育”为主体的社会教育经过萌生和发展阶段，确立了其行政地位，并形成一些成文的规章制度，为社会教育的发展打下了基础。南京国民政府建立之初，就意识到发展教育事业的重要性，并视其为“立国之本”，制定了有关社会教育行政、经费、法规等方面的政策文件，使得社会教育形成了一套比较完备的体系。

1、确立社会教育的行政体制。1927年国民政府定都南京后，设立中华民国大学院为全国教育行政及研究学术的最高机关。大学院设大学委员会、国立学术机关、教育行政处、专门委员会等部。社会教育分属于教育行政处下的社会教育处及图书馆组。1928年6月，国民政府又重新修订了大学院组织法，将其下设变更为秘书处、总务处、高等教育处、普通教育处、社会教育处和文化教育处六个部门，主要由社会教育处来领导和管理全国社会教育事宜。到1928年底，国民政府废止了大学院制度，重新恢复教育部，下设总务司、高等教育司、普通教育司、社会教育司、蒙藏教育司和编审处。经几次修订，1935年正式颁布《教育部组织法》，其中规定：社会教育统归社会教育司主管，其管理事项包括：①关于民众教育及识字运动各事项；②关于补习教育事项；③关于低能及残疾者之教育事项；④关于美化教育事项；⑤关于公共体育事项；⑥关于图书馆及保存文献事项；⑦关于其他社会教育事项等七项内容。(蒋建白、吕海澜著：《中国社会教育行政》，商务印书馆1937年版，第59页)1935年2月，在教育部规定的各司分科规程中，规定社会教育司下设置第一科和第二科，行政职责的分工更为详实。至此，中央社会教育行政机构的组成大略完成，在组织与建制方面比以前更加健全和完备，社会教育的行政职能分工也更为具体和明确。

对于全国省一级的社会教育行政机构，在大学院时期，国民政府把全国划分为若干大学区，1928年修正的《大学区组织条例》中规定：“大学区得设高等教育处、普通教育处、扩充教育处”，社会教育的事宜归扩充教育处办理。1929年，经国民党三届二中全会议决，停止大学区制恢复教育厅制，各省在教育厅下分设四科，社会教育归第三科管理。1931年，教育部训令各省市教育厅，一律设置掌管社会教育的专科，各县教育局斟酌经费情形，于该局内设置专科，或指定专员，掌管社会教育事务。另外，国民政府还召开民众教育专家会议，对社会教育加以完善。1933年在民众教育专家会议上，明确规定民众教育馆是社会教育的中心机关，实施综合的社会教育事业，民众学校、职业补习学校、民众教育馆，为各地方最低限度的社会教育设施，这种以简代繁的政策，很适合各地方社会教育行政之用。