公元258年，在地处中原东南的吴国再次建立29年后，刚刚从琅琊王之位在政变中登基为吴景帝的孙休，在成为吴国第三位皇帝之时，创立太学，设太学博士制度，诏立五经博士，为南京太学之始，韦昭为首任博士祭酒。这一年被认为是南京官办学堂的最高学府创设之年

此后，除在战乱及新旧两朝更替时出现暂时中断外，南京官办学堂历代延绵不绝。

317年，晋元帝司马睿于建康（今南京）设太学，历经宋、齐、梁、陈四朝，建康太学绵延不断。南朝宋时，建康太学分设文、史、儒、玄、阴阳五科学馆，为世界上第一所分科制高等学府、教育与研究合一的大学。历代设校于秦淮河畔夫子庙一带、钦天山下等处

隋唐时间，南京太学被取消，仅余下地方性学校的低迷时期后，南唐在南京重新建立起太学，随后顺延至北宋江宁府学，南宋时期，建康成为行都，也设有国子监，元朝改集庆路学。

明朝定都南京，在原六朝皇家园林华林园旧址及南朝太学原址钦天山下建立起国子监。至1393年（明洪武二十六年）时，南京国子监监生达八千一百二十四人，为当时世界上规模最宏大的学府。到永乐年间，学生超过万人，东亚南亚诸国均派留学生来南京国子监学习，故译学盛兴。

那时在南京下关设有造船场，掀起了中世纪的航海事业。而在南京国子监后面的钦天山上，建有明朝皇家天文台——钦天监观象台。这些都为南京国子监学生开阔眼界提供极大便利。

清朝建立后，南京国子监降格为江宁府学，仍然于明朝国子监旧址办学。

1902年，江宁府学改办为三江师范学堂，后更名两江师范学堂，民国建立后，改办成为南京高等师范学校，成为当时全国六大高师之首，旋即“高师改大”，易名国立东南大学，与国立北京大学一同成为当年全国仅有的两所国立大学。

之后名称有 国立第四中山大学（1927-1928）

国立江苏大学（1928-1928）

国立中央大学（1928-1949）

1949年8月8日，接南京军管会的通知，国立中央大学”正式更名为国立南京大学，翌年更名南京大学，

后经院系调整为东南大学，南京大学等十二所高校，原址现为东南大学。

知名校友顾毓琇，吴健雄