南京被称六朝古都，这六朝指的是三国时的吴国、东晋、再加上南北朝时期南朝的宋、齐、梁、陈四朝，这六朝都是在南京定都的。除了六朝古都外，南京还有许多别名：金陵、秣陵、石头城、建业、建康、台城等等。
战国时，楚威王想凭借长江天堑图谋天下，于是开始在此建城，名金陵邑，这就是南京古称金陵的由来。秦始皇出巡时经过这里，随行的术士观了观天相告诉他说：金陵有王气，这惹得秦始皇很不爽，于是改金陵为秣陵，"秣"的意思是草料，秦始皇贬低这里只配做牧马场，又凿山通淮水以泄王气。
孙权称帝后，东吴在此建都，孙权把"秣陵"改为"建业"，意思是"建立帝王功业"。孙权大力发展生产，对江南地区的开发作出了重要贡献，建业作为东吴的政治、经济、文化、军事中心，得到长足发展。
孙权在清凉山建造石头城作为军事要塞，钟山龙蟠，石城虎踞，之后的南北战争，石头城一直是兵家必争之地，西晋灭吴最后的主战场就在这里。
唐代诗人刘禹锡的《西塞山怀古》描述的就是这件事：
王濬楼船下益州，金陵王气黯然收。
千寻铁索沉江底，一片降幡出石头......
而今仍在屹立的石头城
西晋大将王濬驾驶战船从益州顺长江而下，志在灭吴，吴主孙皓（孙权的孙子）以为凭借长江天险，用铁索就能把敌人拦截住，结果被西晋剪断铁索，攻下了都城，孙皓只能举着白旗出城投降。
西晋灭吴后，又把"建业"改成了"建邺"。
灭蜀吞吴，西晋结束了汉末以来的割据局面，实现了统一。然而，和平稳定的局面没有维持几年，西晋由于八王之乱，国力迅速衰微，内迁的诸民族趁机举兵作乱，匈奴、鲜卑、羯、羌、氐是其中五个较大的胡人部落，胡人们建立的数十个国家里，其中有十六个是存在时间比较长、影响比较大的国家，五胡十六国混战不休。西晋被匈奴人建立的前赵所灭亡，北方进入了五胡乱华的混乱时期。
晋朝皇室、士族以及黄河流域的百姓为躲避战乱，纷纷进入安定的长江流域，史称衣冠南渡，中国进入南北分裂、对峙的阶段。琅琊王司马睿南渡之后，在晋朝宗室和南北士族的拥戴下，建立东晋王朝，他也选择在南京建都，并且把"建邺"改成了"建康"，其后的南朝一直沿用了这个名字，并一直把建康作为都城。东晋和南朝都把中央 *** 和皇宫建在台城（旧址在今玄武湖边），台城也因此成为南京的别称之一。
