镇南关之所以建在广西边镇凭祥，很大一部分原因取决于这座南疆重镇的地理位置。建关的首要目的，是为了战防。
云冈石窟旅游记载：在汉代，统治者选择郁林郡雍鸡县(今凭祥市和龙州县城及上金一带)设置了雍鸡关，以镇南方。这也是镇南关最初的雏形。
随着时间的推移，这里的关名不断更改，先后改为鸡陵关、界首关等等。到了明王朝时期的1539年，由于“安南国头目莫方瀛遗使臣阮文泰等奉命诣镇南关请降”，皇帝才将这里命名为镇南关，以示明王朝平复了南方。而“镇南关，关镇南”的童谣，也从此在当地流传。
也就是从这个时候开始，镇南关成为了广西边境的商贸重地。因为凭祥与越南山水相连，当时的中越陆上贸易通道主要有两条：一条是从云南的开化府(今文山县)进入越南;另一条则是从广西的龙州、宁明出凭祥的镇南关后进入越南谅山、高平。毫无疑问，镇南关就此成为中越边境贸易的集散地。
密云旅游，镇南关贸易进入了巅峰时期，尤其在雍正1729年“大开洋禁”后，西欧近代工业品从越南流入凭样，中国商品也经凭样出口东南亚。至今，我们仍能从当地老人口中听到当年的繁盛鼎沸，走在凭祥炎热而狭窄的街道上，也随时都可见到头戴草帽、面庞黝黑的越南人，他们或兜售越南土特产，或者抢购中国物美价廉的日用品。当地居住着的壮、汉、瑶、侗、苗等民族的中国人，他们常以槟榔和五色饭这些当地特色，招待“山那边”过来的客人……