上水关位于今滁州市琅琊区西大街南侧，自北向南跨越内城河，是一座桥式建筑，在滁州古城格局中居于永丰门和观德门之间。上水关全长22米，宽11.9米，高及水面10米;三孔，拱圆半径略等，底座是大条石，拱孔之上全部是由砖砌而成。

根据清光绪二十三年(1897年)《滁州志》记载，上水关始建于南宋嘉定十年(1217年)，明洪武年间重修，为的是阻拦西山诸溪之水。到了明嘉靖十三年(1534年)，滨州人赵大纲来权州事，见到此关岁月久远，灰石疏豁，兼捕署半夜出关捕盗，惊曰：“城门尽闭，尔既可以夜出，盗宁不可以夜入耶!”为了巩固城防，稳定社会治安，赵大纲下令重新修缮上水关并增置铁栅栏，上设轱辘桩石作为启闭的开关，同时设铺守卫。文献记载，到清光绪二十二年(1896年)，上水关圈口尚刻有“嘉定十年建康都统司创建”的字样。

1978年，有居民在关上两端建筑民居，中段的空地也被附近居民开辟为菜园。2004年10月，上水关被安徽省人民政府公布为省级重点文物保护单位。2016年4月，在上水关修缮施工过程中，发现中孔面东圈口正上方80厘米处，有砖刻“嘉定十年郡守□节制”(制字后面的字砖脱落数块)的字样，一砖一字;北孔面东圈口正上方80厘米处，有砖刻“洪武拾陆年守御滁州千户李武毅提调修砌上水关”的字样，一砖两字，保存完好。

近年来，滁州市人民政府全面整治内城河沿岸周边环境，同时对内城河上的关和桥进行分期修缮，征迁了关上和附近居民，铺筑了休闲步道，遍栽绿植草坪，如今上水关面貌焕然一新，伫立在河畔东西相望，雄关矗立，古意绵绵…………