谢朓（464--499），字玄晖，陈郡阳夏（今河南太康附近）人，出出身贵族，最初作南齐诸王幕下的参军、功曹、文学等官职，曾得隋王萧子隆、竟陵王萧子良的赏识，后来为明帝掌中出诏诰，于明帝建武年间（494--496）出任宣城太守时，在郡治之北，陵阳山顶建造一室，自取名曰“高斋”。他在任期间，理事、生活于此。曾作《高斋视事》诗曰：“余雪映青山，寒雾开白日，暖暖江村见，离离海树山。披衣就清盂，凭轩方秉笔……”又作有《高斋闲望》、《后斋回望》等诗篇。

唐初，宣邑人为怀谢守，于“高斋”旧址，新建一楼。因其位于郡治之北，取名“北楼”，又因北楼建成时，敬亭山已经扬名，登此楼向北可眺望敬亭山，遂又俗称“北望楼”。唐李白曾多次来宣城，登此楼凭吊，赋诗篇抒怀。其中《秋登宣城谢朓北楼》诗：“江城如画里，山晚望晴空。两水夹明镜，双桥落彩虹。人烟寒桔柚，秋色老梧桐。谁念北楼上，临风怀谢公。”由于李诗的广为传诵，楼名遂又被称为“谢公楼”、“谢朓楼”。从此，楼基周围，先后建有条风、清暑、迎春、观风、双溪、怀谢等亭阁。这些亭阁低围北楼而建，将北楼衬托得更加宏伟壮观。历代文人名士，慕名前来登楼观赏者络绎不绝，赋诗题咏者难以计数。仅据清光绪县志的此楼诗文就有130多篇。

唐代白居易，于贞元十五年（799），随其长兄白幼文寓居宣城时，曾因临场作谢朓楼观感《窗中列远岫》一诗，被当时的宣歙观察使崔衍，破例举荐其赴京应试，得中第四名进士。他身入仕途后，却难忘宣城谢朓楼，直到晚年《郡斋》诗曰：“……无复新诗题壁上，虚教远岫列窗间，…….再喜宣城章句动，飞斛遥贺敬亭山。”

唐咸通末年（874）御史中丞兼宣州刺史独孤霖，将北楼改建，他题名为“叠嶂楼”，并为其作记。明嘉靖年间（1540年左右）知府方逢时予以重修，并复名“高斋”，也作有记。清康熙四十年（1701）知府许延武重新修葺。清光绪年初知府鲁一贞重修一新。直至民国二十六年（1937）楼尚完好。

据健在老人回忆：北楼为上下两层，上圆下方，全木结构，顶盖琉璃筒瓦，四边飞檐翅角。上层题额为“叠嶂楼”，围沿建有木栏杆，下层题额为“谢朓楼”，四方均置屏风门。楼基四周立有历代诗文碑刻和修楼碑记。

惋惜的是，这座千古胜迹的名楼，悠久文化的见证，于1937年冬，遭到日本侵略军的飞机狂轰滥炸，毁为废墟。

解放后，为纪念革命先烈，弘扬革命精神，教育后人，早在1952掂，当时的宣城行署决定在谢朓楼的遗址处建立了宣城烈士陵园，建烈士塔、纪念亭各一座。塔顶装有红五角星，塔体下面有刻有隶书“革命烈士永垂不朽”的浮雕，塔体下刻有碑文。翌年四月，将塔和亭扩建为烈士陵园，时至1955年3月初建成，总面积15300平方米。由于城市规划需要，烈士陵园于1966年迁址澄江办事处庙埠昭亭北端的云盘山征地57亩，新建烈士陵园。

1997年8月，在原址上重建谢朓楼和怀谢亭，使其和开元塔、敬亭山为一线之始，占地面积1500平方米。该楼为徽派建筑,坐北朝南,楼要上下两层,下层四周为屏风门，二层四周设有回廊、护栏、楼基四周配有仿石制围栏，建筑面积450平方米，底层大门正上方悬挂着著名书法家沈鹏书写的“谢朓楼”匾额。

因南齐曾于此建有“谢朓楼”，至今高台北而西段和东段，仍保存一段约1400余年的长15.7米，高4米和长29.5米，高2.5米的破石墙壁，故命名为“谢朓楼遗址”。

1998年5月，经安徽省人民政府公布为省级文物保护单位。

2007年10月1日起，谢朓楼已成新建的“府山广场”显目一景。