大庙山历史悠久，古迹多，传说也多。它同仓山的烟台山一样，之所以未与鼓楼的“三山”一起合称“五山”，皆因这两山均在城外。但它的许多美好的传说却令后人永难忘却。

　　首先，说无诸的后裔东海王余善相信世间有龙的存在，遂突发要在山上钓白龙的奇想。因为当时山的周围还是一片汪洋，他便在山上建了一座钓龙台和一口钓龙井，天天坐着垂钓，结果当然是一无所获（也有人说从白龙江钓得一头白龙）。这钓龙台和钓龙井至今还能找到一些残迹，有关部门正图修复，供人游览。

　　其次，说古时由天上坠落一颗天星于山上。因为是天星，所以小孩往上一登就会长高。有了这个传说，福州早年便有了“九月九”上大庙山登高的习俗。到了那一天，大人带着小孩，从四面八方涌来。自古上大庙山有三条通道，一是从油巷下（今隆平路北端）经龙岭顶而上；二是从延平路北段，也经龙岭顶而上；三是从大庙路直接上山。到那一天，这三条路被挤得水泄不通。聪明的小商贩抓住机会，在三条路两旁摆摊卖玩具，如土人囝（泥人）、状元帽、关刀等。小孩缠着要买这买那，大人只得慷慨解囊。