文塔下原来还有一座清朝知县鹿宾因悯溺女恶俗倡议而建的始生堂，共三间，清雍正年(公元1723-1735年)改名为育婴堂，倒塌后没再重修，只遗留一块乾坤合德碑记载着古人呵护女婴之德。