穆地说，稀有的祥瑞啊！康僧会又说，舍利是劫火烧之不焚，金刚忤之不碎的。于是将舍利放在铁砧上，大力士挥铁锤连续猛锤，谁知锤头开花，铁砧下陷成坑，舍利丝毫无损。
孙权心悦诚服，相信佛的法力，决定在庶民杂居，形成街市的秦淮河南岸的小长干（今花露岗一带）、东吴初即成大市的后面，建造佛寺，用以奉佛礼佛。因是继洛阳白马寺后，江东（南）第一座佛寺，故名“建初寺”，所在地称为“佛陀里”。寺的右侧是山岗，山岗西临大江，北至秦淮河，周围十余里，风景优美，后成为六朝胜地之一。
至孙皓即位，法令苛虐，欲烧掉建初寺，群臣以寺为先大皇帝（孙权）所创，不可焚毁为由劝阻。孙皓又派学富五车，能说会道的张昱去问难康僧会。僧会随问随答，文词雅当，道理清明，张昱始终不能难住僧会而悻悻告退，让孙皓亲自诘问。?孙皓大集贤臣，迎请僧会问，佛说善恶因果报应，怎么能看到呢？僧会答，英明的君主，用孝和慈心训导世人，就会有赤乌瑞鸟出现。当年赤壁之战前，孙权大帝重臣程普，因见赤乌飞翔，提前庆功并报喜给孙权，不出几曰，果然赤壁大捷。所谓仁德育物，就会有醴泉涌而嘉苗出，善有瑞相，恶也是同样。《易经》上说，积善之家，必有余庆。《诗》咏求福不回。虽是儒家典籍上的格言，也是佛教典上的明训。至于释迦牟尼佛的教法，则详谈三世因果，极尽微细，所以佛说，行恶则有地狱长苦，行善则有天堂永乐。僧会侃侃而谈，说得孙皓哑口无言。后又因孙皓亵渎神明，所受磨难经僧会化解后，幡然醒悟，建初寺得以保全，孙皓也洗心革面，接受“五戒”（不杀生、不偷盗、不淫邪、不妄语、不饮酒食肉）?。
东吴天纪四年（280）四月，晋军兵临城下，孙皓在一片降幡之中，迈出石头城，跪在晋军面前投降，东吴灭亡。数月后，康僧会患病而终老于寺内。到了晋成帝三年（328），苏峻作乱，建初寺毁于兵火。后由朝廷重臣、司徒何充（292~346）恢复重建。
东晋以后，建初寺名多次改易，南朝刘宋元嘉中，有“凤凰”集于寺侧的山冈上，朝廷以为祥瑞，在寺侧建凤凰台，并将寺名改称为祗园寺。萧齐高帝萧道成，重修祗园寺时，在寺内兴建一座白塔，