阿育王寺坐落於在鄮山分支育王山之西麓。面對玉幾山，左界育王嶺，右是赤瑩山峽谷。三山擁處，吉林參天，修竹蔽日。西望古剎，寺在山奧之底，南而遠眺，俱在峯巒之中，有世外桃源之感。加之四周翠崗蜿蜒，羣陵起伏，稱之為“六殊勝八吉樣地”。
阿育王寺因舍利而興，又因舍利而名。舍利，原意是得道高僧往生，經過火葬後所留下的結晶體。相傳佛祖釋迦牟尼涅槃後，他的弟子用香木將其遺體火化。據佛典所載，火屢點不着，虧得釋迦佛陀自運神力，上湧三昧真火，終於焚化為八萬四千舍利，由阿育王分貯八萬四千塔分奉各國。在公元初年，佛教傳入東土中國之後，興建寶塔，以讓百姓瞻仰、禮拜。寧波阿育王寺舍利塔是東土十餘處之首。
最早確切記載古鄮舍利塔的是唐時的《法苑珠林》。 講的是西晉時，山西有一位叫劉薩訶的獵户，出家後法名慧達，決心尋找釋迦牟尼舍利塔。西晉太康三年(282)，慧達由北而南走遍山山水水，來到現在北侖大碶烏石岙的時候，忽然聽到鐘鳴之聲從地下傳來，便虔誠求禱，三天三夜後，果然見到一座五層四角的舍利塔從地下騰躍而起，塔高約尺四，方廣七寸，內懸寶磬，中綴舍利。這就是阿育王所造的那八萬四千座舍利塔之一。慧達尋得舍利塔後，就地結茅供養，他所設立的龕堂就是阿育王寺的雛形。
《阿育王寺志》記載，東晉義熙元年（405年）晉安帝建塔亭，20年後文帝增建祠宇，造三層木塔。南北朝梁普通三年（522年），梁武帝賜寺額“阿育王寺”，阿育王寺名延續至今。
宋朝時，抵達明州港的外國商舶和僧侶不斷增多，阿育王寺的海外影響日益增大。有一位日本的重源和尚在1167至1176年間三次來華。30年後，曾朝拜阿育王寺舍利塔的日本重源和尚運來大木重修舍利殿，他回日本後弘揚中國的舍利崇拜，也建有舍利塔。
到了明朝，寧波成為中日朝貢貿易的政府港口，對於跟着遣明使團一起來華的日本僧侶來説，阿育王寺是最為近便的禮佛之所。神奇的舍利塔和特殊的地理位置，使阿育王寺來訪僧客千年不絕。因此，阿育王寺在中日文化交流史上有着重要的地位。
