阿育王寺坐落于在鄮山分支育王山之西麓。面对玉几山，左界育王岭，右是赤莹山峡谷。三山拥处，吉林参天，修竹蔽日。西望古刹，寺在山奥之底，南而远眺，俱在峰峦之中，有世外桃源之感。加之四周翠岗蜿蜒，群陵起伏，称之为“六殊胜八吉样地”。
阿育王寺因舍利而兴，又因舍利而名。舍利，原意是得道高僧往生，经过火葬后所留下的结晶体。相传佛祖释迦牟尼涅槃后，他的弟子用香木将其遗体火化。据佛典所载，火屡点不着，亏得释迦佛陀自运神力，上涌三昧真火，终于焚化为八万四千舍利，由阿育王分贮八万四千塔分奉各国。在公元初年，佛教传入东土中国之后，兴建宝塔，以让百姓瞻仰、礼拜。宁波阿育王寺舍利塔是东土十余处之首。
最早确切记载古鄮舍利塔的是唐时的《法苑珠林》。 讲的是西晋时，山西有一位叫刘萨诃的猎户，出家后法名慧达，决心寻找释迦牟尼舍利塔。西晋太康三年(282)，慧达由北而南走遍山山水水，来到现在北仑大碶乌石岙的时候，忽然听到钟鸣之声从地下传来，便虔诚求祷，三天三夜后，果然见到一座五层四角的舍利塔从地下腾跃而起，塔高约尺四，方广七寸，内悬宝磬，中缀舍利。这就是阿育王所造的那八万四千座舍利塔之一。慧达寻得舍利塔后，就地结茅供养，他所设立的龛堂就是阿育王寺的雏形。
《阿育王寺志》记载，东晋义熙元年（405年）晋安帝建塔亭，20年后文帝增建祠宇，造三层木塔。南北朝梁普通三年（522年），梁武帝赐寺额“阿育王寺”，阿育王寺名延续至今。
宋朝时，抵达明州港的外国商舶和僧侣不断增多，阿育王寺的海外影响日益增大。有一位日本的重源和尚在1167至1176年间三次来华。30年后，曾朝拜阿育王寺舍利塔的日本重源和尚运来大木重修舍利殿，他回日本后弘扬中国的舍利崇拜，也建有舍利塔。
到了明朝，宁波成为中日朝贡贸易的政府港口，对于跟着遣明使团一起来华的日本僧侣来说，阿育王寺是最为近便的礼佛之所。神奇的舍利塔和特殊的地理位置，使阿育王寺来访僧客千年不绝。因此，阿育王寺在中日文化交流史上有着重要的地位。
