公元251年，73歲的司馬懿因病去世。在去世前，司馬懿去立下了一個奇怪的遺囑：“於首陽山為土藏，不墳不樹；作顧命三篇，斂以時服，不設明器，後終者不得合葬。”在生前，司馬懿就在首陽山為自己建造了一座陵寢，既不封墓冢，也不建陵寢，身穿平時的衣服下葬，墓中不留寶物，而後來去世的遺孀，也不準與自己合葬。中國人不僅講究死前風光，死後也要極盡哀榮。在漢代，還有視死如生的厚葬習俗。當時的司馬懿貴為太傅，國家的實際主宰，為何要“不墳不樹”，如此低調。
與此同時，在《宋書·禮志》中，還保留了一個更奇怪的記載：“晉宣帝遺詔，子弟羣官皆不得謁陵。於是景文遵旨。”也就是説，司馬懿不允許子孫為自己掃墓，而他的兒子司馬昭謹遵其遺囑，從未為他掃過墓。古語有云：“國之大事，唯戎與祭。”古人看來，祭祀祖先能夠保佑家族平安、和睦與延續。對於君王來説，祭拜先帝與先祖，可以保佑國祚綿長，皇權代代相傳。司馬懿處心積慮多年，就是為了攀登權力的高峯，從而光宗耀祖。
如今司馬懿通過高平陵之變，已經大權在握，有號令天下之威，如今卻為何如此低調，不僅低調下葬，甚至不允許子孫為自己祭掃？而這，就要從高平陵之變來説起了。魏明帝曹叡於景初三年（公元239年）逝世，遺詔由年僅八歲的皇太子曹芳繼位，而大將軍曹爽、太尉司馬懿成為了託孤大臣。為了顯示自己對司馬懿的信任，曹叡甚至讓曹芳抱住司馬懿的脖子，將他當做自己另一個父親，就像當年劉禪父事諸葛亮一樣。但是曹叡死後，曹爽即聯合一眾黨羽，將司馬懿任命為太尉，以明升暗降的形式，奪取了司馬懿的兵權，將之完全架空。而司馬懿心知曹爽猜忌自己，於是施展“假痴不癲”之謀，整天在家裝病。隨後，曹爽集團完全掌握宮中禁軍，曹爽與何晏等名士操縱了朝廷中樞。然而曹爽本是紈絝子弟，絲毫沒有父親曹真那樣的英明睿智。一方面，曹爽大肆攬權，挾持幼主，還將與他有矛盾的郭太后關入深宮；另一方面，曹爽窮兵黷武，親率十數萬大軍討伐蜀漢，結果在興勢之戰中被王平、費禕殺得大敗。
然而曹爽不僅不以失敗為恥，反而還每天置酒高會，與何晏等人每日閉門清談，將國家治理得一團糟。因此，曹爽不僅得罪了司馬懿，還得罪了曹魏皇室以及蔣濟等功勳老臣。當時，司馬懿雖然已經“因病”退居二線，而曹爽仍對他不放心。於是派心腹李勝探望司馬懿。李勝進屋後，只見司馬懿正在兩個婢女的服侍下吃粥。吃着吃着，司馬懿手一抖，粥潑了一身。婢女為他換衣，結果司馬懿一個沒站住，衣服又掉在了地上。李勝見司馬懿如此“英雄遲暮”，倒是有些心生憐憫。於是他對司馬懿説：“我馬上要去荊州赴任，特地向太傅辭行！”結果司馬懿卻“昏聵”地説：“啥？你要去幷州，那裏到處都是胡人，不是什麼好地方，你可要多加小心啊！”李勝説：“太傅聽錯了，我是要去荊州赴任！”而司馬懿“恍然大悟”道：“哦！我老了，聽不清你説話。望你在荊州建功立業，到時候我好把兩個犬子託付給你！”
李勝辭行後，立即向曹爽通報了司馬懿的情況：“太傅老了，離死不遠，將軍可以高枕無憂了！”聽了李勝的話，曹爽果然對司馬懿失去了警惕。然而實際上，司馬懿表面整天躺在牀上“生病”，實際在家中陰養800死士，同時聯絡蔣濟等人，準備發動一場絕地反擊。正始十年正月（公元249年），曹爽帶着幼帝曹芳以及自己的全部兄弟以及親信，前往魏明帝的陵墓——高平陵拜謁。司馬懿見時機已到，於是立即派人接出被幽禁的郭太后，讓她下詔逮捕曹爽一黨。隨後，司馬懿又派人佔據武庫，並派兵出城據守洛水浮橋，佔領了曹爽一黨的軍事駐地。針對此次政變，司馬懿振振有詞：“我奉先帝遺詔，討伐叛逆，曹爽大權獨攬，離間兩宮，罪不容恕。我已擅自作主告誡主管人及黃門令説：‘免去曹爽、曹羲、曹訓的官職兵權，以侯爵的身分退職歸家，不得逗留而延滯陛下車駕，如敢於延滯車駕，就以軍法處置。”
聽聞洛陽發生政變，身在高平陵的曹爽完全慌了。實際此時，他手中不僅握有天子，身邊還有大量禁軍，完全可以趨向許昌，重立中央。到時候，誰勝誰負，還難以預料。只可惜，曹爽只是一個軟弱無能、豚犬一般的廢物。在對峙中，司馬懿派遣陳泰和許允勸説曹爽：“只要你交出兵權，仍能保你富貴！”同時，陳泰還表示：“太傅曾指着洛水發誓，他絕不會害你以及家人的性命！”聽了陳泰的話，曹爽竟真的擲劍於地：“即使投降，我仍然不失為富貴人家！”就這樣，曹爽在手握天子和軍隊的有力情況下，向司馬懿投降。而司馬懿也毫不客氣，悍然違背諾言，誅殺曹爽三族。同時與曹爽交好的何晏，丁謐、鄧颺、畢軌、李勝、恆範等人，也慘遭滅族，一共誅殺了5000多人。
這場屠殺有多殘酷呢？《魏書·王淩傳》注引《漢晉春秋》中，有身歷其事的王廣説道：“同日斬戮，名士減半”。同時，《三國志》也提到：“誅曹爽之際，支黨皆夷三族，男女無少長，姑姐妹女子之適人者皆殺之。”
按照規矩，誅三族，絕不會株連嫁出去的女子。而這一次，連嫁出的姑姑、姐妹、女兒也盡被誅殺。由此可見，司馬懿是多麼陰險和狠毒。而這一暴行，甚至連司馬懿的同夥——蔣濟和陳泰也看不下去。此前，蔣濟等人都曾以自己名譽來保證曹爽的生命。曹爽被滅三族後，蔣濟和陳泰竟因極度的愧疚而離世。更搞笑的是，甚至連敵對的蜀國也為曹爽鳴不平，説是司馬懿斷絕老上司曹真的“血食”，實在是狂悖無義。數十年後，西晉早已滅亡，東晉已經南渡。而宰相王導對晉明帝説起了當年司馬懿發動高平陵之變故事。聽完後，晉明帝竟哭倒在龍牀上："若如公言，晉祚復安得長遠！"你看看，司馬懿的殘忍和陰險，連他的後代都看不下去。
公元251年，司馬懿討伐試圖“重興魏室”的老同事——王凌，並夷滅了他的三族。此後，司馬懿每天都會夢到王凌和他的好友賈逵向自己索命。不久後，司馬懿便病入膏肓，同時向後代們下達了自己的遺囑：“不墳不樹，斂以時服，不設明器，後終者不得合葬”。此外，還不允許子孫為自己送葬。司馬懿之所以這麼做，是因為他知道，自己在高平陵之變中犯下了可怕的罪行，惹上了很多仇家。他害怕仇人們掘了自己的墳。同時也害怕他人如法炮製，借子孫拜謁陵墓之機，發動政變。可以説，司馬懿確實是老謀深算。“不墳不樹”，且不得拜謁。司馬懿的高原陵很快就在首陽山中失去了蹤跡。
從他去世到如今，已經過去了1769年，甚至連曹操的陵墓都早已被髮掘，而司馬懿的陵墓仍無跡可尋。即使西晉滅亡，司馬懿的陵墓也沒有受到任何影響，也沒有受過任何盜掘。由此可見，司馬懿確實老奸巨猾啊！