《史記》被魯迅先生稱為“無韻之離騷”，不僅在我國曆史上佔有極高地位，而且對日本文學產生了深遠影響。幾乎每個時代，日本都有一些文學家、漢學家對《史記》讚譽有加。如江户時代末期的漢學家南摩綱紀曾如此評價《史記》：“敍事精簡，明如日星；行文靈妙，幽泣鬼神，為古今史編之冠。”當代小説家伴野朗則説：“這一生能與司馬遷及其《史記》相遇，是莫大的幸運與快事。”
《史記》大約在8世紀傳入日本。到了平安時代，《史記》已成為日本宮廷講書制度中一項重要的學習內容。當時的天皇還常在宮廷中舉辦宴會研讀《史記》。宴會上，天皇令文人墨客以《史記》人物為題賦詩，以助雅興。當時的貴族詩人島田忠臣，曾以《史記》中“毛遂自薦”的故事為題作詩：“趙勝知士早，毛遂出羣遲。客舍三年默，荊楚一旦威。既揮升殿劍，終脱處囊錐。寄語他同輩，如何目擊時。”
平安時代之後的中世，日本文學中出現了反映時代面貌的一種新題材，人稱軍記物語，是指以戰爭為主要題材的歷史演義小説。其中大多浸透着對《史記》所載歷史經驗和傑出人物事蹟的引喻、推崇和鏡鑑。它對《史記》內容的吸收與創新，是《史記》在日本文學中形態及變化的典型反映。《平家物語》是軍記物語的巔峯之作。該書記述了12世紀末源氏與平氏兩大武士集團逐鹿爭霸的歷程，以平氏一族的榮辱興衰貫穿始終。它對《史記》的借用或引用多達29處。其中，《烽火》《咸陽宮》兩章直接以《史記》中的題材命名，引用了《史記》中“烽火戲諸侯”和“荊軻刺秦”的故事。
《烽火》一節中，平氏集團首領平忠盛向部下講述周幽王“烽火戲諸侯”的典故。不過，作者對這一典故的評價似與司馬遷不同。司馬遷在《史記》所錄，着眼於為君之道，望後世之君以此為鑑；而平忠盛所述，旨在規範武士的行為，告誡武士要絕對服從主君命令，應以周幽王部下不聽指揮的諸侯王為鑑。這種差異，由時代背景所決定。當時，以主從關係為紐帶的武士集團，為加強戰鬥力，要求武士養成武勇、絕對服從等性格。需要指出的是，日本中世的武士倫理，是在吸收“忠孝節義”儒家倫理規範基礎上逐漸形成的，與近世以後的武士道不可同日而語。以上例子不難發現，日本文學作品對《史記》並非一味模仿照搬，而是以自身文化與時代背景對其進行解讀或重塑。
中世之後，仍有日本作家從《史記》中汲取營養。如明治時代的大文豪夏目漱石就曾表示，他是從《史記》等漢籍中“朦朧地懂得了文學是什麼”。著名作家武田泰淳的《司馬遷——史記的世界》，評介《史記》，更慨嘆《史記》所展現的人生苦難。這樣的悲憫情懷，使作者塑造的司馬遷形象有血有肉、宛然在目。
回溯《史記》在日本文學中走過的足跡，能感受它穿越時空的文學魅力和影響力。歷經千年歲月，《史記》已深深植根並滋養着日本文學土壤，而日本文壇對《史記》的推崇與再創，也使之煥發出新的生命力。日本文學中的《史記》投影，成為中日文化交流百花園中的一朵奇葩。