“陳橋兵變”後，儘管宋太祖已黃袍加身，但“廢置天子，變易朝廷”之類的軍事政變，仍有可能重演。當時禁軍的九名高級統帥，或是太祖稱帝前的結拜兄弟，或是趙宋集團的中堅人物，他們在趙宋集團的崛起和“陳橋兵變”中均有極大貢獻，是集兵權、功勳於一身的趙氏王朝的開國元勳。
功高則震主，權大則不測。這種功高權重的情形，對太祖及其子孫的皇位，確乎是一個潛在的威脅。太祖有一句名言：“卧榻之側，豈容他人酣睡?”這雖然是針對南唐政權而言的，卻也把他對功臣近侍的戒備之心，表露得淋漓盡致。對南唐可以用武力征伐，但對手下的開國元勳怎樣處置，讓深諳機謀的宋太祖非常棘手。
建隆二年(961)七月，太祖召見趙普問道：“為什麼從唐末以來，數十年間帝王換了八姓十二君，爭戰無休無止?我要從此息滅天下之兵，建國家長久之計，有什麼好的辦法?”
趙普回答道：“陛下深謀遠慮，提出這一問題，此乃天地人神之福也。唐末以來皇祚數移，兵革不休，戰亂頻仍，根本原因就在於方鎮勢力太大，君弱臣強。現在要革除這一弊端，唯有削奪方鎮的權力，控制他們的財政，收編他們的精兵，這樣天下自然就安定了。”趙普的話還沒説完，太祖就連聲説：“你不用再説，我全都明白了。”
一天晚朝結束，太祖把石守信、高懷德等禁軍高級將領留下來喝酒，喝到酒酣耳熱之際，太祖突然屏退左右侍從，推心置腹地向他們訴起了衷腸。他説：“若不是靠你們出力，我是到不了今天這個地位的，為此，我從內心念及你們的功德。但是，做皇帝也太艱難了，還不如做個節度使快樂，不瞞各位説，這一年來，我從來都沒有睡過一個安穩覺!”
石守信等人聽了，忙問：“這是什麼緣故?”太祖不慌不忙地繼續説：“這不難知道。我這個皇帝位置，誰不想坐坐呢?”石守信等人聽出了話中之音，連忙叩頭説：“陛下何出此言，現在天命已定，誰還敢有異心呢?”太祖説：“不然，你們雖然無異心，然而你們部下想要富貴，一旦把黃袍加在你的身上，你即使不想當皇帝，到時也身不由己了。”
一席話，軟中帶硬，將領們知道自己已經受到猜疑，弄不好還會引來殺身之禍，頓時冷汗淋漓，一邊流淚，一邊叩頭，請太祖給他們指明一條明路。太祖緩緩説道：“人生在世，有如白駒過隙，所有追求富貴的人，不過是想多聚些金錢，多有些享樂，使子孫後代免於貧困而已。你們不如放棄兵權，多買些良田美宅，為子孫置下永久的產業。同時多買些歌兒舞女，日夜飲酒相歡，以終天年，我再同你們結為兒女親家，君臣之間，兩無猜疑，上下相安，豈不是很好嗎?”
石守信等人見太祖已經把話講得這樣明白，只得俯首聽命，表示感謝太祖的恩德。第二天，侍衞親軍司馬步兵都指揮使石守信、都虞侯張令鐸、殿前司副都點檢高懷德、都指揮使王審琦等，都上表聲稱自己有病，要求解除軍職，宋太祖欣然同意，讓他們罷去禁軍職務，到地方上去任節度使。
與此同時，太祖廢除了殿前都點檢和侍衞親軍馬步軍都指揮司。禁軍分別由殿前都指揮司、侍衞馬軍都指揮司和侍衞步軍都指揮司，即所謂“三衙”統領。另選一些資歷較淺、威望不高、容易控制的人擔任禁軍將領，分別掌管三衙。這三衙又互不統屬，互相牽制，這樣，軍權就牢牢掌握在皇帝手裏了。
後來，太祖還果真兑現了互聯姻親的諾言，把守寡的妹妹嫁給高懷德，把自己的兩個女兒分別嫁給石守信和王審琦的兒子，還讓三弟光美做了張令鐸的乘龍快婿。君臣無猜，共保富貴，這就是歷史上著名的“杯酒釋兵權”。
上述故事主要取自司馬光的《涑水記聞》，後來李燾的《續資治通鑑長編》也作了詳細記載，再後來，幾乎所有相關的歷史書籍都一遍又一遍地重複這個故事，很少有人提出懷疑。
現存“杯酒釋兵權”的最早記載，是北宋真宗時的宰相丁謂所寫的《丁晉公談錄》和北宋仁宗時宰相王曾的《王文正公筆錄》。
丁謂的《談錄》記述了趙匡胤與趙普的一段對話。宰相趙普對太祖趙匡胤説：“禁軍統帥石守信、王審琦兵權太重，不能再讓他們領兵了。”趙匡胤聽後不以為然，説道：“石、王這兩位老將是我多年的老朋友，難道還怕他們造反嗎?”趙普説道：“石、王這兩位老將肯定不會造反。但他們缺乏統帥才能，日後肯定製伏不了部下。如果其屬下將官要造反的話，他們也會身不由己的。”太祖仍然表示懷疑地説：“這二人受國家如此重用和恩惠，難道會有負於我?”趙普從容答道：“只怕就如陛下，怎麼也負於周世宗了呢?”太祖頓時大悟，就聽從了趙普的提議，罷了兩人的兵權。
這段記載説明，太祖是在被趙普説服後，才開始按照趙普的建議着手進行解除兵權的。其中並沒有戲劇性的“杯酒釋兵權”故事發生。
王曾的《筆錄》中就出現了“杯酒釋兵權”的雛形。他是這樣描述的：相國趙普屢以為言，太祖於是不得已召來石守信等到宮中酒宴，談到過去彼此親密無間的快樂往事時，乘機進言：“我與諸位，兄弟相稱，義同骨肉，哪裏有什麼芥蒂?但是言官們進説不已，我也不得不有所考慮，以今天的情況講，不如各位自選風水寶地，出守外藩，世襲官爵，租賦所入，也足以自奉，這樣優哉遊哉地安度晚年，不亦樂乎?我後宮中有幾個女兒，當與諸位的公子攀親，以示君臣無間。諸位看如何?”
石守信等人都心領神會，叩首稱謝，於是石、高、王諸人各歸藩鎮，俱蒙皇親婚約，後二十多年，仍貴裔顯赫。
這段記載説明，“杯酒釋兵權”的故事，首次出現於仁宗時期，但情節較為簡略;直到神宗時期的《涑水紀聞》，故事才變得有聲有色起來。
與司馬光大體同時的王鞏在《聞見近錄》中也有一段類似的記載：“太祖即位，方鎮多偃蹇，所謂十兄弟者是也。上一日召諸方鎮，授以弓劍，人馳一騎，與上私出固子門大林內，下馬酌酒。上語方鎮曰：‘此處無人，爾輩要作官家者，可殺我而為之。’方鎮伏地戰慄。上再三諭之，伏地不敢對。上曰：‘爾輩既欲我為天下主，爾輩當盡臣節，今後無復偃蹇。’方鎮再拜呼萬歲。”
這段故事很有趣味，草莽氣十足，很有點像“馬上得天下”的趙匡胤的做派。由於司馬光名氣太大，使這段西方決鬥式的林中對決反而湮沒無聞了。從20世紀30年代開始，有學者對史料仔細考證後，對“杯酒釋兵權”這一生動的歷史故事提出了有力的質疑。
首先，《談錄》只講罷石守信、王審琦二人的兵權，並無設宴請客這一情節。而《筆錄》記載罷去兵權的夙將，除了石守信、王審琦外，還有其他幾位將領，並增添了太祖設宴與夙將“道舊相樂”的情節。
後世所謂“杯酒釋兵權”一説，基本上都出於此。《涑水紀聞》則稱石守信、王審琦等皆被罷軍權，以散官就第，而又大事鋪張設宴道舊情節，繪聲繪影，恍如身歷其境。看來，該故事經歷了一個從無到有、由簡到繁的遞增過程。距離當事人的時代愈遠，記載卻愈加生動詳細，顯然，是編寫人為了把故事寫得生動有趣，不斷添加、潤色的結果。
其次，三書都説此事與趙普有關，但説法卻不一致。據《談錄》，罷石守信、王審琦的兵權是宋太祖聽了趙普一次談話之後決定的;據《筆錄》，則是在趙普多次苦諫之下，太祖“不得已”才同意的;而到了《涑水紀聞》，卻是太祖、趙普兩人共同謀劃的結果。
第三，上述三種史料，對石、王被削去兵權後的出路，説法也各不相同，有的只説“不令石、王主兵”，有的説他們“尋各歸鎮”，有的則説他們“皆以散官就第”。到底他們“釋兵權”之後幹什麼去了，沒有可以取信於人的一致的説法。
第四，“杯酒釋兵權”這樣一件大事，在北宋史官修的《太祖實錄》和《三朝國史》中不見片語。元末，根據《太祖實錄》、《三朝國史》等編成的《宋史·太祖記》，對此事也不着點墨，如果真有這件值得當時稱頌的大事，《實錄》、《國史》是不會不書的。
第五，“杯酒釋兵權”這件事究竟發生在北宋哪一年，以上三本書均沒有記載，而比司馬光還晚一百多年的李燾在《續資治通鑑長編》裏説它發生於建隆二年(961)七月。
仔細閲讀《宋史》可以發現一個很大的漏洞，建隆二年六月甲午(初二)太祖母杜太后病逝，六月初到七月初，按照當時的慣例，應是國喪期間，當時朝廷上下不準作樂，更不準宴飲。
趙匡胤不可能違反這種禮儀，而且“杯酒釋兵權”故事説趙普正擔任宰相，而建隆二年時，趙普的職位僅為樞密副使，三品，還不足以同趙匡胤密謀大事。他第一次拜相是在乾德二年(964)，這已是“杯酒釋兵權”之後三年了。
所以，許多學者認為，“杯酒釋兵權”這件事雖然聽起來很有趣味，但經不起推敲，應該是子虛烏有的。另一些學者認為，“杯酒釋兵權”對宋代的政治、軍事歷程都產生過重大影響，不可能是杜撰出來的。
“杯酒釋兵權”經歷了一個從簡到詳的發展過程，也許可以成立，但説它經歷了一個從無到有的編造過程，則是不能成立的。其實，我們可以忽略“杯酒”的細節，而關注“釋兵權”的本質。
總之，太祖削奪兵權、改革兵制的一系列措施，有效地保證了宋朝軍隊的長期穩定，徹底結束武人亂政的動盪局面，其成效是不言而喻的。
但其負面作用也不容忽視，北宋一代，武人以保身全名為大幸，太宗以後幾無名將，唯一值得稱道的狄青也遭猜忌而死。其後，在面對女真族猝然南侵的凌厲攻勢時，北宋王朝轟然倒塌。