1952年，37歲的陳永貴接替主動讓賢的原支部書記賈進才，出任山西省昔陽縣大寨村的黨支部書記，他無懼自然環境之非常惡劣，帶領農民艱苦創業，從山下用扁擔挑土上山造田。
他制定了治山治水十年規劃，首戰白駝溝，三戰狼窩掌……創造了令人驚歎的大寨精神。
1959年10月，44歲的陳永貴，參加建國十週年大慶活動，登上了天安門觀禮台。
1960年2月，山西省委發出號召；向模範黨支部書記陳永貴學習。
從此陳永貴的名字經常見諸報端。
陳永貴
1963年是大寨的“七災八難”年，特大洪水、兩次風災，一次雹災，一次霜凍，加上洪災前的一段乾旱，春播時的澇災，大寨被蹂躪得泥濘不堪，面目全非。但大寨人憑着自力更生的精神，發展生產，重建家園。
這個大災之年，大寨糧食畝產704斤，總產量達到了56萬斤，不但沒要國家一分錢救濟，而且還向國家繳了24萬斤商品糧。當年年底，大寨村社員們永遠結束了住土窯的歷史，全部搬進石窯新房。
1964年3月28、29日，毛主席到河北邯鄲，停車於邯鄲火車站，聽取了河北省委書記林鐵和山西省委書記陶魯笳的工作彙報。
陶魯笳彙報了他在昔陽蹲點的情況。陶魯笳詳細地向毛主席介紹了陳永貴。
毛主席饒有興趣地聽了陶魯笳的介紹，還問：“陳永貴是哪幾個字？他識不識字？”
陶魯笳當即在紙條上寫了“陳永貴”三個字，並説：“陳永貴，42歲掃盲，今年50歲，現在能讀報，還懂得什麼叫‘邏輯’。不久前陳永貴在太原作報告，趙樹理聽了很佩服，對我説，陳永貴的講話沒有引經據典，但他的觀點完全符合毛澤東思想和辯證法。”
著名作家趙樹理給省委書記陶魯笳説的原話是：“他沒有一處講到毛澤東，卻處處都是毛澤東思想，沒有一處提到哲學，卻處處都是辯證法，我佩服得五體投地，人才啊！陳永貴了不起！”
毛主席聽完山西省委書記陶魯笳關於陳永貴事蹟的彙報後，還特意要了陳永貴的事蹟材料。毛主席看完了材料，對陳永貴和他在大寨建立的勞動分配製度非常讚賞。
毛主席讓將陳永貴的事蹟材料傳到中央，在中央第一線工作的鄧小平看了這份事蹟材料後，對陳永貴的看法和毛澤東一致，對陳永貴評價也很高。不久，陳永貴到北京作報告，場場爆滿，反響很好，鄧小平十分高興。
此後，中央領導人不約而同地到大寨視察，他們以這種方式表達對大寨和大寨領頭人陳永貴的肯定。
1964年12月26日，三屆人大一次會議期間，毛澤東邀請了作為中國新型農民代表的陳永貴參加了自己的生日宴會。毛澤東的生日宴會在人民大會堂舉行，一間不大的房子裏，品字形地擺了三張桌子。毛澤東在上方的一桌，陳永貴極榮幸地被安排在毛澤東身邊就座。
吃飯的時候，毛澤東對陳永貴笑道：“你是農業專家噢。”陳永貴聽不懂毛澤東的湖南話，只是一個勁地連連點頭，咧着嘴使勁笑。有人在一旁解釋道：“主席説你是農業專家。”陳永貴聽了立刻又搖起頭來：“不，不，我不是農業專家，不是農業專家。”
1967年五一勞動節，毛澤東登上了天安門。陳永貴被請到毛澤東身邊。毛澤東拉着他的手問候道：“永貴好！永貴好！”
當時，各大報紙在醒目的地方登了“永貴好！永貴好”，一些報紙把它套紅印在了報眉上。
毛主席與陳永貴握手
陳永貴的官職也越來越多、越來越高，從大寨黨支部書記，到同時兼任昔陽縣委書記、晉中地委書記、山西省委副書記等職。
1975年1月，陳永貴赴京參加第四屆全國人大一次會議，周恩來在會上作了《政府工作報告》後回到醫院，通知他馬上去一趟。周恩來一見陳永貴，開口就説：“這次找你來，就是安排人大的事。你要有所準備，當國務院副總理，把大寨精神推向全國，怎麼樣？”
陳永貴聽後一愣，忙説：“總理，我文化水平不行，實在是當不了這個副總理！”
周恩來態度嚴肅地説：“看你永貴，你是不是黨員？是黨員就得接受黨的安排。”
就在這次會議上，陳永貴當選為國務院副總理，分管全國農業。當時共有12位副總理，陳永貴排名第7位。
陳永貴當上了國務院副總理，但是他堅持不遷户口，也不拿國家工資。沒有城市户口就沒有糧票，每年秋後大寨分糧食，要專門拿出陳永貴的那份口糧送到公社糧店，換成全國糧票給陳永貴捎去。
當時，中央有關部門安排陳永貴住在釣魚台3號樓。
1975年5月初，陳永貴給毛澤東寫了一封信，請求批准他經常下去跑跑，三分之一的時間在昔陽抓點，三分之一的時間在全國跑面，剩下的三分之一時間在北京。
在這封信裏，陳永貴還向毛澤東申請搬出釣魚台。
1975年5月3日，毛澤東親自召集在京的政治局委員開會。他走進會議室，在沙發上坐下，開口就問：“永貴同志在哪裏啦？”陳永貴忙站起來回答。接着，毛澤東讓陳永貴坐到了自己身旁。
此時，毛澤東把陳永貴寫給他的那封關於搬出釣魚台和三個三分之一工作計劃的信還給陳永貴。陳永貴接過來一看，只見上邊有毛澤東的親筆批示：“同意。釣魚台無魚可釣。”
毛澤東對陳永貴説：“你那個三三制很好呀！”“深入實際，調查研究嘛！”
1975年8月中旬，陳永貴從釣魚台搬到了交道口一條衚衕的小院裏。
陳永貴是國務院副總理，家人卻沒跟上享福，嚴於律己的他叫妻子帶着孩子在大寨掙工分，連城市户口也不給她們轉。山西地方上的領導曾經揹着陳永貴給他的家屬轉過户口，還想把她們送進京，手續全辦了。陳永貴獲悉後拍桌子吼道：“誰辦的！我不同意！誰敢！”結果，此事自然就黃了。
陳永貴當上副總理後，其妻宋玉林一直在村裏辦的託兒所給人看孩子。到大寨來參觀的國家領導人和外國客人提出要見她，她不好意思，覺得自己衣服也不乾淨，穿得也不好，就到處東躲西藏。可是陳永貴不在乎，非要找她出來不可，並對她説：“你有什麼不好意思見人的？勞動最光榮。”還開玩笑道：“有人造謠，説我娶了個20多歲的大姑娘，你也讓大家看看嘛。”
搬出釣魚台，按規定應該給陳永貴配一名服務員。陳永貴拒絕説：“來一個年輕姑娘挺不方便的，算啦。”中央有關部門説可以派個歲數大的，陳永貴又説：“歲數那麼大還侍候我，多不合適。”亦婉謝拒絕之。
身為副總理的陳永貴竟然有時自家的口糧不夠吃，就多吃些雜麪。
宋玉林心疼丈夫，經常單獨給他做碗白麪麪條吃。可是後來她發現，給陳永貴盛一大碗他説吃不了，改盛一小碗他還説吃不了———他是要分出一些來給她和孩子們吃。
陳永貴身邊的工作人員覺得他窮，想給他增加點收入，就申請報客飯補助。陳永貴搬出釣魚台以後客人多了，昔陽的幹部、各地的勞模、國務院的同事常來，按説這筆客飯補助也是個不小的數了。國務院正好也有這方面的規定，一申請就批了下來。但陳永貴卻拒絕報銷，説，“我的客人讓國家報？退掉！”
到了植樹季節，身為副總理的陳永貴經常參與植樹。一次，他從警衞班的戰士手中抓過鐵鎬麻利的挖樹坑，身手比年輕人還麻利呢。
他手上的老繭，厚到抓上一把荊棘都感覺不到疼。
陳永貴視察雲南、貴州，返回時發現隨行人員帶的有云煙和茅台，發了一通火讓人家務必把錢寄過去。
到拉薩視察，陳永貴不去布達拉宮參觀。他説：“莊稼地是最有看頭的東西。紅旗招展、人歡馬叫的農田建設場面，才是最美的！”
作為國務院副總理，自然少不了參加一些外事活動。在外事活動中外賓有時也送給陳永貴一些小禮物，比如計算器之類的東西。這類禮物陳永貴一律上交，兩袖清風，不染纖塵。
現在好多人説陳永貴沒文化，那是歷史造成的，但是他講話的水平不得了，他在全國各地的講話有記錄，水平不亞於大學教授水平，經常一講就是幾個小時，沒稿子且特別生動，大人小孩在下面聽都不瞌睡。
1980年9月，在全國人大五屆三次會議上，陳永貴請求辭去國務院副總理的職務，大會同意了他的申請。之後在北京東郊農場擔任顧問。1986年3月26日，陳永貴因病醫治無效在北京病逝，享年71歲。
臨終時，陳永貴掉着眼淚對家人説：人是註定要死的，我沒有給毛主席丟臉。我作為一個農民，成為黨中央的政治局委員，誰能想到呢？我敢説，我是前無古人，後無來者的一個農民。
曾任中國作協黨組書記的作家馬烽著文講過他向陳永貴遺體告別的情形：
“1986年3月間，我到北京參加全國人代會，聽説陳永貴病了，住在北京醫院裏。我正打算去探視他，忽然收到一份訃告：陳永貴已經病逝，死於癌症，定於某月某日下午在八寶山殯儀館舉行告別儀式。我又是吃驚，又是遺憾，我覺得無論如何也應該去和他告別，為他送行。那天下午我請了假，匆匆趕到了八寶山殯儀館。小車開到追悼會大廳門口，只見門外冷冷清清空無一人。我以為是把時間看錯了，再看訃告，時間、地點都沒錯。後來司機同志説後院還有幾個小廳，也可能在那裏。當我們把車開那裏時，我發現大寨的賈承讓等一些幹部都坐在台階上抽煙。
這時，一輛高級轎車在告別室外停下，車上下來一位穿着風衣、戴着變色眼鏡的人。周圍的老百姓立刻認出來了，是華國鋒！於是人們擁過來，不知不覺地在華國鋒前邊站成了一道走廓，有的人還鼓起掌來。華國鋒一來，大廳的門打開了，我們魚貫而入。華國鋒一言不發地走進告別室，在陳永貴的遺體前三鞠躬，又一言不發地呆呆望着陳永貴的遺體，流下淚來。圍觀的人靜靜的，有的人抽泣起來。中央辦公廳來的一位幹部手足無措，不知如何是好。華國鋒仍不説話，流着淚慢慢地繞着陳永貴走了一圈，又一言不發地與陳永貴的親屬一一握手，然後還是一言不發地走出告別室，上車走了。”
馬烽説：“陳永貴安安靜靜地躺在大廳中央的花叢中，削瘦的面部雖然化了妝，但掩蓋不住滿臉橫七豎八的皺紋，這些皺紋刻劃出了他一生的經歷。當我帶着沉重的心情走出追悼會大廳的時候，我突然想到應該帶一瓶汾酒來，灑在他的遺體前。我和他是二十年前在一起喝酒相識的，也應當以酒告別。可惜我事先沒想到，深感遺憾。”（劉繼興）