據《漢書》記載“陳湯字子公，山陽瑕兵人也。少好書，博達善屬文。家貧丐貸無節，不為州里所稱……湯待遷，父死不奔喪，司隸奏湯無循行……”
陳湯幼時家貧，只能靠乞討借貸維持生計，被百姓們認為沒有節操，後來陳湯的父親去世，陳湯卻不回家奔喪，也被世人所不齒，當時人們對奔喪、守孝這樣的事情非常看重，陳湯的行為顯然是個“不孝子”，因此被逮捕入獄了。
但陳湯的才能很大，後來經人大力舉薦，陳湯被任為郎官，陳湯之後主動請求出使外國，因此在幾年後被任為西域都護府副校尉。
眾所周知，漢武帝時期，匈奴被漢朝打慘了，西逃的西逃，投降的投降，不過投降的匈奴與漢朝間還存在不少暗湧，漢宣帝在位時（前74年—前48年），匈奴五個單于為爭奪王位，都把兒子送到漢朝當人質。
初元四年（前45年），匈奴郅支單于派出使者到漢朝進貢，要求帶走入侍的兒子，表示願意歸附漢朝廷，漢元帝便派出衞司馬谷吉去護送侍子，當時御史大夫等人考慮到匈奴人對漢朝微妙的態度，認為將侍子送到邊境地區就可以。
谷吉向皇帝上書稱漢朝撫養了郅支單于的兒子十年，恩澤很厚，但只是送到邊塞返回，其中含有拋棄他不再愛護的意思，也就讓匈奴人失去了歸附的心意，前功盡棄。谷吉講到“如果他懷有禽獸之心，對臣施行無道，那麼單于就長期揹負深罪，一定逃得遠遠的，不敢靠近邊境。失去一個人而使百姓安定，是國家的利益，臣下的願望。”
因此漢元帝同意谷吉將侍子送到郅支王庭，結果郅支單于背信棄義，將谷吉等人殺害，後投奔了康居，漢朝廷也派遣過三批使者去問郅支單于要谷吉等人的屍體，但郅支單于卻困住使者並羞辱他們。
漢元帝非常生氣，想效仿漢武帝，可他的手下卻沒有霍去病等人的氣魄，朝廷的臣子大多也贊同忍讓，這事也就擱淺了。
建昭三年（公元前36年），陳湯與出生名門的將領甘延壽一同出使西域，陳湯一直很想立下赫赫戰功，他每經過都城小鎮、高山大河，就愛爬到高處瞧瞧。
後來陳湯接到出使外國的差事，就同甘延壽説：“夷狄畏懼服從大部落，這是他們的天性……而且他們的人都剽悍，喜歡打仗，經常取得勝利，如果長期放縱他們，一定會成為西域的隱患……不過蠻夷沒有堅固的城牆和強勁的劍弩用來自守，如果發動屯田的官兵，率領烏孫的部隊，一直打到他們城下，他們逃亡又沒有可去的地方，堅守又不能白保，千載功業可以一朝而成。”
甘延壽覺得陳湯言之有理，準備向朝廷上奏請示，陳湯則告訴甘延壽，這時讓朝廷定奪，肯定得不到批准，甘延壽便有些猶豫，而甘延壽剛好有病在身，陳湯並假傳聖旨調令了城鎮的各國軍隊以及車師國戊己校尉屯田的官兵。
甘延壽得知後非常驚恐，但事已至此，開弓沒有回頭箭，甘延壽於是和陳湯率着軍隊去打夷狄了，放走了康居在烏孫搶走的470名百姓，並將得到的馬、牛、羊用來供給軍用。
到了康居的束部邊界，陳湯又先確認此時的情況，然後直抵達郅支城，郅支單于剛開始聽到漢軍來了，心中驚恐想要逃走，但他轉念一想認為漢朝廷的將軍都什麼氣魄，搞不出大事，就打算讓漢軍知難而退，這樣郅支單于還能揚名，漢朝將來恐怕更要低着頭。
當時康居的軍隊有1萬多起兵，然而陳湯與郅支單于一戰中，陳湯贏了，郅支單于被斬殺，此戰之後，再沒有哪個國家敢在中國邊境惹事，陳湯也被稱為千古名將。
打了勝仗後，陳湯向皇帝上奏：“臣等聽説天下的大道理，應當是天下一統，以前有唐和虞，如今有強漢……宜縣頭槁街蠻夷邸間，以示萬里，明犯強漢者，雖遠必誅。”陳湯的這句“明犯強漢者，雖遠必誅”也成現今年輕人的口頭禪。
但假傳聖旨的事可不小，雖然陳湯為漢朝出了一口惡氣，朝中有些臣子也敬佩陳湯，漢元帝的內心嘉許甘延壽、陳湯的功勞，可重臣們的意見也不可不聽，最終漢元帝還是決定給陳湯、甘延壽獎賞。
不過陳湯卻一直被丞相匡衡等人記恨，漢成帝、漢哀帝登基後多次彈劾陳湯，而人無完人，陳湯也有可供匡衡攻擊的地方，後來漢成帝將陳湯發配至敦煌，敦煌太守卻上書説：“陳湯以前親自誅殺了郢支單于，在外國威望很大，不適宜接近邊塞。”
此時陳湯已經年老，議郎耿育等人心中都是敬佩陳湯的，又上書皇帝請求讓陳湯回到長安，漢哀帝便讓陳湯回去了，陳湯最後也是死在長安。
他一生僅打一場勝仗，卻被稱為千古名將，説了句話成年輕人口頭禪