据《汉书》记载“陈汤字子公，山阳瑕兵人也。少好书，博达善属文。家贫丐贷无节，不为州里所称……汤待迁，父死不奔丧，司隶奏汤无循行……”
陈汤幼时家贫，只能靠乞讨借贷维持生计，被百姓们认为没有节操，后来陈汤的父亲去世，陈汤却不回家奔丧，也被世人所不齿，当时人们对奔丧、守孝这样的事情非常看重，陈汤的行为显然是个“不孝子”，因此被逮捕入狱了。
但陈汤的才能很大，后来经人大力举荐，陈汤被任为郎官，陈汤之后主动请求出使外国，因此在几年后被任为西域都护府副校尉。
众所周知，汉武帝时期，匈奴被汉朝打惨了，西逃的西逃，投降的投降，不过投降的匈奴与汉朝间还存在不少暗涌，汉宣帝在位时（前74年—前48年），匈奴五个单于为争夺王位，都把儿子送到汉朝当人质。
初元四年（前45年），匈奴郅支单于派出使者到汉朝进贡，要求带走入侍的儿子，表示愿意归附汉朝廷，汉元帝便派出卫司马谷吉去护送侍子，当时御史大夫等人考虑到匈奴人对汉朝微妙的态度，认为将侍子送到边境地区就可以。
谷吉向皇帝上书称汉朝抚养了郅支单于的儿子十年，恩泽很厚，但只是送到边塞返回，其中含有抛弃他不再爱护的意思，也就让匈奴人失去了归附的心意，前功尽弃。谷吉讲到“如果他怀有禽兽之心，对臣施行无道，那么单于就长期背负深罪，一定逃得远远的，不敢靠近边境。失去一个人而使百姓安定，是国家的利益，臣下的愿望。”
因此汉元帝同意谷吉将侍子送到郅支王庭，结果郅支单于背信弃义，将谷吉等人杀害，后投奔了康居，汉朝廷也派遣过三批使者去问郅支单于要谷吉等人的尸体，但郅支单于却困住使者并羞辱他们。
汉元帝非常生气，想效仿汉武帝，可他的手下却没有霍去病等人的气魄，朝廷的臣子大多也赞同忍让，这事也就搁浅了。
建昭三年（公元前36年），陈汤与出生名门的将领甘延寿一同出使西域，陈汤一直很想立下赫赫战功，他每经过都城小镇、高山大河，就爱爬到高处瞧瞧。
后来陈汤接到出使外国的差事，就同甘延寿说：“夷狄畏惧服从大部落，这是他们的天性……而且他们的人都剽悍，喜欢打仗，经常取得胜利，如果长期放纵他们，一定会成为西域的隐患……不过蛮夷没有坚固的城墙和强劲的剑弩用来自守，如果发动屯田的官兵，率领乌孙的部队，一直打到他们城下，他们逃亡又没有可去的地方，坚守又不能白保，千载功业可以一朝而成。”
甘延寿觉得陈汤言之有理，准备向朝廷上奏请示，陈汤则告诉甘延寿，这时让朝廷定夺，肯定得不到批准，甘延寿便有些犹豫，而甘延寿刚好有病在身，陈汤并假传圣旨调令了城镇的各国军队以及车师国戊己校尉屯田的官兵。
甘延寿得知后非常惊恐，但事已至此，开弓没有回头箭，甘延寿于是和陈汤率着军队去打夷狄了，放走了康居在乌孙抢走的470名百姓，并将得到的马、牛、羊用来供给军用。
到了康居的束部边界，陈汤又先确认此时的情况，然后直抵达郅支城，郅支单于刚开始听到汉军来了，心中惊恐想要逃走，但他转念一想认为汉朝廷的将军都什么气魄，搞不出大事，就打算让汉军知难而退，这样郅支单于还能扬名，汉朝将来恐怕更要低着头。
当时康居的军队有1万多起兵，然而陈汤与郅支单于一战中，陈汤赢了，郅支单于被斩杀，此战之后，再没有哪个国家敢在中国边境惹事，陈汤也被称为千古名将。
打了胜仗后，陈汤向皇帝上奏：“臣等听说天下的大道理，应当是天下一统，以前有唐和虞，如今有强汉……宜县头槁街蛮夷邸间，以示万里，明犯强汉者，虽远必诛。”陈汤的这句“明犯强汉者，虽远必诛”也成现今年轻人的口头禅。
但假传圣旨的事可不小，虽然陈汤为汉朝出了一口恶气，朝中有些臣子也敬佩陈汤，汉元帝的内心嘉许甘延寿、陈汤的功劳，可重臣们的意见也不可不听，最终汉元帝还是决定给陈汤、甘延寿奖赏。
不过陈汤却一直被丞相匡衡等人记恨，汉成帝、汉哀帝登基后多次弹劾陈汤，而人无完人，陈汤也有可供匡衡攻击的地方，后来汉成帝将陈汤发配至敦煌，敦煌太守却上书说：“陈汤以前亲自诛杀了郢支单于，在外国威望很大，不适宜接近边塞。”
此时陈汤已经年老，议郎耿育等人心中都是敬佩陈汤的，又上书皇帝请求让陈汤回到长安，汉哀帝便让陈汤回去了，陈汤最后也是死在长安。
他一生仅打一场胜仗，却被称为千古名将，说了句话成年轻人口头禅