吴隐之，字处默，祖籍濮阳鄄城，是吴质六世孙。吴隐之还有一个胞兄吴坦之。吴隐之家境贫寒，其父母早逝，兄弟俩相依为命。

吴隐之年轻的时候，博览群书，以孝著称于世。相传，他和哥哥吴坦之为去世的父母哭丧时，其悲声惨切，不但令行人为之流泪，而且出现了双鹤哀鸣、群雁不飞的情景。
   

后来，吴隐之兄弟因孝名远扬，被朝廷征召做了官。吴隐之兄弟间感情真挚，东晋大司马桓温专权时，袁真对其不满，起兵反叛，最后失败了。吴坦之因支持袁真受牵连而被桓温逮捕，即将被除死。吴隐之听说后，急忙赶去面见大司马桓温，情愿替兄赴死。使桓温被感化了，从而赦免了吴坦之，吴隐之也因此受到大司马桓温的赏识。吴隐之官职屡次升迁，后来出任为晋陵郡(今江苏镇江)太守。在太守任上，他勤于政事，为官清廉，生活简朴。平时穿布衣，出门不坐车子，他的妻子虽贵为太守夫人，也是亲自纺纱织布，就连到集市上买的劈柴都自己背回家。相传吴隐之的女儿出嫁时，他的朋友谢玄不知道他家拮据，派有名的厨师前去帮忙操办婚事。厨师到他家后发现他家几乎穷得一无所有，家人正牵着一条狗准备去卖钱，换取嫁女的费用。后来吴隐之升为秘书监，生活依然清苦。所得俸禄大都接济了贫穷的亲戚朋友，冬天到了甚至连棉被都没有，像普通老百姓一样贫苦。
   

位于五岭之南的广州地区，盛产象牙、珍珠和名贵药材。历任广州刺史大都贪泞受贿，搜刮百姓，使得民怨沸腾，简文帝司马昱为改变此弊端，决定委任清官吴隐之为龙骧将军、广州刺史。吴隐之赴广州上任途中，在距广州20里的地方，有一个名叫石门的小镇，那里有一股涌泉叫石门水。据说，外地人一旦饮了这里的泉水，便会起贪心，干出伤天害理的勾当，人们都称它为贪泉。历任广州刺史东窗事发后，都以误饮贪泉为借口为自己开脱罪责。吴隐之到达此地后，他认为官吏贪不贪，关键在于心术正不正。他掬水而饮。饮过贪泉水，还做了一首诗以表明心志，诗中写道：“古人云此水，一歃怀千金。试使夷齐饮，终当不易心。” 
   

吴隐之到任后，严格要求自己，生活非常简朴。起初，人们认为刺史不过是在装模作样罢了。可是一年过去了，吴隐之仍一如既往，时常以贪泉的事来警诫自己。一天，随从送来一包剔骨的鲜鱼，他立刻警觉起来，拒绝接收这份礼物，并严厉警告说：“一定要以身作则，不吃请，不受贿。如再发生此类的事，必定要严加惩罚。”在吴隐之的感召下，广州地区风气为之一变，官吏奉公守法，百姓安居乐业，民风也淳正了。
    吴隐之饮贪泉而不贪的行为，不但受到东晋皇帝的嘉奖，也备受后人称赞。唐代名臣魏征编修《晋书》时，为清官吴隐之写下了“晋代良能，此焉为最”的评语。如今广州越秀博物馆内，仍竖有一块刻着“贪泉”两个大字的石碑，这是广州老百姓为纪念清官吴隐之的趣闻佳话而立的。