高之人的虚职,不执掌具体事务,只是出入宫廷备皇帝顾问,西太一宫 使也是虚衔,吴充尚未退休,受此殊荣,足见宋神宗对他的宠信。但吴充因病情继续恶化,回家一个多月后就病逝了,享年六十岁。吴充死后,朝廷赠官为司空兼侍中,谥号"正宪"。
吴充本性谨慎,爱静不爱动。他心地善良,为人忠厚,非常小心地侍奉兄长们,故吴家兄友弟悌,堪为人表。他处世深沉、严守机密,从不与家人谈论国家事务,他对皇帝讲的话,从来不向别人透露。吴充临终之前告诉妻子儿女,不要因自己的私事干预朝廷的政务。当时,吴充罢相在家,生怕自己受到同僚的诘难而牵连到家庭,或者引起家人的不满,因此,告诫家人,不要以他的荣辱冒犯朝廷,也不要向朝廷求取什么。宋神宗听说吴充的临终遗言后,更觉哀伤悲痛。吴充此举,对他死后仍然保持着生前的荣誉地位起了很大的作用。
世人对吴充的价,都认为他心地纯正,是个好人,但又认为他政治魄力不够。担客观而言,吴充从任副宰相到宰相之职,参与军国大政十年,长期周旋于水火不容的改革派与保守派之间,作为政治上的中立派,要平衡对立双方的关系,确实很难。换个角度说,王安石变法期间能用吴充这样的中间派来缓冲保守派的攻击,表现了大政治家的风度,而保守派上台后,却不能容纳吴充这样的中间派,从而造成北宋政坛的大起大落及长期的政局危机,为一批奸佞之人钻进权利中心创造了条件。因此,宋中后期政坛大变动造成的社会危机,变法反对派似应承担更多的责任。从这个意义上说,吴充十年为相,乃时势使然,更从反面说明在王安石变法期间吴充不可替代的作用。
吴充生三子四女,长子吴安诗,在宋哲宗元;占年间(1086~1093)任谏者、起居郎,为侍从皇帝记录皇帝言行之职;次子吴安持,是王安石的女婿,曾任都水使者,主管河渠水利工程等事,再升工部侍郎,最后官至天章阁待制。天章阁待制在天章阁轮流值班,以备皇帝顾问,是朝廷给文官的一种荣誉官衔。吴充长女嫁欧阳修长子欧阳发为妻。
吴安持的儿子吴侔官至承仪郎,员外郎衔,是尚书省相关司的次官,为中央官吏中的要职,但在宋徽宗大观元年(1107)五月,因与妖人张怀素通谋谋反,被诛,此后浦城吴氏也就衰落下去了。