字晋卿，崇安(今武夷山市)人，宋元祐八年(1093年)生。青年时便沉着刚毅，懂兵法，善骑射。未满20岁，即离乡从军，与弟吴璘同属陕西泾阳军，入德顺军(今甘肃静宁县)籍。政和四年(1114年)，西夏兵侵边，吴玠以战功任进义县副尉，不久升为队将。宣和间(1119～1125年)，方腊在浙江起义，吴玠随军前往镇压，有战绩；后又参与镇压河北各处起义军，累积战功，升为代理泾原第十将。靖康间(1126～1127年)，西夏兵复攻怀德军，吴玠率百余骑兵追击，灭西夏兵140多人，升第二副将。
　　建炎二年(1128年)，金兵大举西渡黄河，出大庆关，入陕西，谋攻泾原。都统制曲端守麻务镇，用吴玠为前锋，遂进占青溪岭，迎击金兵，大破之，乘胜追击30里，使强敌有所畏忌。因命吴代理泾原路兵马都监兼知怀德军。金兵攻延安府，经略使王庶召曲端进兵抗御。曲端驻兵邠州，不进，认为：“不如攻其后方，捣其巢穴，攻其所必救。”令吴玠领兵攻华州，拔其城。
　　建炎三年(1129年)冬，以功升忠州刺史。知枢密院事兼川陕宣抚处置使张浚巡视关、陕，其参议军事刘子羽与吴玠同乡，因向张浚称赞吴玠兄弟才勇兼备。张浚召吴玠面谈，甚为满意，即提拔吴玠为统制，其弟吴璘掌帐前亲兵。
　　建炎四年(1130年)春，吴玠升任泾原路马步军副总管。金将娄宿(亦作娄室)与撒离喝率部长驱入邠关，曲端命吴玠部于彭原店拒敌，自己统大军驻邠州(今陕西彬县)为后援。金兵来攻，被吴玠击败，撒离喝惊惧而泣(金人因号他为“啼哭郎君”)。金人复整军来战，吴玠军败，曲端退屯泾原。吴玠怨曲端不来救援，曲端以前军既败，不得不据险以防御，乃劾吴玠不听节制。降吴玠为武显大夫，罢部管职，仍知怀德军。张浚惜他才能，任为秦凤副总管兼知凤翔府。吴玠至凤翔，抚集流亡，兴复生产，民生渐安。后转任忠州防御使。八月，张浚命吴玠收复永兴军。九月，张浚集合5路大军，欲与金兵决战。吴玠建议，宜先守要害，伺有利时机而动。张浚不从。及至富平，又集诸将会议，吴玠又建议，应先据高地以制敌，诸将反对此议。认为：我众彼寡，又前有河沼，敌骑绝不能过，何必移往高地。几天后，金骑兵果大至，运来柴禾泥土填入河沼，涉水而渡，进攻宋军。环庆经略使赵哲先逃，宋军因而大溃。5路皆陷，巴蜀大震。张浚退保秦州，再退兴州。吴玠亦退守大散关东部的和尚原(今陕西宝鸡县西南)。积储粮食，聚集兵员，列栅死守。有人建议，宜退守汉中，扼险要，以安定人心。吴玠说：我预料金人必不敢越和尚原而进。我坚壁列栅，敌恐我在其后面追击，这是保蜀的上策。吴玠在原上，纪律严明，绝不扰民，民皆感吴玠恩德，纷纷以粮食济军。吴玠折价用金帛归还，民益感动，输粮更踊跃。金人闻知大怒，即在渭水旁伏兵，截杀输粮者，且令下属连环相保，但民众毫不畏惧，仍旧不停输粮。
　　绍兴元年(1131年)，金将没立和别将乌鲁折合相约，分别带兵由凤翔、阶州和成州出散关，会攻和尚原。乌鲁折合先至，立营北山挑战。吴玠命诸将严阵以待，轮番作战，交替休息。金人皆骑兵，路狭石多，马队不能发挥作用，被迫弃马步战，遂遭大败，移砦黄牛。时值五月，天气酷热，忽起大风雨，下雹，金军狼狈而遁。没立方攻箭筈关，亦被吴玠遣军击退。两路金兵终不得会师。
　　当金兵大举入侵时，吴玠与弟吴璘仅以散卒保和尚原，与朝廷音问隔绝，人心惶惶；且宋室兵力众寡悬殊，有人阴谋挟持吴玠兄弟降金，吴玠悉其谋，立即召集诸将，歃血盟誓，以忠义相勉，人皆感泣，决心死战。张浚既杀曲端，乃录吴玠功，承制任为明州观察使，兼陕西路诸路都统制。
　　金人起兵侵宋，每战常胜，及与吴玠战，多败，发愤要报此仇。娄宿因兵败忧愤而死，兀术继任，乃会各路兵十余万，跨渭水，作浮桥。自宝鸡结连珠营，叠石为堡垒，与宋军对峙。绍兴元年(1131年)十月，兀术领兵大攻和尚原，吴玠命诸将用劲弓强弩，分次射击，号“驻队矢”，箭如雨发，前后不绝，金军不得不退。吴玠又派奇兵突击，绝金兵粮道；并设伏兵于神坌，待金兵至，突起袭击，金兵大乱；吴玠复乘夜出击，金军遂大溃，兀术中流矢逃遁，仅以身免。张浚承制，以吴玠为镇西军节度使，吴璘为泾原路马军副总管。兀术败还，既愤且惧，遂自河东归燕京，乃以撒离喝为陕西路经略使，屯凤翔，与吴玠部相持。
　　绍兴二年(1132年)，朝廷任吴玠兼宣抚处置使司都统制，节制兴、文、龙三州。金人久存占蜀野心，以吴玠部驻和尚原，不得过，谋用奇计取胜。时吴玠部屯河池，金人用叛将李彦琪驻秦州，在仙人关(今甘肃徽县南)牵制吴玠部；又令骑兵击熙河，以牵制关师古。这是两路疑兵，撒离喝自率军直捣上洋。
　　绍兴三年(1133年)正月，撒离喝破金州(今陕西安康)，长驱向洋州、汉州。兴元府(今陕西汉中)守臣刘子羽急命田晟部守饶风关(今陕西石泉)，并以急书请吴玠部入授。吴玠得书，率军自河池日夜兼程奔驰三百里，与撒离喝大战于饶风关，金兵披重甲，登山仰攻，先后相接，前仆后继。吴玠军弓矢大发，并用大石摧压登者。双方激战六昼夜，伤无数，尸如山积。撒离喝以金钱招募敢死队，得5000人，将实行夹攻。适吴玠军中有小校获罪投金，为向导，引金兵自祖溪旁径出关背，乘高而下，宋军大败。刘子羽弃兴元退保三泉，筑潭毒山固守，吴玠部退保西县，复往三泉与刘子羽部队会合。不久，金兵北归，吴玠急遣兵，在武休关袭击金兵后部。金兵附涧而死者千余人，尽弃辎重北上。朝廷乃进吴玠检校少保，充利州路、阶、成、凤州制置使。
　　绍兴三年(1133年)十二月，金兵攻和尚原。次年(1134年)二月，复攻仙人关。经过几番恶战，吴玠调遣得宜，谋策奏效，终于大破金兵。此次战役，金人兴师动众，皆以为四川可图，自元帅以下皆携带家属，却大败而归，才知吴玠之谋略勇武。自是，金兵还据凤翔，令将士屯田，为长留计，再不敢图蜀。捷闻，朝廷授吴玠川、陕宣抚副使；吴璘自防御使升定国军承宣使，属下皆分别升官。
　　绍兴六年(1136年)，吴玠兼营田大使。后遣裨将马希仲部攻熙州，败绩，又失跫州，斩之以肃军纪。吴玠与金人对阵近10年，常苦远饷劳民，遂行精兵简政、淘汰冗兵，以节省开支；行屯田，岁收粮10万斛。又调戍兵，命梁、洋守将修堡城旧堰，兴修水利，人民愿归农者数万家。
　　绍兴九年(1139年)正月，宋金和议，金人许归河南、陕西地。高宗以吴玠作战功高，授特进四川宣抚使，开府仪同三司，陕西阶、成等州皆听节制，遣内侍奉赐御札，至则吴玠病重，扶掖接旨。高宗知道甚忧，命地方官就蜀求良医，且令国医驰视。未至，而吴玠已卒于仙人关，赠少师，赐钱30万缗。
　　吴玠起部伍，善读史书。凡往事可以为法者，皆抄录置于座右，时久，因而墙牖贴纸，皆为格言。用兵本孙、吴旧法，但务远略，不求近利，故能常胜。他御下严而有恩，能虚心接受意见。虽位极大将，而士卒亦得进见，告达下情；选用将佐，皆以才能为准，不许亲友干扰。吴玠屡立大功，惟中年颇嗜女色，生活疏于节制，致误服丹药咯血而死。
　　张浚富平之败，全蜀大震。若无吴玠身当其中，则蜀地难以保全。故蜀人纪念其功，谥武安，立庙于仙人关，号思烈。淳熙时(1174～1189年)，追谥为涪王。