吴南山，甘肃庆阳人，高中文化，早年在家乡担任小学教员。1939年失业后，被军统“抗日干部训练”的虚假宣传诱骗，进入汉中军统特训班（汉训班）第四期，系统学习密写、情报侦察等特务技能，结业后被派回陇东潜伏，负责联络当地特务、搜集边区情报 。

回到庆阳后，他亲眼目睹边区减租减息、军民团结抗日的真实面貌，看清军统反共破坏的真面目，内心深受触动。1940年10月，他主动向陇东中学副校长陆为公自首，完整上交密写药水、通讯密码、特务联络名单等全部机密材料，戴罪立功。

经党组织考察，他以庆阳县教育科科长为公开身份，成为我方内线，假意维持与西安军统联络，持续传递假情报、引诱特务接头。1941年偶遇祁三益，顺势将其诱捕，成为侦破汉训班特务案的关键突破口。

1946年吴南山正式入党，长期在陇东从事公安肃特工作。新中国成立后，历任兰州市公安局治安科科长、甘肃省公安厅治安处副处长，毕生深耕隐蔽战线与治安管理，是“延安反特第一案”的核心功臣 。