1937年7月纪登奎参加革命工作,第二年4月加入中国共产党。抗日战争那几年,他在晋冀鲁豫一带搞青年工作。解放战争后期,他跟着队伍南下河南,先后在鲁山等地担任县委书记,抓土地改革、剿匪反霸和恢复生产。
新中国成立以后,他调到许昌地区,在许昌工作期间,他经常下到县乡跑调研,了解农业生产和群众生活实际情况,数字记得清楚,汇报工作也实打实。

通过这些基层实践,他的工作能力得到认可,很快在1951年升任许昌地委书记。那时候他28岁出头,从地方干部队伍里冒了出来。1952年4月起,他在许昌地委书记位置上干了两年,还兼着许昌军分区政治委员,重点抓农业生产和基层建设。
1954年4月,他调到洛阳矿山机器厂当党委书记兼厂长。这个厂是第一个五年计划期间的重点工程,他负责设备安装、工人培训和生产组织,工厂提前一年建成投产。之后他又转到洛阳地委担任第一书记兼军分区第一政委,继续管地方工业和农业协调的事。
1970年12月,他调到北京军区担任第二政治委员,后来成为第一政治委员,还兼中央军委领导成员和军委办事组成员。他在军队系统干了八年,主要协调防务准备和日常工作,对一些文件文字提出过修改意见,确保部署落实。

1975年1月,他担任国务院副总理,同时负责多项中央事务,参加会议主持、文件审阅和部门协调。十一届三中全会以后,国家工作重点转到经济建设上来,他主动提出辞去北京军区政委的职务。
那时候他已经意识到和平时期的工作需要调整,就从大局出发做出了这个选择。回家以后,他简单跟家里人提了提,说掌握军权在不同时期情况不一样,得服从整体安排。
1979年夏天,他进一步考虑把剩下职务也调整一下,找北京市委书记吴德商量过。吴德建议辞职的事还是由组织统一考虑比较好,他就耐心等着。

1980年2月,中央组织部部长宋任穷和老同志王鹤寿代表组织找他谈话,传达了中央在组织工作上的考虑,主要是为了推进干部新老交替。他听完以后,没有多问原因,也没有提个人条件,直接表示服从中央安排,还提出可以由自己主动提交辞职申请。
1980年2月29日,中共十一届五中全会批准了他的辞职请求,他辞去了国务院副总理、中央政治局委员等全部领导职务。那一年他57岁,跟他一起提交辞职的还有其他几位老同志。
这次调整是中央为加强领导班子建设、实现干部队伍年轻化做出的统一安排,他按照组织要求办了手续。辞职以后,中央安排他到国务院农村发展研究中心工作,担任正部级研究员。

从1982年起,他把精力转到农村调研上,经常骑自行车到北京周边和外地村镇,了解政策落实情况、生产实际和基层困难,记录第一手材料,提交给研究中心参考。他干这个工作很踏实,当地干部和群众都熟悉他,称呼他老纪头。
他还计划写两本回忆录,一本讲早年革命经历,一本讲在中央和军队的工作岁月。1988年暑期,他本来准备去北戴河整理笔记开始动笔。可就在7月13日夜里,他突发心脏病,在北京去世,终年65岁。
那两本回忆录最终没能完成,只停留在设想阶段。去世以后,官方给他作了生平简介,评价他是中国共产党的优秀党员、忠诚的共产主义战士,强调他在不同岗位上的贡献,特别是后期在农村研究方面的努力。