1985年3月，赵南起同志任解放军总后勤部副部长兼副政治委员、总后勤部党委副书记（1985年4月起）。1987年11月任解放军总后勤部部长、总后勤部党委书记。1988年4月任解放军总后勤部部长、总后勤部党委书记，中华人民共和国中央军事委员会委员。在总后勤部工作时，他提出“以改革总揽全局”，全面推动军队后勤改革。主持制定《军队后勤保障体制改革的总体方案》、《全军后勤改革五年规划》、《“八五”期间全军后勤工作的基本思路》，确定在10年内分三步走，实现全军后勤保障工作根本好转的目标。这些我军后勤建设目标要求的提出并实施，使全军后勤改革得以有序展开、整体推进、健康发展，全军后勤建设成效显著，在积极“忍耐”中有所作为，确保了军事经济效益和军事效益的提高，增强了后勤保障能力和军队战斗力。

赵南起同志善于总揽全局开拓创新。他提出将军队战略物资储备与国家物资储备紧密结合，缩减军队储备规模，节省人力、物力、财力；军队基础设施建设尽可能与国家统筹规划，统一建设，走军民兼容、平战结合的发展路子；强化全军后勤的作战保障机能，倡导并实现战略、战役、战术三级保障体系；在军队员额大幅精简后，提出按照“加强、开放、看守、淘汰”的原则，调整后勤基础设施，收缩后勤摊子，打破“大而全”、“小而全”的模式和自我封闭格局；坚持走“科技兴后勤”的路子，深化后勤科技体制改革，调整科技组织结构，扩大科研单位自主权，建立科研成果开发转化机制；为打破我军长期沿用的按建制关系各成体系的保障体制，探索三军大联勤保障体制，大力推进以“代供、代修、代医”为主要内容的网络化划区保障，先行试点、逐步展开，有效提高了后勤保障效能，为全军大联勤的全面实现奠定了坚实基础。

赵南起同志主张把“好钢用在刀刃上”。他提出军费分配要确保部队生活水平不下降、确保战略预备队和应急作战部队战斗力不降低，要向团以下部队倾斜、向装备倾斜，大力压缩基本建设规模、大力压缩各项公务费开支、大力压缩集团购买力。“七五”期间全军装备失修率每年递增幅度较大，他向中央军委提出建议，并千方百计筹措资金，解决了军队大型装备库房建设问题，为空降兵装备了大型运输机，组织了空军机场翻修和海军军港、基地整修工程，使多年制约军队发展的老大难问题得到解决。他心系基层官兵，提出对团以上机关少搞“锦上添花”，对营以下部队多搞“雪中送炭”，组织实施全军营以下部队营房综合治理工程，到1992年三分之二的建制营搬进了新营房，建立旅团生活服务中心，既方便了连队，又改善了生活。他协调安排专项经费，解决驻边远地区部队吃水、洗澡、照明、取暖等难题和驻青藏、新疆高寒地区部队肉菜禽蛋自给问题。他主持制定《军队基层后勤管理暂行条例》并狠抓贯彻落实，到1991年年底全军70%的基层单位后勤管理达标。

赵南起同志推进军队财务管理体制改革。他提出实行事业经费由业务部门和财务部门共同管理的“双轨制”运行机制，有效克服了财务管理上的分散主义、本位主义倾向，使军费使用管理逐步走上标准化、制度化轨道。他提出设立军队财务结算中心，有效发挥其聚财、生财、调剂、服务、监督的综合作用，提高了资金的使用效益和安全性。

赵南起同志无私无畏狠抓从严治军。在整顿以赢利为目的的经营性生产工作中，他深入调查研究，直面突出问题，主持制定了清理整顿军队生产经营的方针政策，在中央军委的领导下，对全军生产经营单位分三步进行清理整顿。他主持开展全军房地产、团以上单位决算审计的清理整顿，组织全军编外车辆、银行账号、油料供应管理检查清理，产生了很好的经济效益和政治影响，实现了中央军委提出的从严治军目标任务。

1992年10月，赵南起同志任解放军军事科学院院长、党委书记，中华人民共和国中央军事委员会委员（至1993年3月）。他提出发展中国军事科学事业的新思路，确定史料的收集、汇编工作要与研究工作相结合，以研究工作为主；基础理论、历史研究要与国防建设、军队建设重大现实问题的研究相结合，以现实问题研究为主；注释性、借鉴性、总结性的研究，要与面向未来、着眼发展的创造性超前研究相结合，以创造性的超前研究为主；低层次的一般性课题的零散研究，要与宏观的战略性课题的系统研究相结合，以宏观的战略性系统性研究为主。他倡导的“四个结合、四个为主”军事科研新方法，受到中央军委首长的充分肯定。仅1993年，军事科学院重大现实课题研究就增加了66%，在“新时期军事战略方针论证”、“未来作战问题研究”等重大课题中，军事科学院都发挥了重要的理论支持和对策咨询作用，使军事科学院作为中央军委决策咨询机构的职能得到强化。他主持拍摄的《较量——抗美援朝战争实录》，获得“1995年度中国电影华表奖最佳纪录片奖”和“中国电影金鸡奖”。他坚持尊重知识、尊重人才的理念，重视人才和学科建设，深化改革科研管理体制，要求各项工作以科研为中心，以科研工作和科研人员为主体，千方百计为科研人员营造良好、舒心的工作生活环境，特别是解决了住房难等问题，得到科研人员的高度赞扬，至今仍传为佳话。