秋收起义前，毛泽东想把一团和三团集中起来作战，可是师长余洒度拒不从命，结果导致起义军的力量过于分散。起义发动后，临时收编的一个团叛变，又给了起义军致命一击。其他匪夷所思的问题也是层出不穷：关键时刻，团长竟然指挥不动士兵，急得他要上赶着叫士兵爹，师参谋处长被逼得没办法，用手枪逼着，才勉强集合了几十个人……
军事主官不听领导人的，士兵不听军官的，这种样子发展下去，即便手里有枪杆子，也不可能打好仗。在三湾改编中，毛泽东宣布整个部队改由前委统一领导，同时提出在部队建立各级党组织，即班排建立党小组，党支部建在连上，营团建立党委。
在平时与战士的广泛接触中，毛泽东发现凡是拥有一定数量党员的连队，不但士气高，而且能够有效地监督干部，连队面貌与其他连队完全不一样，这就是“支部建在连上”的一个重要起源。
由于尚处在不断行军和打仗的阶段，三湾改编时，“支部建在连上”只是作为原则提了出来，真正得到实施和完善，还得说是起义军上了井冈山以后。
在此期间，作为连党代表的罗荣桓逐渐脱颖而出，成为了红军最早的优秀党代表之一。他不管调到哪一个连，时间不长，干部战士就都愿意来找他，有什么心里话或哪怕对谁有意见，也都愿意找他谈。有时罗荣桓出去开会，离开部队几天，战士都会三三两两地到指挥部打听他什么时候可以回来。
做政治工作其实就是做人的工作，某种程度上它比打仗更复杂更需要技巧。罗荣桓能够把工作做得这么到位，与他老实但又不乏“精明”，善于总结经验，掌握方法有着很大关联。
井冈山的主力红军都是从旧军队或工农义勇军脱胎而来的。刚开始，有些人还带着过去的习气，总认为，“三句好话不如一个巴掌”，“马鞭子下面出好兵”，军官打骂士兵，老兵打骂新兵，几乎成为家常便饭。罗荣桓对这种作风非常看不惯，对侮辱人格的体罚更是深恶痛绝，他常说“响鼓不用重锤敲”，哪支部队但凡他做党代表，就坚决不允许打骂士兵。
“靠拳头来代替教育，那是不能解决问题的。”罗荣桓经常如此告诫干部。那么怎么练兵和加强管理呢？罗荣桓的方法是反复讲道理，一遍不行，两遍，两遍不行，三遍，直到让士兵真正明白错在哪里为止。
这种方法看似麻烦，但在罗荣桓看来，只有这样才真正有效，因为“口服不如心服，只有心服了，才能自觉遵守纪律”。
罗荣桓可以说是一个共产党政工人员的标准典范。他的耐心和脾气甚至好到了从来都不发脾气，朱德那么憨厚，有时也免不了动怒，但人们从来没有见到过罗荣桓当众对部下大声训斥。有时部下犯了错误，他内心也很生气，但却总能努力克制自己，尽量以理服人。
罗荣桓为人谦和持重，韬光养晦，平时他会加上戴上较厚的近视眼镜，很多刚认识他的人还觉得他有些木讷。毛泽东主席一向知人善任，但是他也是在古田会议之后，才在井冈山的一次会议上发现有一个这么好的政工干部，这从侧面表现了罗荣桓的低调。
有一天，毛泽东和从上海调来的一名工作人员散步，罗荣桓恰好从一旁走过，他指着罗荣桓对这名工作人员说：“这个同志是个人才，是一位很好的领导干部。对这个同志，我们发现晚了。”
其实在红军三个方面军中，林彪的第一方面军的政治工作成绩很突出，军事指导员与普通战士的关系是平等与团结的，毛泽东就关注到这一点，其实看一下红一方面军的政治委员罗荣桓就知道为什么一方面军的政治工作突出了，罗荣桓的政治工作让红一方面军知道革命的目的与意义是什么，这对我党的军队建设是有划时代的意义。
近现代战争史的实践表明，决定战争胜负的因素，并不完全是军事技术和装备，很大程度上，还在于政治力量与技术力量的结合程度。刘伯承是中共党内知名的军事家，他在一次报告中曾说：“国民党的武器很好，有的军事技术也很高，但他们还是被我们打垮了。为什么？就因为他们没有也不可能有我们这样的政治工作和政治力量！”
虽然罗荣桓本人在授衔时恳切辞帅，但中央没有采纳，仍决定授予其元帅。命令正式发布后，罗荣桓对总政的一些干部说，给他授元帅衔，实际是中央“给予我们军队政治工作者的崇高荣誉”。
战争年代，在共产党的政工干部中，有很多属于军政双优，即既能做政治工作，又会打仗。陈毅是这样，罗荣桓也是如此。
罗荣桓最早接触到战争，是在通城农军向修水转移的时候。中途他们遭到了敌人的袭击，作为一个投笔从戎的大学生，他的反应就和陈毅第一次参加战斗时一样，听到枪响不但紧张，而且还有点发蒙。
通过从战争中学习战争，罗荣桓对部队的一套渐渐熟悉起来，在实践与带兵的过程中，罗荣桓对于战场规律和战略战术得心应手，成为一名优秀的军事家。罗荣桓本人老年曾说，这有点像小时候捉蛇，刚开始不免有点害怕，一旦掌握规律，就没有什么了。这为日后罗荣桓成为独当一面的旗帜奠定了基础。
抗战时期，罗荣桓出任第一一五师政治部主任，和代师长陈光率部在山东开辟根据地。有一天侦察员回来报告，说日军到了某村，罗荣桓马上断言：“你讲的可能不对，快回去重新侦察。”侦察员回去侦察，发现那座村庄里确实没有敌人。
侦察员们都很惊奇，不知道他们的罗政委怎么会有如此神通。其实，罗荣桓虽然没有像侦察员那样出去活动，但是罗荣桓善于综合各方面的情报，包括侦查员与各地老百姓，通过这些来源，罗荣桓对根据地了如指掌，做到了运筹帷幄之中，决胜千里之外。
敌人不会从天上掉下来，都有其来龙去脉。一股日军通常有好几百，而且一出来就要找拉夫、找向导、骚扰百姓，这样就暴露了其行动路线。先前侦察员报告的某村远离敌人的行动路线，罗荣桓根据自己所掌握的情况推断，那里不可能有敌人，但为了稳妥起见，他还是让侦察员重新进行了侦察确认。
从1941年起，山东八路军统一由罗荣桓进行指挥。此时也正是山东的斗争环境变得格外严酷之际，日军的“扫荡”越来越频繁和剧烈。到了1942年，抗日根据地更是进入了最艰苦、最困难的阶段，一度热火朝天的鲁南根据地已经缩小为“南北几十里，东西一线穿”的狭长地带，在很多地方，八路军都被迫换成了便衣，部队每晚都要转移好几个营地。罗荣桓称这一阶段为“拂晓前的黑暗”。
土地革命战争时期，毛泽东和中央红军反“围剿”的典型战法是在根据地内与敌人周旋，在此过程中选择有利地形，集中优势兵力歼敌一路，以打破“围剿”。罗荣桓发现这种战法没法应用于山东的反“扫荡”，原因是这里的抗日根据地已经非常狭小，缺乏回旋余地，为此他研究出了一种新的战术，这就是“翻边战术”。
按照“翻边战术”，八路军的主力部队不是设置在根据地的腹部，而是被部署在靠近一路敌人的根据地边沿。当日军发动大“扫荡”时，八路军不像红军那样“敌进我退”“诱敌深入”，而是“敌进我进”，在弄清日军特别是当面日军的动向后，趁其包围圈尚未紧缩，有较大空隙，即顺着根据地边沿，“翻”到敌人后方去发动进攻。
这时因为日军主力已到根据地腹部进行“扫荡”，后方的兵力相对较少，面对八路军主力部队的大规模进攻，往往难以招架，这样就可以打乱日军的整个部署，直至粉碎“扫荡”。
“翻边战术”并不是脑袋一拍的产物，它是罗荣桓在率部进入山东后，经过许多次大小反“扫荡”的经验总结，以往也用过，只是到了1942年才正式予以定名。
在1942年冬，罗荣桓运用“翻边战术”，亲自部署了海陵战役。海陵六个区，原来已弄得只剩下了两个完整区，经此战役，一下子就恢复了三个半区。
战役结束时，八路军前线指挥员察看被炸坍的日军炮楼，这个时候一个投降的日本军官来到他们面前，说着八路军听不懂的日语，而且还手舞足蹈。不明所以的指挥员找到翻译员才知道，原来日军在佩服八路军的战术。这名指挥员因此特别感慨地说：“看来，鬼子现在也知道翻边战术的厉害了。”
“翻边战术”随后被陆续推广到山东各个根据地，罗荣桓军政双优的才能得到毛泽东和中央的充分认可。1943年，他被任命为山东军区司令员兼政委，直至抗战胜利。
到抗战胜利时，山东已经超越晋察冀，成为最大最强的敌后根据地。向北，它是进军东北的出发阵地，向南，又是支持华中的可靠后方。山东军区的正规军人数占中共全部武装的三分之一，是解放战争中二野、三野、四野的重要兵源，其中四野的中坚力量即为山东部队。
毛泽东说：“换了一个罗荣桓，山东全局的棋就下活了，山东的棋活了，全国就活了。”在解放军全取东北之前，山东确为决定国共成败的关键地区，如此说来，罗荣桓是在关键地区做成了关键的事业。
