1942年夏天，刘少奇风尘仆仆从山东赶回延安，见到毛泽东的第一句话就是夸罗荣桓：“主席，你把罗荣桓安置在山东，真是知人善任。”
刘少奇真正看重罗荣桓的，并不是他在会上讲得多漂亮，而是山东已经乱成一团时，这个人仍能把军事、地方工作和群众生活放在一起考虑。那时最缺的不是一员猛将，而是一个能把几股力量拧成一股、把眼前苦战和长远布局同时顾住的人。
1942年的山东，困难已经压到了根据地门口。日伪军反复“扫荡”，据点和公路不断向根据地伸展，许多地区被切成小块。自然灾害又让粮食更加紧张。外部压力越来越大，内部在指挥关系、工作重点和干部配合上还存在分歧，事情常常议了很久，却难以迅速落地。
毛泽东因此让返回延安途中的刘少奇经过山东，认真了解问题。4月10日，刘少奇到达临沭一带。他没有只听一份汇报就下判断，而是连续找山东分局、一一五师、山东纵队和地方干部谈话，还了解减租减息、群众负担、基层组织等情况。山东为什么被动，他要从根子上弄明白。
几天调查下来，刘少奇看到的关键并非谁不会工作，而是力量不少，中心却不够有力。一一五师有作战经验，山东纵队熟悉本地，地方组织又掌握群众情况，可几套系统各有分工，也各有自己的工作习惯。遇到紧急情况，一旦不能统一判断，再多兵力也可能互相牵扯。
罗荣桓在这种局面下显得很特别。他不靠嗓门压人，也很少把争论变成个人输赢。别人谈某一支部队该怎么打，他往往还会追问粮食从哪里来，伤员往哪里送，群众转移后怎样安置。看起来问得琐碎，其实每一件都关系到根据地还能不能继续支撑。
他这种作风并非1942年才突然出现。1939年湖西发生严重的错误“肃托”事件后，罗荣桓赶到当地制止事态，解救受到错误处理的干部和群众，尽力稳住已经动摇的队伍。1941年日伪军重兵合围沂蒙山区时，他又判断敌人后方相对空虚，带领机关向临沂方向穿插，跳出了包围。
这些事情放在一起看，罗荣桓的长处就清楚了。他不是只会处理部队政治工作，也不是只会带兵突围。他真正擅长的是在复杂局面中辨别轻重：眼前哪件事最要紧，哪些矛盾必须马上解决，哪些问题可以耐心协调。他不追求场面上的痛快，更在意最后能不能把局势稳住。
刘少奇在山东期间，重点推动统一认识和加强领导。4月16日、17日，他召集朱瑞、陈光、罗荣桓、黎玉等人谈了两天；4月27日，又召开山东分局和山东军政委员会联席会议。讨论的不是简单换几个人，而是山东的工作到底围绕什么展开，各套机构怎样真正配合。
减租减息也在这时被摆到更重要的位置。道理很实在：根据地若只向群众要粮、要人，却不能减轻群众负担，再好的军事计划也没有根基。罗荣桓理解这一点。他把纪律、群众工作和作战放在一起抓，因为情报、掩护、运输和兵员，都离不开老百姓真心支持。
1942年夏天，刘少奇结束山东的工作，继续向西行进。这条路并不是从山东直接走到延安，他还要穿越冀鲁豫、冀中、太行、太岳和晋绥等地，躲过一道道封锁，直到12月30日才抵达延安。一路走了数月，山东的难题和罗荣桓的表现却一直留在他的判断中。
刘少奇回到延安后谈起山东，首先肯定罗荣桓，并不奇怪。他在山东看到的，不只是一个干部勤恳能干，而是罗荣桓具备统筹全局的能力。至于所谓资历问题，真正造成的困难并非名次高低，而是在多套机构并存时，他的意见还不能顺畅变成整个根据地的统一行动。
后来的发展进一步证明了这一判断。1942年11月，罗荣桓根据反“扫荡”、反“蚕食”的经验，推动运用“翻边战术”：敌人集中兵力进入根据地，部队便从边沿地区插向敌占区，打击薄弱据点和交通线，不跟着敌人的节奏被动挨打。这是山东实际逼出来的办法。
1943年3月，罗荣桓被任命为山东军区司令员兼政治委员，同时担任一一五师政治委员、代师长；同年8月朱瑞离开山东后，罗荣桓又担任山东分局书记。党、政、军的领导逐渐集中起来，长期存在的多头指挥得到改善，他过去那些需要反复协调才能推进的想法，终于有了更顺畅的执行条件。
山东后来能够走出最艰难的阶段，靠的当然不是某一个人单独完成的。部队、地方干部和广大群众都付出了巨大努力。但罗荣桓的作用，在于让这些力量不再各忙各的，而是围绕同一个目标行动。刘少奇称赞的“知人善任”，说到底就是把真正能解决问题的人，放到了最需要他的位置上。