叶挺旅居德国期间，是边开饭馆边学习，他对德国陆军特别加以考察，并进一步学习了新的军事科学，掌握了有关工兵等方面的知识，还研究了爆破技术。旅欧五年后，叶挺回到澳门。国民党方面知道叶挺如果回到共产党，无疑会给共产党的武装增加很大名声和力量，于是便试图用各种手段拉拢他，蒋介石甚至亲自派要员给他送礼。那时共产党的力量虽然远远比不上国民党，前途也并不明朗，但国民党已经很腐败，各级官员都要捞一把，早就失去了民心，而共产党则蒸蒸日上，因此不管国民党怎样拉拢，叶挺都不为所动，始终坚定地要选择寻找党组织。

1937年抗战的烽火刚刚燃起，叶挺就毫不犹豫地踏上了前往延安的路途，中共用很高的规格迎接了这位归来的游子。毛泽东亲自主持为他在抗大礼堂举行了欢迎叶挺的干部大会。叶挺站在抗大礼堂里，用夹杂着广东乡音的北方话说：“革命就好比爬山，许多同志不怕山高，不怕路险，一直向上走。我有一段时间，爬到半山腰又折回去了，现在又跟上来了！”声音被提高到最大，在会场久久飘荡。

然而，叶挺的回归并非一帆风顺。共产党有着自己的纪律，脱党并不是轻易就能重新入党的，还要长时间地接受党的考验。

后来，叶挺受中共中央委托，以非党员的身份与国民党交涉，将南方八省的红军游击队改编成新四军，并担任军长。可是叶挺在新四军干得并不舒心，这也是当时一个公开的秘密，就是他和中共东南局书记项英的关系紧张。项英主观刚愎，总爱用对党外人士的眼光看待叶挺，这都惊动了党中央，毛泽东特意叮嘱项英要尊重叶挺，周恩来亲自出面为二人调解，叶挺终于顾全大局留了下来。

在皖南事变前，叶挺已经对国民党有所警惕，然而，最终他还是未能阻止这场悲剧的发生。1941年1月5日，新四军部队到达茂林地区，天下了大雨。叶挺提出，要警惕国民党，为避免成为瓮中之鳖，最好改变路线，不从东南翻山去旌德，而从西南过去向东进军，然后北上。可是项英不同意，还是按照国民党指定的路线进军，到了丕岭脚下，国民党40师、144师疯狂进攻，新四军浴血奋战，激战数日，终因寡不敌众而损失极为惨重。

项英因对国民党认识不清，抱有幻想，最终在这次事变中被杀害，一起被杀害的还有袁国平、周子昆等将领，叶挺则被俘。

蒋介石马上反咬一口，宣布新四军"叛变"，取消新四军番号，将叶挺的新四军军长革职，交所谓的军法审判。叶挺被捕后非常英勇，与国民党进行了义正辞严的斗争。

先是顾祝同用高官引诱叶挺投降，被其怒斥。蒋介石知道叶挺的分量，亲自出面劝降叶挺，让到第六战区去好好休养，说什么前途是光明的。叶挺的回答是：“我不能这样做，请枪毙我吧！”　

叶挺在国民党监狱里被关了好几年，换了多处地方，他先被解往上饶牢房，接着又被关入桂林一个潮湿的山洞中。一年多后，蒋介石认为让他尝够了苦头，可能会被软化，下令押往重庆。叶挺还是不屈服，被押到重庆后，就作了那首被广为流传的狱中诗："为人进出的门紧锁着，为狗爬出的洞敞开着，一个声音高叫着---爬出来吧，给你自由！我渴望自由，但我深深地知道---人的身躯怎能从狗洞子里爬出！我希望有一天地下的烈火，将我连这活棺材一起烧掉，我应该在烈火与鲜血中得到永生！ "