“九一八事变“后至至1932年初，东北军正规军基本撤出东三省，但东北人民不甘心被日军奴役，于是民众自发组建了多种抗日武装，称为义勇军，人数最多时达到30万人左右，他们以极其简陋的武器与日军艰难对抗，国歌《义勇军进行曲》，正是以他们为原型创作的。 其中马占山领导的义勇军在1932年初，在李顿领导的国际调查团到东北调查之际，突然包围了哈尔滨，给日本人造成了很大的国际被动。在此战中，义勇军充分发挥了骑兵和地理优势，抛弃阵地战，以游击战术，给日军造成了很大的伤害。 再加上日军新近占领东北，伪政府中的许多人对国军抱有希望，所以通过多种渠道向义勇军提供日军情报，马占山甚至因此编写了日军兵力部署图，日军哪个旅团多少人，行军计划如何，都一清二楚。 但是日军很快发现了情报外泄的问题，再加上日军不断地增兵东北，国军却聊无踪影，义勇军基本失去了情报来源，而且义勇军领导人物大多数都是旧军官，他们之间派别繁多，非但不能团结一致，而且意见分歧，部队成分复杂，有的纪律很坏，很快便被日军分而治之，各个击破。 至1932年底，仅存的义勇军基本都撤入苏联了。
