1941年春，王洛宾深夜回到兰州家中，妻子杜明远冷冷地问：“今晚你住哪儿？”这句话，成了他们婚姻的终点。这段婚姻的裂痕，早在1938年就已埋下。当时，王洛宾和杜明远在重庆戏剧界相识，合作无间，不久后结婚。然而，1939年王洛宾被派往青海采风，一走就是九个月。艰苦的环境让杜明远无法继续舞蹈生涯，她多次要求回兰州未果，最终独自返回。此后，两人联系渐少，感情逐渐疏远。
1941年春，王洛宾接到朋友的信，得知杜明远已另有新欢。他立即赶回兰州，推开门的那一刻，看到杜明远与一名男子交谈。杜明远没有解释，只问：“今晚你住哪儿？”王洛宾默默收拾东西，离开了这个家。第二天，《甘肃日报》刊登了他们离婚的启事，这段婚姻就此结束。
离婚后的王洛宾，搬到了兰州城郊的一间小屋，白天采风，晚上写歌，连续三个月几乎不说话。《在那遥远的地方》初稿，正是在这段时间完成的。他开始有意识地淡化个人署名，把自己“隐进”旋律里，创作了大量民歌，如《半个月亮爬上来》等。这些歌曲，虽然表面上看似柔情，但实际上是王洛宾对爱情的重新编排，是对现实的抵抗。
1944年底，王洛宾在西安演出时结识了话剧演员黄玉兰。两人交往不张扬，1945年登记结婚。黄玉兰陪他四处奔波，为他抄谱、缝补、做饭。王洛宾在笔记本边页写下：“她是我写歌时唯一听众。”《掀起你的盖头来》的歌词，就是他专为黄玉兰所填。这段婚姻持续了六年，直到1951年黄玉兰病逝，她临终前的一句话是：“你别停笔。”
黄玉兰去世后，王洛宾再也没有提过再婚。他搬到西宁郊区教音乐，直到1979年被邀请到甘肃省文联担任民歌顾问。他依然坚持采风，骑着自行车，背着录音机，走遍乡村。他说：“我要留下的，不是我的歌，是西北的声音。”到了九十年代，他的歌曲被港台歌手翻唱，广为流传。1992年，他与作家三毛有过短暂通信，但这段关系因年龄差距与外界舆论无疾而终。
1996年3月14日，王洛宾在北京协和医院病逝。临终时，他让人从床头抽屉中取出一张乐谱副本，用铅笔在上面圈出一行——“在那遥远的地方，有位好姑娘。”这句歌词，不仅是他一生的写照，也是他对爱情和音乐的永恒追求。
