于学忠出生于山东烟台，他的父亲是清朝的一名军官，和张作霖共事过，都在毅军统领宋庆手下任职。1911年，于学忠从北洋武卫左军速成随营学堂，以第一名的成绩毕业，在军中任职。
于学忠后来成了张学良的心腹爱将，早期的于学忠是跟随吴佩孚的，其个人能力很强，又对吴佩孚忠心，在北伐战争之前就是师长了。后来吴佩孚在北伐战争中下野，于学忠就投靠了张作霖，张家父子都很欣赏他，等张学良继位后，于学忠基本成为东北军的二号人物。
在张学良因为发动“西安事变”被蒋介石关押后，虽然于学忠支持张学良发动“西安事变”，但是蒋介石没有怪罪他，