杨以德原名杨以俭，幼年家境贫寒，早年在盐商家中做工谋生，也因此得了“杨梆子”这个外号。1902年出任天津东站检票员，凭借出色的办案能力得到袁世凯赏识，此后改名杨以德。1906年担任天津探访局总办，1909年升任北洋警务道台，正式跻身北洋警务核心圈层。

民国建立后，他出任直隶警务处长兼任天津警察厅长，执掌天津警务大权长达十三年。1915年袁世凯筹备称帝，论功行赏册封其为三等男，同时授予将军府将军、德威上将军头衔。

他一生身处诸多近代重大事件之中，1918年轰动全国的杨三姐告状案，由他亲自过问审理，为民沉冤昭雪，在民间留下清官名声。五四运动期间，他奉命镇压爱国学生运动，曾拘捕进步青年，后迫于社会舆论压力将人释放。任职期间，他还主导完成天津德、俄租界收回事宜，主持修缮重建天津鼓楼。1924年他兼任代理直隶省长，1925年遭段祺瑞下令免职，自此彻底退出军政政坛。

晚年，退出官场后，杨以德长期隐居天津城内，不问世事，1944年病逝，终年七十一岁。

纵观其一生，是典型的北洋实力派能臣，也是津门地方枭雄。他一方面整顿地方治安，维系一方安稳，做过不少利民实事；另一方面依附北洋权贵，残酷镇压进步势力，行事立场摇摆不定，常年在各路军阀势力之间左右周旋，是民国初年天津地界极具权势与影响力的实权人物。