公元626年（武德九年），唐太宗李世民继位，并与颉利可汗在渭水会盟。温彦博得以回朝，被授为雍州治中，检校吏部侍郎。他恪守职责，后被提拔为中书侍郎、兼太子右庶子。 628年（贞观二年），温彦博改任御史大夫，仍代理中书侍郎事务。 630年（贞观四年），温彦博升任中书令，进爵虞国公。当时，东突厥归附，朝臣都建议将其迁徙河南，散居郡县，实行汉化。温彦博提出不同意见，他主张采纳汉武帝安置匈奴的做法，将突厥安置在朔方，保全其部落、风俗。唐太宗采纳了他的建议，但魏徵表示反对，两人为此争论数年。 636年（贞观十年），温彦博升任尚书右仆射。 637年（贞观十一年），温彦博病逝，终年六十四岁。唐太宗叹道：“彦博因忧虑国家，耗尽心力，这两年精神不济。只可惜没能让他闲暇安逸，以致过早去世。”又命官府为其营建正堂，追赠特进，赐谥号为恭，并陪葬于昭陵。
