唐玄宗时期，卢怀慎为黄门侍郎，在东都洛阳分掌选官之事。随身所带用具，仅一布袋。年底调回京师拜相，与姚崇共掌机密，兼掌吏治。开元四年兼吏部尚书，不久患病。宋璟、卢从愿经常来看望他，见其卧床“敝箦单席，门无帘箔每风雨至则席蔽焉”。卢怀慎一向敬重宋璟、卢从愿，见他们来很高兴。“留连几日，命设食，有蒸豆两瓯、菜数茎而已，此外翛然无办”。当其弥留之际，仍不忘吏治，拉着宋、卢二人手说：“二公常出入为藩辅，圣上求理甚切，然享国岁久，近者稍倦于勤，小人乘此而进，君其志之。”在病重自知不久人世之际，卢怀慎还给玄宗写了一份表章，仍然是谈择官、用贤。一是当有表达自己“报国之心，空知自竭；推贤之志，终未克申的”的心愿；二是以吏部长官的身份向玄宗推荐宋璟、李杰、李朝隐、卢从愿，认为此四人“并明时重器，圣代良臣”，虽“微有愆失”，但“所弃者大”，“望垂矜录，渐加进用”。乃至临终，“家无留储”，仅此遗表一纸。治丧者，“唯苍头自鬻以给丧事”。
