景明二年，徵为尚书左仆射，加特进。时有诏，以奸吏犯罪，每多逃遁，因眚乃出，并皆释然。自今已后，犯罪不问轻重，而藏窜者悉远流。若永避不出，兄弟代徙。怀乃奏曰：「谨按知制：逃吏不在赦限。窃惟圣朝之恩，事异前宥，诸流徙在路，尚蒙旋反，况有未发而仍遣边戍？按守宰犯罪，逃走者众，禄润既优，尚有兹失，及蒙恩宥，卒然得还。今独苦此等，恐非均一之法。如臣管执，谓宜免之。」书奏，门下以成式既班，驳奏不许。怀重奏曰：「臣以为法贵经通，治尚简要，刑宪之设，所以纲罗罪人。苟理之所备，不在繁典；行之可通，岂容峻制？此乃古今之达政，救世之恒规。伏寻条制，勋品已下，罪发逃亡，遇恩不宥，仍流妻子。虽欲抑绝奸途，匪为通式。谨按事条，侵官败法，专据流外，岂九品已上，人皆贞白也？其诸州守宰，职任清流，至有贪浊，事发逃窜，而遇恩免罪。勋品已下，独乖斯例。如此，则宽纵上流，法切下吏，育物有差，惠罚不等。又谋逆滔天，轻恩尚免；吏犯微罪，独不蒙赦，使大宥之经不通，开生之路致壅，进违古典，退乖今律？辄率愚见，以为宜停。」书奏，世宗纳之。
其年，除车骑大将军、凉州大中正。怀奏曰：「南贼游魂江扬，职为乱逆，肆厥淫昏，月滋日甚。贵臣重将，靡才孑遗，崇信奸回，昵比阉竖，内外离心，骨肉猜叛。萧宝融僭号于荆郢，其雍州刺史萧衍勒兵而东袭，上流之众已逼其郊。广陵、京口各持兵而怀两望，钟离、淮阴并鼎峙而观得失。秣陵孤危，制不出门。君子小人，并罗灾祸，延首北望，朝不及夕。斯实天启之期，吞并之会。乘厥萧墙之衅，藉其分崩之隙，东据历阳，兼指瓜步，缘江镇戍，达于荆郢。然后奋雷电之威，布山河之信，则江西之地，不刃自来，吴会之乡，指期可举。昔士治有言，皓若暴死，更立贤主，文武之官，各得其任，则劲敌也。若萧衍克就，上下同心，非直后图之难，实亦扬境危逼。何则？寿春之去建邺，七百而已，山川水陆，彼所谙利。脱江湘无波，君臣效职，藉水凭舟，倏忽而至，寿春容不自保，江南将若之何？今宝卷邑居有土崩之形，边城无继援之光，清荡江区，实在今日。臣受恩既重，不敢不言。」诏曰：「不君不臣，江南常弊，有粟不食，其在斯矣。上天将欲亡之，诸番又愿取之，人事天道，孰云匪会？但以养害，仁者不为。且十月五日，衍军已达大航，其大伤小亡之势，久应有决。假令天罚宝卷，衍兵获进，则衍之主佐，又是乱亡遣孽，皇灵其能久佑之乎？今之所矜者，正以南黔企德，边书继至，殄悴之氓，理须救接。若尔者，扬州兵力，配积不少，但可速遣任城，委以处分，别加慰勉，令妙尽边算也。」以衍事克，遂停。
怀又表曰：「昔世祖升遐，南安在位，出拜东庙，为贼臣宗爱所弑。时高宗避难，龙潜苑中，宗爱异图，神位未定。臣亡父先臣贺与长孙渴侯、陆丽等表迎高宗，纂微宝命。丽以扶负圣躬，亲所见识，蒙授抚军大将军、司徒公、平原王。兴安二年，追论定策之勋，进先臣爵西平王。皇兴季年，显祖将传大位于京兆王。先臣时都督诸将，屯于武川，被徵诣京，特见顾问。先臣固执不可，显祖久乃许之，遂命先臣持节授皇帝玺绶于高祖。至太和十六年，丽息叡状私书，称其亡父与先臣援立高宗，朝廷追录，封叡钜鹿郡开国公。臣时丁艰草土，不容及例。至二十年，除臣雍州刺史，临发奉辞，面奏先帝，申先臣旧勋。时敕旨但赴所临，寻当别判。至二十一年，车驾幸雍，臣复陈闻，时蒙敕旨，征还当授。自宫车晏驾，遂尔不白。窃惟先臣远则援立高宗，宝历不附；近则陈力显祖，神器有归。如斯之勋，超世之事。丽以父功而获河山之赏。臣有家勋，不沾茅社之赐。得否相悬，请垂裁处。」诏曰：「宿老元丕，云如所诉；访之史官，颇亦言此。可依比授冯翊郡开国公，邑百户。」又诏为使持节，加侍中、行台，巡行北边六镇、恒燕朔三州，赈给贫乏，兼采风俗，考论殿最，事之得失，皆先决后闻。自京师迁洛，边朔遥远，加连年旱俭，百姓困弊。怀衔命巡抚，存恤有方，但宜运转，有无通济。时后父于劲势倾朝野，劲兄于祚与怀宿昔通婚，时为沃野镇将，颇有受纳。怀将入镇，祚郊迎道左，怀不与语，即劾祚免官。怀朔镇将元尼须与怀少旧，亦贪秽狼藉，置酒请怀，谓怀曰；「命之长短，由卿之口，岂可不相宽贷？」怀曰；「今日之集，乃是源怀与故人饮酒之坐，非鞫狱之所也。明日公庭，始为使人捡镇将罪状之处。」尼须挥泪而已，无以对之。怀既而表劾尼须。其奉公不挠，皆此类也。
怀又表曰：「景明以来，北蕃连年灾旱，高原陆野，不任营殖，唯有水田，少可菑亩。然主将参僚，专擅腴美，瘠土荒畴给百姓，因此困弊，日月滋甚。诸镇水田，请依地令分给细民，先贫后富。若分付不平，令一人怨讼者，镇将已下连署之官，各夺一时之禄，四人已上夺禄一周。北镇边蕃，事异诸夏，往日置官，全不差别。活野一镇，自将已下八百馀人，黎庶怨嗟，佥曰烦猥。边隅事鲜，实少畿服，请主帅吏佐五分减二。」诏曰：「省表具恤民之怀，已敕有司一依所上，下为永淮。如斯之比，不便于民，损化害政者，其备列以闻。」时细民为豪强陵压，积年枉滞，一朝见申者，日有百数。所上事宜便于北边者，凡四十馀条，皆见嘉纳。
正始元年九月，有告蠕蠕率十二万骑六道并进，欲直趋沃野、怀朔，南寇恒代。诏怀以本官，加使持节、侍中，出据北蕃，指授规略，随须徵发。诸所处分，皆以便宜从事。又诏怀子直寝徽随怀北行。诏赐马一匹、细铠一具、御槊一枚。怀拜受讫，乃于其庭跨鞍执槊，跃马大呼，顾谓宾客曰；「气力虽衰，尚得如此。蠕蠕虽畏壮轻老，我亦未便可欺。今奉庙胜之规，总骁扞之众，足以擒其酋帅，献俘阙下耳。」时年六十一。怀至云中，蠕蠕亡遁。
怀旋至恒代，案视诸镇左右要害之地，可以筑城置戍之处，皆量其高下，揣其厚薄，及储粮积仗之宜，犬牙相救之势，凡表五十八条。表曰：「蠕蠕不羁，自古而尔。游魂鸟集，水草为家，中国患者，皆斯类耳。历代驱逐，莫之能制。虽北拓榆中，远临瀚海，而智臣勇将，力算俱竭。胡人颇遁，中国以疲。于时贤哲，思造化之至理，推生民之习业。量夫中夏粒食邑居之民、蚕衣儒步之士，荒表茹毛饮血之类、鸟宿禽居之徒，亲校短长，因宜防制。知城郭之固，暂劳永逸。自皇魏统极，都于平城，威震天下，德笼宇宙。今定鼎成周，去北遥远。代表诸蕃北固，高车外叛，寻遭旱俭，戒马甲兵，十分阙八。去岁复镇阴山，庶事荡尽，遣尚书郎中韩贞、宋世量等检行要险，防遏形便。谓淮旧镇东西相望，令形势相接，筑城置戍，分兵要害，劝农积粟，警急之日，随便翦讨。如此则威形增广，兵势亦盛。且北方沙漠，夏乏水草，时有小泉，不济大众。脱有非意，要待秋冬，因云而动。若至冬日，冰沙凝厉，游骑之寇，终不敢攻城，亦不敢越城南出，如此北主无忧矣。」世宗从之。今北镇诸戍东西九城是也。迁骠骑大将军。
时武兴氐王杨绍先叔集起反叛，诏怀使持节、侍中、都督平氐诸军事以讨之，须有兴废，任从权计。其邢峦、李焕并禀节度。三年六月卒，年六十三。诏给东围秘器、朝服一具、衣一袭、钱二十万、布七百匹、蜡三百斤，赠司徒、冀州刺史。兼吏部尚书卢昶奏：「太常寺议谥曰，怀体尚宽柔，器操平正，依谥法，柔直考终曰'靖'，宜谥靖公。司徒府议，怀作牧陕西，民馀惠化，入总端贰，朝列归仁，依谥法，布德执议曰'穆'，宜谥穆公。二谥不同。」诏曰：「府、寺所执，并不克允，爱民好与曰'惠'，可谥惠公。」怀性宽容简约，不好烦碎。恒语人曰；「为贵人，理世务当举纳维，何必须太子细也。譬如为屋，但外望高显，楹栋平正，基壁完牢，风雨不入，足矣。斧斤不平，斫削不密，非屋之病也。」又性不饮酒而喜以饮人，好接宾友，雅善音律，虽在白首，至宴居之暇，常自操丝竹。怀有七子。
长子规，字灵度。中书学生、羽林监，袭爵。年三十三卒。
子肃，袭。卒。
子绍，袭。景明初，诏复王爵，寻除陇西郡开国公。卒于光禄大夫。赠度支尚书、冀州刺史，谥曰文。
子文远，袭。齐受禅，例降。
规弟荣，字灵并。年三十二，卒于司徒掾，赠光州刺史。
荣弟徽，字灵祚。年二十八。卒于直阁将军，特赠洛州刺史，谥曰质。
徽弟玄谅，出后怀弟奂。卒，赠代郡太守。
玄谅弟子雍，字灵和。少好文雅，笃志于学，推诚待士，士多归之。自秘书郎，除太子舍人、凉州中正。肃宗践阼，以宫臣例转奉车都尉，迁司徒属。转太中大夫、司徒司马。除恒农太守，迁夏州刺史。
时沃野镇人破落汗拔陵首为反乱，所在蜂起。统万逆胡，与相应接。子雍婴城自守，城中粮尽，煮马皮而食之。子雍善绥抚，得士心，人人戮力，无有离贰。以饥馑转切，欲自出求粮，留子延伯据守。僚属佥云：「今天下分析，寇贼万重，四方音信，莫不断绝。俄顷之间，变在不意，何宜父子如此分张？未若弃城俱去，更展规略。」子雍泣而谓众曰：「吾世荷国恩，早受籓寄，此是吾死地，更欲何求！然守御以来，岁月不浅，所患乏粮，不得制胜。吾今向东州，得数月之食，还与诸人保全必矣。」遂自率羸弱，向东夏运粮。延伯与将士送出城外，哭而拜辞，三军莫不鸣咽。子雍行数日，为朔方胡帅曹阿各拔所邀，力屈见执。子雍乃密遣人赍书，间行与城中文武云：「大军在近，努力围守，必令诸人福流苗裔。」又敕延伯令共固守。子雍虽被囚执，雅为胡人所敬，常以民礼事之。子雍为陈安危祸福之理，劝阿各拔令降，阿各拔将从之，未果而死。拔弟桑生代总部众，竟随子雍降。时北海王颢为大行台，子雍具陈贼可灭之状。颢给子雍兵马，令其先行。时东夏合境反叛，所在屯结。子雍转斗而前，九旬之中凡数十战，仍平东夏，徵税租粟，运于统万。于是二夏渐宁。