太祖征慕容宝，次于常山。玄伯弃郡，东走海滨。太祖素闻其名，遣骑追求。执送于军门，引见与语，悦之。以为黄门侍郎，与张衮对总机要，草创制度。时司马德宗遣使来朝，太祖将报之，诏有司博议国号。玄伯议曰：「三皇五帝之立号也，或因所生之土，或即封国之名。故虞夏商周始皆诸侯，及圣德既隆，万国宗戴，称号随本，不复更立。唯商人屡徙，改号曰殷，然犹兼行，不废始基之称。故《诗》云'殷商之旅'，又云'天命玄鸟，降而生商，宅殷土茫茫'。此其义也。昔汉高祖以汉王定三秦，灭强楚，故遂以汉为号。国家虽统北方广漠之土，逮于陛下，应运龙飞，虽曰旧邦，受命惟新，是以登国之初，改代曰魏。又慕容永亦奉魏土。夫'魏'者大名，神州之上国，斯乃革命之徵验，利见之玄符也。臣愚以为宜号为魏。」太祖从之。于是四方宾王之贡，咸称大魏矣。
太祖幸邺，历问故事于玄伯，应对若流，太祖善之。及车驾还京师，次于恒岭。太祖亲登山顶，抚尉新民。适遇玄伯扶老母登岭，太祖嘉之，赐以牛米。因诏诸徙人不能自进者，给以车牛。迁吏部尚书。命有司制官爵，撰朝仪，协音乐，定律令，申科禁，玄伯总而裁之，以为永式。及置八部大夫以拟八坐，玄伯通署三十六曹，如令仆统事，深为太祖所任。势倾朝廷。而俭约自居，不营产业，家徒四壁；出无车乘，朝晡步上；母年七十，供养无重膳。太祖尝使人密察，闻而益重之，厚加馈赐。时人亦或讥其过约，而玄伯为之逾甚。
太祖常引问古今旧事，王者制度，治世之则。玄伯陈古人制作之体，及明君贤臣，往代废兴之由，甚合上意。未尝謇谔忤旨，亦不谄谀苟容。及太祖季年，大臣多犯威怒，玄伯独无谴者，由于此也。太祖曾引玄伯讲《汉书》，至娄敬说汉祖欲以鲁元公主妻匈奴，善之，嗟叹者良久。是以诸公主皆厘降于宾附之国，朝臣子弟，虽名族美彦，不得尚焉。尚书职罢，赐玄伯爵白马侯，加周兵将军，与旧功臣庾岳、奚斤等同班，而信宠过之。
太祖崩，太宗未即位，清河王绍闻人心不安，大出财帛班赐朝士。玄伯独不受。太宗即位，命玄伯居门下，虚己访问，以不受绍财帛，特赐帛二百匹。长孙嵩已下咸愧焉。诏遣使者巡行郡国，纠察守宰不如法者，令玄伯与宜都公穆观等按之，太宗称其平当。又诏玄伯与长孙嵩等坐朝堂，决刑狱。
太宗以郡国豪右，大为民蠹，乃优诏徵之。民多恋本，而长吏逼遣。于是轻薄少年，因相扇动，所在聚结。西河、建兴盗贼并起，守宰讨之不能禁。太宗乃引玄伯及北新侯安同、寿光侯叔孙建、元城侯元屈等问曰：「前以凶侠乱民，故徵之京师，而守宰失于绥抚，令有逃窜。今犯者已多，不可悉诛，朕欲大赦以纾之，卿等以为何如？」屈对曰：「民逃不罪而反赦之，似若有求于下，不如先诛首恶，赦其党类。」玄伯曰：「王者治天下，以安民为本，何能顾小曲直也？譬琴瑟不调，必改而更张；法度不平，亦须荡而更制。夫赦虽非正道，而可以权行，自秦汉以来，莫不相踵。屈言先诛后赦，会于不能两去，孰与一行便定。若其赦而不改者，诛之不晚。」太宗从之。
神瑞初，诏玄伯与南平公嵩等坐止车门右，听理万机事。并州胡数万家南掠河内，遣将军公孙表等率师讨之，败绩。太宗问群臣曰：「胡寇纵暴，人众不少，表等已不能制。若不早诛，则良民大其祸。今既盛秋，不可为此小盗，而复兴众以废民业。将若之何？」玄伯对曰：「表等诸军，不为不足，但失于处分，故使小盗假息耳。胡众虽盛，而无猛健主将，所谓千奴共一胆也。宜得大将军为胡所服信者，将数百骑，就摄表军以讨之，贼闻之，必望风震怖。寿光侯建，前在并州，号为威猛，胡丑畏服，诸将莫及。」太宗从之，遂平胡寇。寻拜天部大人，进爵为公。
泰常三年夏，玄伯病笃。太宗遣侍中宜都公穆观就受遗言，更遣侍臣问疾，一夜数返。及卒，下诏痛惜，赠司空，谥文贞公。丧礼一依安城王叔录俊故事。诏群臣及附国渠帅皆会葬，自亲王以外，尽令拜送。太和中，高祖追录先朝功臣，以玄伯配飨庙庭。
玄伯自非朝廷文诰，四方书檄，初不染翰，故世无遗文。尤善草隶行押之书，为世摹楷。玄伯祖悦与范阳卢谌，并以博艺着名。谌法钟繇，悦法卫瓘而俱习索靖之草，皆尽其妙。谌传子偃，偃传子邈；悦传子潜，潜传玄伯。世不替业。故魏初重崔卢之书。又玄伯之行押，特尽精巧，而不见遗迹。子浩，袭爵，别有《传》。
次子简，字冲亮，一名览。好学，少以善书知名。太祖初，历位中书侍郎、征虏将军，爵五等侯，参着作事。卒。
简弟恬，字叔玄，小名白。历给事中，赐爵绎幕子。出为上党太守、平南将军、豫州刺史。进爵阳武侯。坐浩伏诛。
始玄伯因苻坚乱，欲避地江南，于泰山为张愿所获。本图不遂，乃作诗以自伤，而不行于时，盖惧罪也。及浩诛，中书侍郎高允受敕收浩家，始见此诗。允知其意，允孙绰录于允集。始玄伯父潜为兄浑诔手笔草本，延昌初，着作佐郎王遵业买书于市而遇得之。计诔至今，将二百载，宝其书迹，深藏秘之。武定中，遵业子松年以遗黄门郎季舒，人多摹拓之。左光禄大夫姚元标以工书知名于时，见潜书，谓为过于己也。
玄伯弟徽，字玄猷。少有文才，与勃海高演俱知名。初徵相州别驾、中书侍郎，稍迁秘书监，赐爵贝丘侯，加龙骧将军。乐安王范镇长安，世祖以范年少，而三秦民夷，恃险多变，乃选忠清旧德之士，与范俱镇。以徽为散骑常侍、督雍泾梁秦四州诸军事、平西将军、副将，行乐安王傅，进爵济南公。徽为政务存大体，不亲小事。性好人伦。引接宾客，或谈及平生，或讲论道义，诲诱后进，终日不止。以疾徵还京师。真君四年卒，谥曰元公。士类无不叹惜。
时清河崔宽，字景仁。祖彤，随晋南阳王保避地陇右，遂仕于沮渠李皓。父剖，字伯宗，每慷慨有怀东土，常叹曰：「'风雨如晦，鸡鸣不已'，吾所庶几。」及世祖西巡，剖乃总率同义，使宽送款。世祖嘉之，拜宽威远将军、岐阳令，赐爵沂水男。遣使与宽俱西，抚慰初附。徵剖诣京师，未至，病卒。高宗以剖诚着先朝，赠散骑常侍、镇西将军、凉州刺史、武陵公，谥曰元。宽还京，拜散骑侍郎、宁朔将军、安国子。未几，出为弘农太守。初，宽之通款也，见司徒浩。浩与相齿次，厚存抚之。及浩诛，以远来疏族，独得不坐。遂家于武城，居司空林旧墟，以一子继浩弟览妻封氏，相奉如亲。宽后袭爵武陵公、镇西将军，拜陕城镇将。二崤地险，民多寇劫。宽性滑稽，诱接豪右、宿盗魁帅，与相交结，倾衿待遇，不逆微细。是以能得民庶忻心，莫不感其意气。时官无禄力，唯取给于民。宽善抚纳，招致礼遗，大有受取，而与之者无恨。又弘农出漆蜡竹木之饶，路与南通，贩贸来往。家产丰富，而百姓乐之。诸镇之中，号为能政。及解镇还京，民多追恋，诣阙上章者三百余人。书奏，高祖嘉之。延兴二年卒，年六十三，遗命薄葬，敛以时服。