元显然之，使法顺报于牢之，牢之以为难。法顺还，谓元显曰：“观牢之言色，必有二心。不如召入杀之，以杜后患。”元显曰：“我方倚以灭玄，乌可先事诛之？且牢之与玄有仇，不我叛也。”乃于元兴元年正月，下诏罪玄。
发京旅一万为中军，命牢之帅北府之众为前锋，大治战舰，刻期进发。玄闻朝廷讨己，大惊，欲为自守之计，完聚众力，专保江陵。卞范之曰：“明公英威震于远近，远显口尚乳臭，刘牢之大失军心，若起兵进临近畿，示以祸福，土崩之势可翘足而待，何有延敌入境而自取穷蹙乎？”玄从之，乃留桓伟守江陵，抗表传檄，罪状元显，举兵东下。斯时，犹惧不克，常为西还之计。及过寻阳，不见有兵，心始喜，将士之气亦振。庾楷专待官军一到，使为内应。适有奴婢私相苟合，楷撞见之，欲治其罪。其奴逃至玄所，发其谋，玄遂收楷斩之。丁卯，玄至姑孰，遣大将冯该进兵攻历阳，守将司马休之出战而败，弃城走。又司马尚之以步卒九千，屯于横江，其将杨秋以偏师降玄，尚之众溃，为玄所执。
元显闻两路兵败，大惧，所仗者唯牢之，屡催进战，不应。原来牢之自诛王恭以后，谓功名莫出其右，而元显遇之不加礼。既为军锋，数诣元显门不得见，因是怨之。又恐玄既灭，己之功名益盛，不为所容，故欲假玄以除执政，复伺玄隙而取之，按兵不动，存一坐观成败之意。斯时，玄虽屡胜，犹惧牢之，不敢遽犯京阙。卞范之曰：“吾观牢之拥劲兵数万，军于溧州，而徘徊不进者，其心必二于元显。若卑礼厚币以结之，与之连和，取元显如拾芥矣。”玄从其计，因问谁堪往者。有从事何穆，与牢之有旧，请往说之。
玄乃使穆潜往，而致书于牢之曰：①衔枚——古代秘密行军时，为了不使军士发出声响，让军士每人口中含一形如筷子之物，称衔枚。
自古戴震主之威，挟不赏之功，而能自全者谁耶？越之文种①，秦之白起②，汉之韩信，皆事明主，为之尽力，功成之日，犹不免诛夷。况为凶愚者用乎？君如今日战胜则倾宗，战败则覆族。欲以此安归乎？不若翻然改图，则可以长享富贵矣。古人射钩③斩袪④，犹不害为辅佐，况玄与君无宿昔之怨乎！
牢之见书不语。穆曰：“桓之遣仆来者，实布腹心于君，事成共享其福，君何疑焉？”牢之遂许与和。刘裕、何无忌切谏，牢之不听。敬宣亦谏曰：“国家衰危，天下之重，在大人与玄。玄借父叔之资，据有全楚，已割晋国三分之二。一朝纵之，使陵朝廷，威望既成，恐难图也。董卓之变，将在今矣。”
牢之怒曰：“我岂不知今日取桓如反掌？但平桓之后，令我奈骠骑何？”遂遣敬宣诣桓请和。玄闻敬宣至，大开辕门，出营相接，深自谦抑。宴饮之次，陈名画观之，谓敬宣曰：“归语尊公，事成之日，朝政悉以相付，吾当仍守外藩也。”敬宣拜辞，玄送出辕门，珍重而别。或问玄曰：“公何敬之若此？”
玄曰：“牢之已在吾掌中矣，不如此不足坚其意也。”敬宣归述玄言，牢之大喜，退兵班渎。
玄闻牢之退，引军直趋新亭。元显见之失色，弃船就岸，陈师宣阳门外。
继知牢之叛己，益惧，欲还宫自守。师方动，玄之前驱已至。拔兵随后，大呼曰：“放仗，京旅皆溃。”元显单骑走，驰至东府，见道子曰：“养兵数载，竟无一人拒敌者，奈何？”父子相抱大哭。俄而兵至，皆束手就缚。元显执至新亭，玄立之舫前而数之曰：“乳臭小子，何不自揣，而妄欲图我！”
元显曰：“为张法顺所误耳！”壬申，玄入京师，百官拜迎于道。诏加玄大丞相，总百揆①，都督中外诸军事。以桓伟为荆州刺史，桓谦为尚书左仆射，桓修为徐、兖二州刺史，镇京口。余皆居职如故。赐道子死，斩元显、谯王尚之、张法顺等于市。由是大权一归于玄，内外莫不畏服。
且说牢之退兵以来，物情大去，威望顿减，心甚悔之。一日诏下，以牢之为会稽内史，大惧曰：“始尔便夺我兵，祸其至矣。”时敬宣在京，玄恐牢之不受命，使归谕之。敬宣归，谓其父曰：“桓玄志不可测，深忌大人功名，必不见容。为之奈何？”牢之曰：“吾受其愚矣。今且据江北以图事，汝往京口速取眷属以来。”敬宣受命而去。牢之日夜忧疑，谓刘裕曰：“前日不听子言，悔之无及。今事急，意欲就高雅之于广陵，举兵以匡社稷，卿能从我行乎？”裕曰：“将军以劲卒数万，望风降服，彼新得志，威振天下，朝野人情，皆已去矣。广陵岂足成事耶？裕当返服还京口，不能从公行也。”
牢之默然。裕退，无忌问曰：“我将何之？”裕曰：“吾观镇北必不免，卿何与之俱死？可随我还京口，徐观时势。桓玄若守臣节，当与卿事之。不然，当与卿图之。”无忌曰：“善。”二人遂不告而去。牢之知裕与无忌去，恐军心有变，乃大集僚佐，告之曰：“桓玄志图篡逆，吾将勒兵渡江，就此举事。愿与诸君共此功名。”一座愕然。参军刘袭曰：“事之不可者，莫大于①
文种——春秋时越国大夫，与越王句践共患难，出计灭吴，功成，被句践赐剑自杀。
②白起——战国时秦将，善用兵，为秦立下累累战功，后被迫自杀。
③射钩——春秋时齐国纠与小白争为国君，管仲辅助纠，曾用箭射中小白衣带钩。后小白为国君（即齐桓公），不记前仇，任管仲为相，遂为霸主。
④斩袪——袪，衣袖。《左传？僖公五年》记载，晋文公重耳出走时，被寺人披斩其袪。后用斩袪代指旧怨。
①百揆（kui，音葵）——古代总领国政的长官。