当父亲于数年之内把家事稍事安顿之后，他便决定撇开家族乡党的小天地而远游北京，另图发展。在1881年（光绪七年）他年已四十，乃向一位经商致富的族伯（胡嘉言）借了一百银元，搭船自上海去天津转往北京。在北京他仅凭两封推荐书，旅行了四十二天，到了吴大澂钦差的驻地宁古塔。吴氏为一自修而成名的大学者、考古家和政治家。父亲告诉吴公他不是来求职的，他只盼吴氏能给予护照和通行证，好让他遍游东北，并考察边疆地理。吴氏对父亲大为赏识，其后吴氏巡行阅边，总是偕父亲同行；尤其是1882年（光绪八年）中俄勘定疆界时，他们曾同晤俄方勘界专员。
就在这一年吴氏正式聘任父亲为其幕僚。稍后吴氏并在父亲毫不知情的情况之下专折向朝廷特别保荐，说父亲胡传“有体有用，实足为国家干济之才，不仅备一方牧令之选”。父亲惊喜之余，当然也深感吴公的知遇。其后多年便一直在吴公幕府，参与机要。
父亲在东北一段时期往各地旅行考察，备历艰险。在1883年（光绪九年）一次（兼查十三道，戛牙河地势）途中，一行人员在森林中大雪迷路，三日不得出。干粮已尽，计无可施。此时父亲忽有所悟，他叫随行人员去寻觅一条山涧，然后循山涧而下。因为山涧总归会流出山区的，循山涧找出路，应该是不会错的。于是他们找到了一条山涧，循涧而下，终于脱险。为此，父亲曾做了一首诗，以为纪念。四十年后，当我在1919年发表一系列有关实验主义的讲演之时，我还举出这个例子，来诠释约翰·杜威在他《思维术》里所阐明的理论。
自1881年以后，父亲便一直致力于公务。自1881年至1886年，他在东北服务六年。1886年先祖母逝世，父亲返里奔丧。翌年又转广州依广东巡抚吴大澂。吴派他去海南岛视察，并报告全岛土著状况，做可能开发的筹划。父亲于此行所保留的详细日记，后来曾发表于专研地理学的《禹贡半月刊》。
1888年（光绪十四年），黄河在郑州一带决口。吴大澂自粤奉调任河道总督；设督署于郑州，监督堤工。父亲乃随吴去郑州。在此期间父亲亦记有详尽日记，记录构料、修堤等工作。当年的河工不但极其腐化，且有各种迷信掺杂其间。迷信之一便是崇奉水蛇、虾蟆为“河神”。
父亲在治河时期日记里便做了十首《郑工合龙纪事诗》，其中的一首便坦白地批判这迷信之无稽。下面便是这首诗的原文：
纷纷歌舞赛蛇虫，
酒醴牲牢告洁丰。
果有神灵来护佑，
天寒何故不临工？
我引这首诗来说明我父亲生命里富于学术的一面。他是笃信宋儒的，尤其崇奉程颢、程颐和朱熹，是所谓“理学”。由于业师刘熙载先生的教诲，我父亲受程朱理学的影响也很大，所以他毫不犹豫地对大清帝国内当时所流行的宗教，予以严肃的怀疑与批判。
由于襄赞治河的劳绩，吴大澂乃保举父亲以直隶州候补知州分发各省候缺任用。1889年（光绪十五年）父亲自郑州请假返籍探亲。便在这一次短暂的探亲假期，我父母就在原籍结婚了。婚后父亲乃携眷返郑州继续治河。翌年，父亲乃离开河南任所往北京等候签派新职。当年合格官吏的选派，多凭抽签决定。父亲抽得往江苏省候补的签，这在当时实在是最好的机会了。所以在1890年到1891年两年之间，我父母均住在江苏省会所在地的苏州；后来又被派往上海，担任“松沪厘卡总巡”。我便是1891年12月在上海出世的。就在这一段时期里，父亲已有“能吏”之名，所以其他各省当局，对他也就竞相延揽了。