1892年，不但是我父亲原任所在的江苏省署，就是广东省署和新设的台湾省署，都纷纷奏请朝廷想调请父亲前往各该省任职。但是北京中央则循新任台湾巡抚邵友濂之请，调父亲去台湾任职，盖当时台湾省治新设，需要人才甚急，所以北京吏部乃遴选干员胡传，前往台湾，襄赞省政。奉命之后，父亲不得已只好暂留眷属于上海，于1892年只身赴台。其后在台湾一直任职达四年之久。
在台任职期间，父亲曾巡视全岛各地，并代邵巡抚亲往澎湖列岛视察军务。他的巡台日记，以及对邵巡抚的禀启，均曾由今日的“台湾省文献委员会”付印出版。
父亲因为深谙地理之学，根据所学加以判断，他认为当时全台各地的防御工事，
例如各地的炮台，对台湾的实际防御均无补于事。在（1885年）中法战后，我国南洋海军全毁，台湾门户洞开，全岛实际上无防御之可言。所以他在向省署的禀启中，坦白指陈当时散置全岛各地各种零星防御工事，以及落伍逾龄的各种武器，和那些装备训练均感不足的武装部队，全属浪费。父亲乃禀请省署将这些无用的设施，全部废弃。另行训练一支小型海军，以为全岛防务之用。
父亲在全岛旅行视察之后，由于当时防疫设备不足，乃染上疟疾，卧病甚久。和他同行的仆役亦同染疫疠，甚至无一人生还！
1892年，父亲又受委管理全岛盐政，半年之内便有很多的兴革。最近一位盐务专家便曾根据父亲有关盐政的报告，撰文研讨父亲当年对台湾盐政的贡献。
1893年（光绪十九年）父亲又受（台湾藩台唐景崧）牌委代理台东直隶州知州。台东当时是台湾唯一的一个直隶州。他接任只有一天，台东的后山驻军统领——可能因为心脏病猝发——突告病故。邵友濂巡抚乃委派父亲兼领台东后山军务。所以当我在1952年访问台东时，台东父老仍然记得我的父亲是位武官——胡统领，而非文官——胡知州。
在父亲统军期间，他发现全军有百分之八十至九十的官兵吸食鸦片。因为那时台湾疟疾流行，军中官兵误信鸦片可以防疟，所以几乎全军吸毒。父亲最恨吸毒，故极力使全军戒毒。这些事，在他的巡台日记里都有详细的记载。
就在父亲在台湾担任统领这段时间里，中日甲午战争爆发了。我军战败。强大的北洋海军全部为敌所毁。当北洋海军于1894年全军覆灭时，我父深知台湾已无法防守。如众所知，1895年中日马关和会时，我国把台湾割让于日本作为赔偿。所有清廷派来台湾的官吏，均奉召返回大陆。
可是台湾居民却强烈反对，尤其是当地士绅，他们群起吁请巡抚唐景崧制止割让，并宣布成立“台湾民主国”，选唐景崧为“伯理玺天德”（总统）。这个“民主国”事实上只存在不过数周——甚或只有几天——就完结了，但是台湾的抗日运动却延续至数月之久。
父亲迟至1895年6月25日始离职返国。此时大陆与台湾电讯已断。土著与土匪又纷起滋事。所幸父亲在台时颇有政声，所以尚能沿途通行无阻，返回台湾临时省会所在地（台南）。这时他已染了严重的脚气病，两腿浮肿，不能行动。但正如上节所提，父亲行政才能曾历经上峰嘉许，所以此时的新军事领袖刘永福将军，仍坚留我父在台继续服务。刘氏是前任巡抚和“伯理玺天德”离台后，全岛唯一的军事领袖，那时尚统治南部半个岛。父亲在台直病到不能行动的情况之下，刘氏始允许他离台内渡。父亲于1895年8月18日离台，8月22日病故于厦门——他成为“台湾民主国”的殉难者之一。
下面是父亲于光绪二十一年乙未（1895）6月20日所立的遗嘱。虽然那时和他共患难的家人，都已离台赴沪，我二哥嗣秬尚随侍在侧。遗嘱的全文如下：
予生不辰，自弱冠以后，备历艰险，几死者数矣。咸同之间，粤寇蹂躏吾乡，流离播越，五年之久，刀兵、疠疫、饥饿三者交迫，屡濒于危而不死。在婺源覆舟于鹅掌滩下，亦幸不死。光绪癸未正月，在宁古塔奉檄由瑚布图河历老松岭赴珲春与俄罗斯廓米萨尔会勘边界，中途遇大雪，失道误入窝棘中，绝粮三日不死（窝棘者译言老林也）。乙酉，署五常抚民同知，八月廿三日，马贼猝来攻城，城人逃散，予以十三人御之，幸胜而不死。丁亥，在粤东奉檄渡海至琼州察看黎峒地势，自琼而南，直穿黎心以达崖州，染瘴病困于陵水，亦不死。壬辰之春，奉旨调台湾差委，至则派查全省营伍，台湾瘴疠与琼州等，予自三月奉檄，遍历台南北、前后山，兼至澎湖，驰驱于炎蒸瘴毒之中凡六阅月，从人死尽，而予独不死。今朝廷已弃台湾，诏臣民内渡，予守后山，地僻而远，闻命独迟，不得早自拔，台民变，后山饷源断，路梗文报不通，又陷于绝地，将死矣！嗟呼，往昔之所历，自以为必死而卒得免于死，今者之所遇，义可以无死，而或不能免于死，要之皆命也。汝从予于此，将来能免与否，亦命也。书此付汝知之，勿为无益之忧惧也。光绪二十一年五月二十八日（1895年6月20日）书台东镇海后军中营示儿。
铁花