黄遵宪使日四年，是国人中第一个经过实地考察后写出日本国历史的学者，也是主张向日本学习的中国人的最早代表。其日本观念，先是赞誉和学习，后在警惕和痛恨。

　　甲午之前，日本明治维新方兴未艾，国力蒸蒸日上。黄遵宪为此段历史作论，其《日本国志》里记载“上至官府，下至学校，凡制度，器物，语言，文字，菲然以泰西为式”。并说道：“有志之士，前仆后起，踵趾相接，视死如归。死於刀锯，死於囹圄，死於逃遁，死於牵连，死於刺杀者，盖不可胜数。卒以成中兴之业，维新之功，可谓盛矣。”

　　为此，黄遵宪作长诗赞誉日本启蒙志士，曰：“锁港百不知，惟梦君先觉。到今鴂舌声，遍地设音学。只一衣带水，便隔十重雾。能知四国为，独君识时务。”黄遵宪着实感到，经过国内巨变的日本，已经不再是中国能够清楚认识的国度了。

　　1880年，黄遵宪通过对朝鲜信使金弘集的忠告，阐明了他的东北亚地缘政治主张。在他和中国驻日公使何如璋联合给朝廷的建议中说：“故论中国今日之势，能于朝鲜设驻扎办事大臣，依蒙古西藏之例，凡内国之政治，及外国之条约，皆由中国为之主持，庶外人不敢觊觎”。这个建议后来部分被李鸿章等采纳，导致中国积极介入朝鲜内务，与日本抗衡。此外，在他给金弘集送去的《朝鲜策略》一文中，还提出“自强之道，在实力，不在虚饰……今地球之上，无论大小，国以百数，无一国能闭关绝人者。朝鲜一国，今日锁港，明日必开，明日锁港，后日必开，万不能闭关自守也必矣”。这又何尝不是为中国提出的改革开放的主张呢。

　　黄遵宪全面总结了日本的历史后掩卷长叹：“草完明治维新史，吟到中华以外天。”作此书之目的，乃在于“拟草《日本国志》一书，网罗旧闻，参考新政”。但诗人熟悉国内官员信古疑今的陈旧思维，叹曰：“嗟夫！中国士夫，闻见狭陋，于外事向不措意。今既闻之矣，既见之矣，犹复缘饰古义，足己自封，且疑且信；逮穷年累月，深稽博考，然后乃晓然于是非得失之宜，长短取舍之要，余滋愧矣！”

　　面对日本的变法维新，黄遵宪“乃信其改从西法，革故取新，卓然能自树立”。认为其“进步之速，为古今万国所未有”。

　　晚清出国使臣，另一只眼睛一直关注中国的改革，这是时势使然。黄遵宪亦然。在日本，他就对何如璋说：“中国必变从西法。其变法也，或如日本之自强，或如埃及之被逼，或如印度之受辖，或如波兰之瓜分，则吾不敢知，要之必变”。

　　回国后，在日本的经历深刻影响到黄遵宪的维新变法思想。他预计日本在20年之后会变得强大，中国要“谋国经营，有备而战”。但是，他的《日本国志》并没有得到大清朝廷的重视，及至甲午之败，诗人从一个外交家开始转变为一个政治改革家。

　　其“行新政，倡民治”和教育兴国的主张得到光绪皇帝的认可。1896年9月，急于变法维新的光绪皇帝在北京召见了黄遵宪。光绪问“泰西之政何以胜中国？”黄遵宪回答：“泰西之强，悉由变法。臣在伦敦，闻父老言，百年以前，尚不如中华。”言中学西方而又保持中国自信的意义不言自明。光绪帝“惊喜天颜微一笑”。乃决定要重用黄遵宪。不久，黄遵宪被任命为驻德公使，但由于德国方面拒绝而未成行。

　　1898年是黄遵宪政治生涯的顶点。是年正月，光绪皇帝向翁同龢索要《日本国志》。二月，枢臣进《日本国志》一部，但光绪皇帝又要了一部。四月，下诏定国是，布告天下，正式变法。随后，光绪帝特命黄遵宪为出使日本的钦差大臣，本想待黄遵宪使日后回国入朝作改革变法先驱，后因百日维新之故，光绪帝三次下诏催促黄遵宪入京。但是，一次侥幸的痢疾使黄遵宪滞留上海，而躲过了百日维新失败后之捕杀。在外国干预下，黄遵宪脱身回籍。生命的最后时刻，他寄希望于梁启超等人，断言“人言二十世纪，无复容帝制。举世趋大同，度时有必至”。诗人以急切之心匆匆完成了58岁的生命历程。