离昆山后，炎武“绝江囗淮”，于顺治十四年（1657）秋抵山东莱州（治今山东技县）。翌年春至泰安，又至曲阜谒孔庙，并在章丘桑家庄购置日产，“垦田于章丘之长白山下”（《神道表》），年末，经菜州、济南至北京。顺治十六年（1659），炎武到了山海关，凭吊昔日旧战场；然后又折回关内，至昌平州（今北京市昌平县）天寿山谒十三陵。瞻仰列祖列宗陵寝时，炎武悲从中来，“下痛万赤子，上呼十四皇。哭帝帝不闻，吁天天无常”（《亭林诗集》三，《恭谒天寿山十三陵》）；但炎武并未灰心，“天运未可亿，天心不可量”，对恢复明室仍然满怀希望。谒陵之后，炎武经居庸关返归山东。这年五月，张煌言（字玄箸，浙江宁波人）、郑成功（字大木，福建南安人）率甫明军大举入长江，七月，舟师直抵南京观音门外江面，一时江淮震动。“江上传夕烽，直彻燕南陲，皆言王师来，行人久奔驰”（《诗集》三，《江上》，下引同），炎武闻知这一喜讯，急忙南下。可惜“宋义但高会，不知兵用奇，顿甲守城下，覆亡固其宜”，当炎武行至扬州，南明军已经失败，炎武怅怅北返，于年底到达天津。

康熙元年（1662），顾炎武在北京。当他听说永历帝在昆明被害的消息后，心知复明已无多大希望，于是“笃志经史”，把更多的精力放在学术研究上。这年，被革职的归安（今浙江吴兴）知县吴之荣告发庄廷拢私修明史，其中“颇有忌讳语”；炎武好友吴炎、潘柽章受牵连入狱，第二年遇难。同案株连多达700余家，死78人，其中还包括一些地方官员。炎武已于去冬离京赴山西，在汾州（今汾阳）接到吴潘二人的凶信，十分悲痛，于是在旅舍设奠，遥祭亡友，其祭诗云：“一代文章亡左马，千秋仁义在吴潘。”还写了《书吴潘二子事》一文，表彰故友的学问节操，记述“明史案”的始末。顾炎武对明正德以来“二三先生招门徒，立名誉，以风显于世”（《文集·与友人论门人书》）的风气深为不满，他自己也“不坐讲堂，不收门徒”（《余集·与潘次耕札》），而这次却破例以潘柽章幼弟潘来为门生，以表达对故人的怀念之情。此后，炎武取道蒲州（今山西永济）入潼关，遍游关中；次年至河南辉县访孙奇逢（字启泰，河北容城人，学者称夏峰先生），年底返山东。

康熙五年（1666），炎武与友人李因笃（字天生，一字子德，山西洪洞人）等20余人集资买回，垦荒“于雁门之北，五台之东”，欲效法马援（字文渊，陕西兴平人，东汉名将，曾为伏波将军、陇西太守）、田畴（字号泰，河北玉田人，东汉末垦田徐无山中，曾助曹操征乌桓）“从塞上立业”（《神道表》，下同），准备定居代北，说：“使吾泽中有牛羊千，则江南不足怀也。”后因不耐气候严寒，经营创始之后，即令“门人辈司之”，自己又只身出游。

康熙七年（1668），莱州黄培诗狱案涉及到顾炎武。炎武时在北京，听说此事后立即赴山东对质；三月二日抵济南，下济南府狱。大约两年前，莱州即墨人姜元衡告发其旧主黄培收藏刊印“逆诗”，本年正月，姜在审讯中称：“逆诗”内有《忠节录》一书，“系昆山顾宁人到黄家搜辑发刻”，实则炎武与姜素不相识；此案还株连“江南北之名士巨室”300余人。炎武念及“事关公义，不宜避匿；又恐久而滋蔓，贴祸同人”（《蒋山佣残稿·与人书》），故“不惜微躯，出而剖自此事”。这个案子可能跟炎武垦田章丘一事也有联系，上引《与人书》云“衅起于章丘，祸成于即墨”；顾衍生所撰炎武《年谱》亦云“是狱为谢长吉主唆”（谢世泰字长吉，章丘人，炎武与其曾有过经济上的纠纷）。

这次无妄之灾持续半年以上，炎武在狱中十分艰难，“每日以数文烧饼度活”，几乎不支。幸得友人李因笃等多方奔走，大力营救，并至济南看望炎武，到十月这场冤狱方才暂告一段落，炎武始得取保出狱。次年夏，炎武又回章丘，与谢长吉对簿公堂，“虽陷害之情未明，而霸占之律已正”（《佚文辑补·与颜修来手札》），案子才算最终了结。初冬，炎武由保定抵平原（今属山东），(木圣)幼弟潘耒（字次耕）前来谒见，正式拜门受业。(木圣)章被难后，潘来居淮安王略家中读书，并与王略之女成婚。这年六月，岳父和妻子相继去世，潘耒遂北上往投炎武。

岁月的流逝，没有使炎武忘却家国之恨；境遇的坎坷，也没有使炎武的耿耿孤忠有所销蚀。康熙十年（1671），炎武再游京师，住在外甥徐乾学（字原一，号健庵，昆山人，曾任内阁学士、刑部尚书）家中。当时，清廷议修《明史》，翰林院掌院学士熊赐履（字敬修，湖北孝感人，后来曾任武英殿大学士兼刑部尚书）为此设宴款待炎武。席间，熊邀请炎武参与撰述，炎武断然拒绝，说：“果有此举，不为介推之逃，则为屈原之死矣！”（《蒋山佣残稿·记与孝感熊先生语》）赐履与出席作陪的徐乾学相顾愕然。康熙十七年（1678），清廷为纂修《明史》，“特开博学鸿词科，征举海内名儒”（《年谱》），一时知名之士赴召者所在多有。翰林院掌院学士叶方苞（宇于吉，昆山人，方恒胞弟）和经筵讲官韩囗（字元少，江苏吴县人）准备向朝廷推荐顾炎武，炎武坚辞，三度致书方蔼，表示“耿耿此心，终始不变”！叶、韩知炎武志不可屈，方才作罢。后人有诗云：“到底不曾书鹤版，江南惟有顾圭年。”次年，叶方蔼为明史馆总裁，又欲招炎武入史局，炎武回信说：“人人可出而炎武必不可出”，“七十老翁何所求？正欠一死！若必相逼，则以身殉之矣！”（《文集》三，《与叶讠刃庵书》）且自此以后，“遂绝迹不至都门”（《年谱》），以表明自己不与当局合作的决心。

自康熙七年（1668）“明史案”后近十年中，炎武仍仆仆于燕赵齐豫陕晋之间，“频年足迹所至，无三月之淹”（《文集》六，《与潘次耕》）。由于年过六旬，尚无子嗣（38岁时得一子，名贻谷，3岁即夭折），因而江南亲友商议，以族侄衍生过继炎武为子。康熙十六年（1677），衍生在其师李云囗陪同下由江南赴山东德州，与炎武“行父子相见之礼”。时年衍生12岁，炎武则六十有五。这年十一月，炎武往游西岳华山，居友人王山史（名弘撰，字无异，陕西华阴人，与炎武订交于康熙初）家。炎武认为“此中山水绝佳”，于是有卜居华下、以年余年的想法，山史进为之构筑屋舍。康熙十八年（1679），炎武携衍生迁入新居。康熙二十年（1681）八月，炎武由华阴至曲沃，不幸染病，呕泻不止，经医生疗治，数日后病势稍减；然而，到康熙二十一年（1682）正月四日，病又复发，竟日夜呕泻，初九日凌晨，炎武溘然长逝。衍生当时年仅17，又从未经历过这种大事，全仗居停主人韩宣（字句公，曲沃人）及炎武生前友好一力操持治丧；两个月后，炎武堂弟顾囗（字大云）由江南赶赴曲沃，与衍生一道扶枢南返，归葬于昆山祖茔。

自顺治十四年（1657）“掉首故乡”，20多年来，炎武“身负沉痛，思大揭其亲之志于天下”（《神道表》引炎武友人王良语），东西南北，惨淡经营，“九州历其七，五岳登其四”（《文集》六，《与戴耘野》），至死不忘恢复明室。晚年定居华阴，亦有极深的用意。他在《与三侄书》中说：“华阴绾毂关、河之口，虽足不出户，而能见天下之人、闻天下之事。一旦有警，入山守险，不过十里之遥；若志在四方，则一出关门，亦有建瓴之便。”（《文集》四）在《与李星来书》中也说此地“三十年来，在在筑堡，一县之境，多至千余。人自为守，敌难追攻。此他省所无，即天下有变，而秦独完矣”（《文集》三）。其置田垦荒，也是为了同一目的。全祖望《神道表》说：“先生既负用世之略，不得一选，而所至每试之垦田度地，累致千金”；“先生置田五十亩于华下，供朝夕，而东西（按即“章丘长白山下”和“雁门之北”两地）开垦所人，别贮之以备有事”，至于炎武自己的日常用度则相当俭省，一年所费“约一百二三十金”（《残稿》三，《与原一公肃两甥》），曾“饵沙苑、蒺藜而甘之，曰：‘啖此久，不肉不茗可也。’”（《神道表》）

由于种种缘故，炎武的图谋付诸实践的希望愈来愈小，“奔走流离，老而无子，其幽隐莫发，数十年靡诉之衷曾不得快然一吐”（《神道表》），内心深处之悲愤哀痛自不待言，但他从不因此而颓唐或者怨天尤人，其“耿耿未下”之心终始如一。一生当中，他多次哭吊孝陵、十三陵、思陵；以抒故国遗民之情，多次以死坚拒清廷的征召；他的外甥“昆山三徐”（徐乾学、徐元文、徐秉义）”崛起云霄”、官高爵显之后，为报母舅接济之恩，在昆山买回置宅，多次敦请他回乡安享天年，他却始终不肯南归……炎武所表现出的那种富贵不能淫、贫贱不能移、威武不能屈的高风亮节，作为中华民族的精神遗产，必将永标青史。

作为一个学者，炎武行万里路、读万卷书。《神道表》记载：“凡先生之游，以二马二骡载书自随。所至厄塞，即呼老兵退卒询其曲折，或与平日所闻不合，则即坊肆中发书而对勘之；或径行平原大野，无足留意，则于鞍上嘿诵诸经注疏，偶有遗忘，则即坊肆中发书面熟复之”。跋涉山川不但令炎武眼界大开，而且通过大量艰苦细致的实地取证以及身处其地的真切感受，炎武印证、充实了自己平昔所学，深化了对有关国计民生的学术问题的研究和思索。在“足迹半天下”的漫游中，炎武虽然未能寻访到自己心目中的廉颇、郭解、窦融、耿况一流人物，却结识了许多北方的饱学之士，除了上文曾提及的孙奇逢、李因笃、王弘撰诸人外，著名的还有张尔岐（字稷若，号嵩庵，济南人，独精“三礼”，有《仪礼郑法句读》十七卷）、马(马肃)（字宛斯，山东邹平人，精熟古史，时人称为“马三代”，有《绿史》160卷）、傅山（字青主，山西阳曲人，长于周秦诸子学，知识渊博而有民族气节，炎武与之尤为意气相投）、李囗（字中孚，陕西周至人，博通经学，为关中大儒，学者称二曲先生）等重质实精考核的学者；此外，南方学者游历北方面与炎武订交的则有朱彝尊（字锡鬯，号竹(土宅)，浙江秀水人，当时极负盛名的辞章家、学问家，炎武陷黄培诗狱时获朱氏之助良多）、屈大均（字介子，号翁山，广东番高人，著名诗人，抗清志士）、阎若璩（字百诗，号游医，祖籍太原，后徒淮安，精于考据，有《古文尚书疏证》8卷）等等。炎武与这些友人切磋琢磨、讲学论道，取人之长，补己之短，使自己的学术更上层楼，终于成为继往开来的一代宗师。