熙宁三年，张载辞官回到横渠镇，从此，他潜心讲学，发奋著述。他的家境并不宽裕，但有薄田数百亩以供生计，他在勤奋的学习和钻研中自得其乐。《行状》说他“终日危坐一室，左右简编，俯而读，仰而思，有得则识之，或中夜起坐，取烛以书。其志道精思，未始须臾息，亦未尝须臾忘也”。他在文化的海洋中刻苦地求索，在理论的山峰上孜孜不倦地攀登。在这个期间，他还开始招收门徒，传授学问，逐渐形成了以他为核心的关中学派。

北宋时代的新儒学运动，因为五代之后传统的儒学已经发生了危机，政治家失去理论兴趣，只知道讲功利之学；儒生又困于章句而不究义理；佛道之学则尚虚无而不涉实际。

因此，重建儒家的理论体系成为时代的使命。张载自从走上学术道路，就一直怀着这种使命感。

在这段期间，他撰写了著名的《西铭》一文。《西铭》又名《订顽》，是他在横渠镇讲学时写在西边窗户上的一篇铭文。全文只有五百多字，是供学生修养的纲领，但它是张载思想体系的一个重要环节。文章从天人一本讲起，以仁孝为核心，阐述了张载的基本哲学观念和政治伦理思想。二程最推崇《西铭》。程颢说：“孟子之后未有人及此”，“要之仁孝之理皆备于此。”

天人一本，这是新儒学的共同信念。但这个本是什么？关学和二程的洛学却有不同的回答。关学是以气为本，洛学是以理为本，这个本的不相同，表现出两个学派的学风也不同。关学注重自然科学和实际问题，对于天文、地理、兵法、医学、礼制都进行广泛的探求。洛学则注重人的内心修养，讲学问就是讲修养，读书主要是“涵泳义理”。所以二程批评张载的学术，说他“有苦心极力之象，而无宽裕温和之气”。这正好说明张载的关学注重实用知识，注重社会实际问题的特征，与后来只知道“低头拱手，空谈性命”的理学家是完全异趣的。

与关学、洛学同时并存的，还有王安石为代表的新学，三苏父子为代表的蜀学。王氏新学也因他颁布的《三经新义》而得名，主要是为他推行变法的政治改革服务的，蜀学则以文学著称，因而都不能成为哲学化的新儒学运动的主流。此外还有周敦颐的濂学，周氏本来没有形成自己的学派，因为他是第一个探讨儒学本体论的，又当过二程的老师，开创之功不可灭，所以后来尊他为濂学。实际上，作为北宋新儒学运动的干城，就只有关学和洛学了。

张载开创的关学，在他关中讲学的时期，已经是门生云集，影响很广。据《宋元学案》和张骥的《关学宗传》记载，当时关学的阵营已经很大，著名的弟子有吕大忠、吕大钧、吕大临三吕兄弟，还有苏囗、范育、薛昌期等。受学于张载的则有种师道、游师雄、潘拯、李复、田腴、邵彦明等。但到张载身后，由于他生前不是名公巨卿，没有政治势力，也没有富厚的田产、宗族，关学的阵营开始衰落。他的著名的弟子三吕和苏囗投入二程的门下，关学开始洛学化。只有未及门的弟子李复还在坚守张载的正传。到明代，关学曾一度复兴，但是关学的内容却打着程朱的旗号。只是到明末清初的李囗和王夫之，特别是王夫之，重新推崇张载为正学，把张载的唯物主义宇宙论发展到一个最高的阶段。

张载在学术上的追求，可以概括为一个“新”字。他在一首《咏芭蕉》的诗中写道：“芭蕉心尽展新枝，新卷新心暗已随，愿学新心养新德，旋随新叶起新知”。学新心，养新德，起新知，宋代新儒学的形成，与这种求新的思潮是分不开的。这个新就表现在儒学的哲学化。周敦颐是把道家的宇宙论与儒家的易学相结合，建立他的天人一本理论。二程则汲取佛教本体论的形式，创立了理一无论的哲学。张载与他们不同，他是在总结当代自然科学和传统易学的基础上，创立自己独特的“太虚即气”的宇宙本体论。正如朱烹评论他说的：“横渠之学是苦心得之”，说很少有人象张载的关学派那样用功求索的。张载自己也说：“学贵心悟，守旧无功”。刻苦学习前人的知识而不墨守前人的陈规，坚持不懈地探索和锐意求新，终于创立了他自己无愧于时代的哲学体系。

宇宙论是一个时代哲学的基础，晋、唐的儒学忽视了这个基础，使儒学的地位下降，造成儒、佛、道三家争雄的局面。北宋新儒学各派的第一件大事是确立了各自的宇宙本体论。然而新儒学的目的并不是停留在宇宙本体论上，他们的中心是要寻求人生价值和意义的人性论哲学，而落脚点在保持社会等级和谐的政治伦理哲学上。

张载在青年时代完成的《易说》，已经确立了他的“天人一气”的基本理论格局。隐退关中讲学时期，他又写了《东铭》和《西铭》两篇纲领性的文章。《东铭》是讲宇宙论的，《西铭》则以宇宙论为起点，以人性论为枢纽，以仁孝忠敬为依归。因此《西铭》被当代学人及后代儒者奉为圭桌。关学的气本论和洛学的理本论在哲学上虽然有唯物与唯心的差异，但归根到伦理哲学上，维护封建等级秩序，实现各安其分的社会理想，二者却是一致的。人是自然孕育出来的，在等级有序的宇宙大系统中，人可以找到自我的归宿：“富贵福泽，将厚吾之生也；贫贱忧戚，庸玉女于成也”（《西铭》）。以至于生与死，都是气的聚散，人浑然与万物同体。这是以天道为纲、讲心性、讲伦常的新儒学的基本的价值观念。

从《易说》到《西铭》，张载的学术贯彻着自己“学贵以有用”的思想。他讲天道性命的字富本体论是论证他“民胞物与”的社会理想和三代之治的政治理想的。他投身仕途也不是为了谋取高官厚禄，而是为了实现自己的社会政治理想。他曾说：“孰能少置意于科举，相从于尧舜之域否？”这是新儒学所倡导的精神境界，所谓“孔颜乐处”。

《西铭》是张载思想体系的一个重要环节，但这还只是一个简单扼要的纲领。真正形成他的天人一气的哲学思想体系的，是他晚年完成的长篇著作《正蒙》。《正蒙》是他在关中讲学的最后年月写成的，他死以前没有公开，只给他的弟子们看过，他死后才由他的弟子编次刊行。《正蒙》一共17篇，包涵丰富的内容，《西铭》《东铭》都收在最后的《乾称》一篇中，可见张载本人是把它当作已完成的思想体系的。形式上，《正蒙》探讨的是易学的基本范畴，王夫之说：“张子之学，无非易也。”核心内容是以“太虚无形、气之本体”来说明天道、世界、人生、社会，以批判佛道二家以“虚无”为本的邪说。这个“气之本体”，中涵浮沉、升降、动静的运动，它是有无虚实“通一无二”的实体。气是天与人共同的本源，所以天与人是合一的。人通过对天人合一的认识，反思源本于天的心和性，就能达到“诚”的道德境界。这样，人道与天道，历史与自然，人性与天性合而为一，人与万物浑然为一，从而找到民胞物与的仁心，也找到人自己在永恒宇宙中的归宿。现实的封建等级制度，只要按照宗法大家族的样式来构造，在上的统治者象个大家长，穷苦百姓象家族中年幼无靠的子弟，等级社会也就和谐完美了。天道性命的理与封建礼教的礼就这样结合了。《正蒙》是从《西铭》开始的思想的系统化和具体化，而在哲学宇宙论上，却包涵了前此没有的许多闪光的唯物主义思想。张载之后《正蒙》成为关学的经典。二程的弟子杨时说：“《正蒙》一书，关中作者尊信之与《论语》等。”后代治张子学术的也都把《正蒙》作为其思想的代表作。

熙宁九年，因为吕大防的推荐，张载最后一次被征入朝。当时他正有病在身，但他还是怀着对实现政治理想的希望出发了，他说：“不敢以疾辞，庶几有遇焉。”到京以后，授与知太常院的差事，是管礼仪的。其时有人向朝廷建议实行婚冠丧葬的古礼，诏下礼官讨论，礼官们认为古今异俗，不能实行，但张载坚持认为可行，斥责反对者的作法“非儒生博士所宜。”张载又发现郊庙之礼不严，他亟想纠正，然而没有人附和他。他感到没有必要在官场待下去了，加上身体有病，于是毅然辞官西归，路过洛阳时，会见二程兄弟讨论了理学问题，走到临渲，病逝在旅舍，死时只有一个外甥在身边，行囊中索然无物。第二天，他的在长安的学生们听到了消息，赶来奔丧，大家捐献一些钱财，才能入敛成礼，然后归葬于家。这位“为天地立心，为生民立道”的学者，把毕生的精力贡献给了自己的学术和理想，享年58岁。