黄巾农民大起义爆发后，东汉王朝为了平息地主阶级内部的纷争，以一致镇压农民起义，乃大赦党人，这时郑玄已58岁了，才获得自由。

郑玄曾先后游学十几年，走遍了各地，连大经师马融都自叹不如，成了全国著名的经学大师。他著述丰赡，又弟子众多，在当时是有相当大声望的。解除党禁后，朝廷当政者对郑玄的大名已早有所闻，于是争相聘请他人朝担任要职。但郑玄求名而不求官，羞与外戚闭寺为伍，绝不愿涉足仕途，乃屡拒征辟，一心一意从事著书讲学的学术工作。

灵帝中平二年（185年），执掌朝廷权柄的外戚大将军何进为了笼络人心，首先征辟郑玄人朝为官。州郡官吏胁迫起行，郑玄不得已，只好入朝去见何进。何进为表示礼贤下士，对郑玄礼敬有加，设几、杖之礼以待之。郑玄为保其名士节操，拒不穿朝眼，只穿普通儒者的便服与何进相见。仅隔了一夜，未等授予官职就逃走了。

灵帝中平四年（187年），三司府曾先后两次征辟郑玄，但他都借故婉言谢绝了。第二年，郑玄与荀爽、申屠蟠、襄楷、韩融、陈纪等14人并被征为博士，他因父丧而未去。后将军袁隗表举郑玄为侍中，他仍以居丧为理由而拒绝出仕。中平六年（189年），灵帝死，少帝刘辩继位，不久董卓废少帝而立献帝，迁都于长安。这时，公卿们又举郑玄为赵王乾之相，但因战乱道路不通，仍没有受召。

郑玄屡拒征辟，其间除避乱于徐州外，大抵是在家乡隐居，聚徒讲学，专心经术，著书立说。他的弟子遍于天下，多有人自远方而投至门下，如河内赵商、崔琰、公孙方、王基、国渊、郗虑等即为其间著名者。他的学生常常超过千人，为一时之盛。

献帝建安二年（197年），袁绍为大将军，兼督冀、青、幽、并四州，为北中国最大的割据势力。一次他大宴宾客，郑玄应邀出席，在席上对一些所谓“豪俊”的提问进行了一一的答对，语惊四座，使宾客无不折服。袁绍乃举郑玄为茂才，并表请郑玄为左中郎将，但郑玄却毫不为之所动，一一予以婉拒。

献帝建安三年（198年），献帝征郑玄为大司农，这是位列九卿的高官，给安车一乘，所过郡县长吏送迎。郑玄在家拜受后，便乘安车至许昌，但马上又借口有病，请求告老还乡。他虽然并未到任就职，但已经拜受此命，故世人称他为郑司农。

总的看，郑玄解禁后被州辟、举贤良方正、茂才等共有14次，皆拒不受。公车征左中郎、博士、赵相、侍中、大司农，也都没有就职。有汉末黑暗的社会情况下，郑玄有意保持其名士的清节，不肯与他所鄙视的那些外戚、宦官及唯名利是图的假名士们为伍，而一心在学术上发挥自己的才智。以布衣而雄视世人，不愧为真名士。