了《律令》在此期间，他还以明经学、表节操为目的，游学于幽、并、兖、豫各州，遍访名儒，转益多师，虚心向他们学习，共同探讨学术问题读万卷书，行万里路，不辞劳苦，孜孜求道，郑玄的青年时代，就是这样匆忙而充实地过去了到了而立之年后，郑玄已经成了一名有着较深造诣的经学家
郑玄虽然已经学富五车，但他自己却毫不满足当他感到关东学者已经无人再可请教了的时候，便通过友人卢植的关系，离开故国，千里迢迢西入关中，拜扶风人马融为师，以求进一步深造马融是当时最著名的经学大师，学问十分渊博他遍注儒家经典，使古文经学达到了成熟的境地他的门徒上千，长年追随在身边的就有四百余人，其中优秀者亦达五十人以上
马融为人比较骄贵和讲究，虽然门徒众多，但他只亲自面授少数高材生，其余学生则由这些高材生转相授业郑玄投学门下后，三年不为马融所看重，甚至一直没能见到他的面，只能听其高足弟子们的讲授但郑玄并未因此而放松学习，仍旧日夜寻究诵习，毫无怠倦有一次，马融和他的一些高足弟子在一起演算浑天问题，遇到了疑难而不能自解有人说郑玄精于数学，于是就把他召去相见郑玄当场很快就圆满地解决了问题，使马融与在场的弟子们都惊服不已自此以后，马融对郑玄十分看重，郑玄便把平时学习中发现而未解决的疑难问题一一向马融求教，对于篇籍的奥旨寻微探幽，无不精研，终得百尺竿头更进一步
郑玄在马融门下又学习了七年，因父母年迈需要归养，就向马融告辞返回山东故里马融此时已经感到郑玄是个了不起的人才，甚至会超过自己，他深有感慨地对弟子们说：“郑生今去，吾道东矣！”可惜郑玄东归之后，却遭遇党锢之祸，被禁锢在家不得出门再游学教授
郑玄从四十五岁被禁锢，到了五十八岁才蒙赦令，前后长达十四年在此期间，他打破了经学的家法，注释与著书“几百余万言”，终创立了“郑学”，成为“天下所宗”的儒学黄巾起义爆发后，朝廷被迫大赦党人解除党禁后，朝廷当政者对郑玄的大名已早有所闻，于是争相聘请他入朝担任要职但郑玄求名而不求官，羞与外戚阉寺为伍，绝不愿涉足仕途，乃屡拒征辟，一心一意从事著书讲学的学术工作
黄巾军虽然凶猛暴虐，但却对郑玄十分尊重：“见玄皆拜，相约不敢入县境”，高密一县，竟因此未受黄巾抄掠当时的北海相孔融待之甚厚，告诉手下僚属称之为郑君，不得直呼其名这样，郑玄在七十岁时终于结束了背井离乡的流亡生活，他唯一的儿子郑益恩，在二十三岁时被北海相孔融举为孝廉，可惜被袁绍之子袁谭率黄