弘治十七年（1504年）九月，王阳明又被转任为兵部武选清吏司主事，负责选拔武官的考试，于是回到京师赴任。

当时的学者都沉溺于词章记诵之学，而不知身心修行之学为何物。于是王阳明开始讲学，希望借此启迪大家的心智，让他们树立圣人之志。闻者兴起，已有人愿意拜到他的门下，希望跟随他学习。

王阳明竭尽诚意去提倡圣贤之学，但当时的很多学者因为沉溺于记诵之学和口耳之学太深，反而批判王阳明是在提倡异端，是在为自己博取声名。

唯独翰林院庶吉士湛甘泉理解王阳明的心思。两人一见如故，终日畅谈，最终成为莫逆之交，共同致力于复兴圣学，从此终生未改其志。后来，在王阳明去世以后，湛甘泉还特意为其写了墓志铭。

在王阳明归于圣学以后，也就是在这一时期，曾作过一首题为《赠阳伯》的诗，其中写道：

阳伯即伯阳，伯阳竟安在？大道即人心，万古未尝改。长生在求仁，金丹非外待。缪矣三十年，于今吾始悔！