书院初建时曰东山精舍，1900年改称东山书院，1905年建产湘乡县公立东山高等小学堂，1940年改办中学，名曰湖南省私立东山初级中学，直至全国解放。1951年，私立东山初级中学与湘乡市一女子[[职业]][[学校]]合并为湘乡市一初级中学。1952年，中南军政委员会教育部决定在书院旧址恢复东山学校，定名为“湖南省立东山小学”。1958年9月10日，毛泽东给师生写信并题写校名后称东山学校<ref>[https://www.sohu.com/a/355830538_100303500 东山学校：毛泽东走出韶山冲踏上革命征途第一站]，搜狐，2019-11-25 </ref>。现在东山书院已成为一所完全中学。

1895年，书院建设尚未动工，而[[清朝]]政府在[[甲午战争]]中一败涂地，签订了丧权辱国的《[[马关条约]]》。面对国是日非，民族危机空前严重的形势，许时遂等人痛感建立旧式书院，培养崇儒通经的旧式人才已不能满足国家的需要，必须培养能够“兴国而强兵，足民而丰财”的实材。而要培养这样的人才，唯有兴办带有救亡图存性质的新式学校，学习西方的[[自然科学]][[知识]]和[[社会科学]]知识。于是，他们在当年的十二月初六日，直接上书湖南巡抚、[[维新派]]的积极支持者陈宝箴，要求“仿湖北自强学堂成法”。“及时兴办”东山精舍。陈宝箴对他们的禀文和《东山精舍章程》非常赞赏，因此当日就批复：“仰湘乡县移令该，转饬东山精舍绅董，迅速举办，以收兴学育才之效。”