1906年“汝阳师范传习所”创建 。
1908年汝宁知府李汝珍在“汝阳师范传习所”的基础上成立了“汝宁府初级 师范学堂” 。
1916年,部分并于豫南师范后,改称“河南省第三师范学校”,学制一年,1919年改为修业二年,1924年为学制三年。 1937年易名为“汝南县立简易乡村师范学校”。1940年迁到平舆三里桥闫寨,1943年夏迁回北门里胡宅。1944年日寇侵汝,又迁到平舆杨埠东岗寺,次年迁回城内后龙亭街。因政局动荡,学习于1948年秋并于汝南联合中学。
1949年1月汝南解放,人民政府对教育十分重视,又把“汝南县立简易乡村师范学校”从县联合中学独立出来,筹建短期师资培训班(简称短师班)。
1951年春,为适应全县小学教育的发展,满足师资需要,县人民政府决定在短师班的基础上,着手建立汝南县初级师范学校。1951年夏,筹建工作就绪,招收学生5个班,学制二年,校名为“汝南简易师范学校”。
1952年秋易名为“汝南初级师范学校”,招收高小毕业生及同等学力的社会青年,学制三年,毕业后由国家统一分配工作。
1955年学校搬迁至汝南校址,改名为“河南省汝南师范学校”。
2001年,汝南师范学校尝试两条腿走路办学思路——成立高中部。翌年,经河南省人民政府批准学校改名为“河南省汝南幼儿师范学校”,以培养幼儿师资为主,兼招英语、音乐、美术、计算机等专业学生。学校和南阳理工学院联合培养3+2专科层次学前教育师资。2011年和黄淮学院联合培养五年一贯制专科层次学前教育师资。同时,凭借幼师专业优势,与外省合作,开办了山西(省)班、陕西(省)班、河北(省)班、财会班、计算机班、英语班、音乐班、美术班、体育班。
2002年,国家对师范学校布局结构进行调整,三级师范向两级师范过渡。2002年9月中师调整,改名为“河南省汝南幼儿师范学校”。
2007年,汝南幼师师范学校高中部停止招生,把全部精力用于办好幼儿师资教育,较好地扭转了招生形势,招生数量逐年走高,并保持和突破了3000人大关,创造了建校以来的历史新高。
2010年10月,驻马店市第四高级中学(原上蔡师范学校)并入汝南幼儿师范学校。2010年10月27日,汝南幼儿师范学校等四所院校迁入市职教园区规划建设,汝南幼儿师范学校新校区项目申报幼儿师范专科学校,按在校生8000人规模设置。驻马店幼儿师范高等专科学校由驻马店市人民政府筹建,同时指定由汝南幼儿师范学校负责组织建设和管理。2012年列入河南省高等学校设置“十二五规划”。2013年经河南省高等学校设置专家组评议并获全票通过。
2017年,经国家教育部备案升格为驻马店幼儿师范高等专科学校。