山西青年职业学院前身为创建于1950年的共青团山西省委团校。1994年在团校的基础上，经原国家教委和山西省人民政府批准成立山西青年管理干部学院，并保留团校的牌子和职能。2011年经教育部与山西省人民政府批准改建为山西青年职业学院。
1949年，随着太原的解放，华北人民政府通令建立了新的山西省，同时组建了中共山西省委，随即建立起中共山西省委党校，并在党校内设立青年干部培训班。
1950年2月22日，中共山西省委决定以省委党校青年干部培训班为基础，建立共青团山西省委团校。山西省委在青年路北段西侧专门划拨了10万多平方米作为校址。
受“文化大革命”影响，1970年8月，随着共青团山西省委的被撤销，山西省团校停止办学达10年之久。
1978年7月2日，中共山西省委决定恢复共青团山西省委团校，重新开始青年干部培训工作。
1983年，共青团山西省委团校与山西大学联办团干部政治专科班，开始正规学历教育的探索，团校教育走上由过去单一的短期轮训发展为学历教育和短期培训并举的办学路子。
1993年10月，国家教委、山西省人民政府同意按普通高等专科院校建制，成立山西青年管理干部学院，仍保留山西省团校，领导班子实行“一套人马，两块牌子”。由共青团山西省委主管并主办，教学业务上接受省教委的管理、监督、指导。
1997年，在省委组织部政策支持下，学院设基层团干学历班，毕业后进入各级团组织从事青少年工作。
2000年，开始承办高职教育，招收应届高中毕业生和对口中职毕业生。
2002年，学院与石家庄铁道学院合作，设立法学专业本科教学班。
2011年3月2日，教育部、山西省人民政府正式批复山西青年管理干部学院改建为山西青年职业学院。