1941年，国民政府教育部新疆教育司拟在甘肃设立多所师范学校，发展民族地区教育。同年秋，甘肃省教育厅决定成立“甘肃省立张掖师范学校”，并于当年开始招生。《甘肃省志·教育志》载：“国立西北师范学校迁往临夏，原临夏师范学校迁往张掖，更名为“张掖师范学校”，校址暂定为文庙。1942年，学校由文庙迁往木塔寺，学制四年，招收小学毕业或同等学历者，称“简易师范班”。1945年增设三年制普通班，招收初中毕业生。1942年8月，蒋介石视察张掖，曾巡视张掖师范学校，并拨款维修。至1949年，累计培养小学教师410人。

1949年9月，张掖解放后，人民政府接管张掖师范学校。1950年4月，张掖师范学校与张掖农校、张掖中学三校合并成立“省立张掖联合中学”，内设师范部、农校部、中学部。

1955年春，甘肃省政府决定恢复张掖师范建制，在张掖县城北郊清明坛（现体校址）重建校舍。1956年8月学校正式招生，并逐步形成了三年制中师（招收初中毕业生）、三年制初师（招收小学毕业生）和三年制幼师并存的学制格局。这所学校即可视为后来张掖师范学院的前身。

1958年，中共八届二次会议提出了“鼓足干劲，力争上游，多快好省地建设社会主义”的总路线，各行各业掀起了“大跃进”的热潮，学校教育也不例外。同年8月，中共中央、国务院颁布了《关于教育事业管理权力下放问题的规定》，高等院校分中央部委办、省办和地方办学，分级管理。在此背景下，张掖专区开办了工、农、师范、医、艺术等五所高等学校。1958年9月，在张掖师范学校的基础上，合并张掖二中、张掖青东二校，成立了张掖师范学院，校址即今河西学院南区，隶属张掖地委、专属，这便是张掖历史上第一所高等院校。

新成立的张掖师范学院以适应“多快好省地扫除文盲，大力普及教育”的形势需要，开办附小、附中、附师、师院教育，形成了小学——中学——中师——高师并举的多层次教育格局。学院设语文、数学、生化、体育四个专业6个系科及1个幼儿教养员训练班，教职工30多人。1959年初，既有师范类学生621人，其中中师生415人、高师生226人，学院初具规模。但由于办学条件差，专任教师少，师资结构不合理，教学水平不高。

1959年，中央召开教育工作会议，确定了“巩固、调整、提高”的教育工作方针，同年7月，张掖地委、专署按照集中力量办好几所专科学校的要求，决定将张掖师范学院附师、附中、附小移交张掖市，将张掖师范学院更名为张掖师范专科学校，仍隶属张掖地委、张掖专署。

1962年7月，根据党的八届九中全会提出的“调整、巩固、充实、提高”的方针精神和全国教育工作会议精神，张掖地委、专署决定，张掖师范专科学校停办，其部分教员及全部财产移交张掖师范学校。

1977年8月，党的十一大召开，教育、科学技术等领域开始清源、拨乱反正。经甘肃省委、张掖地委研究决定，在张掖师范学校基础上再次恢复张掖师范专科学校，与张掖师范学校合署办学，实行“两块牌子、一套班子”的领导体制。1978年3月，从1977年参加高考的考生中招收中文、数学2个专业四年制本科班（高师班），中文、数学、物理3个专业二年制专科班。同年秋，又招收中文、数学、化学、英语、美术5个专业的二年制专科班。学校积极创造条件，迅速壮大师资和管理队伍，历经磨砺的张掖高等师范教育终于步入正轨。1978年12月28日，国务院正式批准恢复张掖师范专科学校。1979年9月，张掖地委、专署决定，师专和师范两校分设，师专留原址（即今河西学院南区），师范迁至县城东北角。同年10月，甘肃省决定全省师专为省、地两级双重领导，省教育厅主管行政、教学工作。自此，张掖师范专科学校进入了艰苦创业、发展壮大的新时期。

20世纪80年代以后，张掖师专经过管理体制改革，党政组织机构不断健全，职责分工逐步明细，专业设置更加合理，学校设有中文、数学、物理、化学、英语、美术等6个专业学科，学制均为两年。1983年8月，科改为系，另设马列教研室和图书馆。1985年3月增设政治历史系，1986年3月增设生物化学系，学制均为三年。

1992年10月15日，张掖师范专科学校更名为“张掖师范高等专科学校”。所有专业的学制逐步改为三年。1993年开始，又陆续增设了一批非师范专业：文秘、专门用途英语、计算机运用与维护、电气与电器、化工分析、化工工艺、市场营销、应用电子技术、企业管理、实用美术等，学制均为两年。这一阶段的调整，拓宽了专业口径，优化了人才培养模式，突破了单纯培养师范类人才的办学格局，为以后的专业改造打下了基础。

2000年9月，创建于1941年的张掖农校和20世纪80年代的张掖职业中等专业学校并入张掖师专。开设了农学、园艺、农田水利、农产品贮藏与加工、农业机械、植物保护等专业，使学校办学规模和专业设置得到进一步拓展，为改建河西学院创造了有利的条件。

2000年11月，原张掖师专正式向省政府提出改建河西学院的申请，得到省委、省政府和教育主管部门的高度重视和大力支持。2001年2月25——28日，教育部专家组对张掖师专升本进行实地考察，认为在河西地区设置一所多科性本科院校是合理、恰当的，张掖师专已达到了改建本科院校的标准和条件。2001年5月11日，教育部正式批复成立河西学院。6月19日，河西学院举行了隆重的挂牌庆典。升格后的河西学院实行省地共建（甘肃省政府和河西五市）、以省为主的管理体制。

经过十余年的发展，到2013年9月，河西学院设15个二级学院，14个研究院(所、中心)，开办46个本科专业，涉及11个学科，在校学生13960人，有教职工878人，其中教授75人，副教授165人；硕士450人，博士33人；已建成甘肃省应用真菌工程实验室、甘肃省高校河西走廊特色资源利用重点实验室、钱学森沙产业中心实验室、河西文献学省级重点学科、甘肃省微藻工程技术中心、甘肃省河西史地与文化人文社会科学重点研究基地等教学科研平台。

2012年11月，张掖市政府与河西学院提出将张掖医专并入河西学院，组建河西学院医学院，将张掖市人民医院作为河西学院医学院附属医院，在此基础上积极努力创建河西大学的意见，并报省政府。2013年4月19日，甘肃省政府第8次常务会议进行了认真研究，同意将张掖医专、张掖市人民医院并入河西学院。2014年3月26日，教育部批复省政府，同意将张掖医专并入河西学院。2014年9月16日，省政府办公厅印发《关于将张掖医专和张掖市人民医院并入河西学院的实施意见》，2014年12月10日，省政府办公厅在河西学院召开并入工作会议，原张掖医专和张掖市人民医院正式并入河西学院，成立河西学院医学院和河西学院附属张掖人民医院，拓展了医学教育，构成教育、农学、医学三大类支柱学科体系，学生规模达到20139人，教职工2500多人，土地面积4000多亩，办学实力进一步增强。河西学院迎来了建设发展的新阶段。