1986年张掖师专时期，学校成立综合档案室，隶属校长办公室（科级建制）；1993年起，隶属学校党委、院长办公室，设档案室主任1名，档案管理员1名；2015年7月，学校成立档案馆（副处级建制），档案馆现下设综合业务科、信息技术科两个业务科室，现有专职档案管理人员3名，其中馆长1名，科级干部1名，工作人员1名。全校有兼职档案管理人员57名。

现档案馆馆舍总面积（不含办公用房）约260平方米，其中1号档案库房122平米，2号档案库房46平米，阅档室、整理编目室、数字化室等功能室各20多平米；集中统一管理河西学院、原张掖师专、原张掖农校、原张掖职业中专、原张掖医专文书、科技、财务、基建、审计、声像等档案（干部人事档案、学生档案根据相关规定分别由人事处、学工部管理)。

    学校原综合档案室于1993年12月被甘肃省档案局评为“机关档案管理省一级”，1999年2月被国家档案局评为“科技事业单位档案管理国家二级”，2004年2月被甘肃省档案局评为“甘肃省档案工作示范单位”。