根据秘书处1963年4月20日“关于恢复、建立专、县档案机构，加强档案工作的意见”，庆阳地委1963年4月22日发文，庆阳专区档案管理处于1963年7月成立，隶属中共庆阳地委，与档案馆合暑办公，统一管理专区文书档案和指导各县档案工作。办公地址设在地委，编制5人。1968年5月，庆阳专区革命委员会保卫部成立清档组。1971年，专、县党的机构恢复后，档案工作逐步列入党委议事日程；1973年，地委和革委会在秘书部门陆续建立档案科（室）。

根据1979年12月27日全国档案工作会议提出的“档案工作恢复、整顿、总结、提高”的任务和地委1979年文件精神“关于恢复地区档案管理处和档案馆的通知”，地区档案处（馆）恢复，档案处设置档案业务指导科和档案管理科。1983年1月，地区档案处撤消，业务并入地区档案馆，隶属地委秘书处，设业务指导科和档案管理科。1984年5月，根据省委办文件精神，地区档案处恢复成立，与档案馆合署办公，为正县级建制，事业编制，一套人马，两块牌子；在性质上既是地委机构，又是行署机构，同时增设办公室，定编19人； 1989年增设档案编研科；1994年7月，成立中共庆阳地区档案处党组。1997年机构改革，庆阳地区档案管理处与庆阳地区档案馆合并，一个机构，两个牌子，为正县级事业单位，是主管全区档案事业的职能机构，归口地委秘书处、行署办公室管理；同时，增设宣传技术科，并改办公室为人事秘书科。

主要职责为：（1）贯彻执行国家的档案工作方针、政策和法律、法规，推行档案管理标准；（2）依据《档案法》和《档案法实施办法》及上级业务部门有关规定，制定全区档案事业发展规划、计划和档案工作的规章制度，并组织实施；（3）对各县（市）档案管理机构的工作和地直机关、团体、企业、事业单位以及其他组织的档案工作进行指导、监督和协调；（4）组织全区档案学理论研究，开展档案保护技术与现代化管理技术的推广与运用，制定档案工作人员队伍建设规划，组织档案专业教育、档案宣传、档案干部的培训。（5）监督检查档案法律法规的实施，依法查处违反档案法律、法规的案件；（6）集中统一管理地委和行署及地直各部门的重要档案资料，依据有关规定，收集和接收应进馆具有保存价值的重要档案、资料；（7）负责馆藏档案资料的整理和安全保管，推进档案工作的科学管理和现代化建设；承担破损档案的修复、复制。（8）组织档案编研，开放档案信息资源，向社会提供档案服务；（9）组织全区、县档案资料的对外交流；（10）承办地委、行署和省档案局交办的其他事宜。

根据以上职责，地区档案事业管理处（档案馆）设有人事秘书、业务指导、宣传技术、档案管理和编研科5个科室，事业编制17名。

2002年撤地设市后，更名为庆阳市档案局（挂庆阳市档案馆牌子），领导关系、机构性质、人员编制维持不变。2007年，根据庆阳市实施公务员法工作领导小组办公室文件精神，市档案局被列入参照公务员管理单位。

2019年2月，机构改革，局馆分设，于2月15日正式挂牌设立庆阳市档案馆，为中共庆阳市委直属正县级事业单位，履行档案接收保管利用职能。内设办公室、宣传技术科、档案管理科、编辑研究科4个科室，编制17人。