太谷古城衙署位于古城正中鼓楼北，坐北面南。始建于北周建德六年（577）。元大德三年（1299）重修，明洪武三年（1370）增修。明正德十年（1515），建大堂5间，称“节爱堂”。大堂左右为房，东为赞政厅、铺长司及吏、户、礼房；西为阁库、承发司及兵、刑、工房。大堂两侧建甬道，堂前正中为戒石亭。亭前仪门3楹，东为仓、西为狱、南为兵器库。
外为大门3楹，前为宣化坊，坊左右建亭，称旌善亭、申明亭，再前为照壁，正对鼓楼北门。大堂后，东为书房，西为抄案房。后堂4间，称“自公亭”。再后为正楼，上下各5间，为寝室。楼后建观音阁1座。此外，署内建有社神祠、酂侯祠（萧何庙）、寅宾馆等。其时通过葺旧增新，已有房舍120余间，规制大备。明万历二十四年（1596）及清顺治至光绪间，屡有修葺。
民国元年（1912）之行政官厅、民国7年（1918）之县官署、民国17年（1928）之县政府俱设县署内。民国11年（1922），知事安恭己于署内办公厅后建北庭5间，前植花木，称“小河阳”并重修堂、厅、门、舍。“七七事变”以后，日伪县公署设此。抗战胜利后，阎锡山县政府设此。
民国37年（1948）秋，民主县政府在此开始办公。1949年以后，县人民政府及其所属机构在此办公。20世纪50年代，屋舍屡有新建，堂、厅、馆、坊尽废。1968年7月，县人民政府搬迁后为县武装部、县公安局、看守所及县直机关第二幼儿园驻地，现为县武装部驻地。古城衙署现尚存大堂、二堂、正楼及部分建筑，为县级文物保护单位。