祁县为国家历史文化名城之一，其历史可以追溯到新石器时代。对梁村古文化遗址考证证明，早在距今五千年以前的母系氏族公社时期，先民们就在祁县这块土地上繁衍生息。
祁县历史悠久，因古时有“昭余祁泽薮”（长杂草的积水地带）而得名。春秋时，祁地属晋，当时的祁地，几乎包括整个晋中平川。公元前556年，晋平公将祁地赐给大夫姬奚作食邑。姬奚以地为姓，改姓为祁，即历史上有名的“外举不避仇，内举不避亲”的祁黄羊。他的城邑在今祁县的古县镇下古县村。公元前514年，祁奚的孙子祁盈因故被杀，食邑随之没收。晋分祁奚之田为邬（今介休）、祁（今祁县）、平陵（今平遥、文水）、梗阳（今清徐）、涂水（今榆次、太谷）、马首（今寿阳）、盂（今盂县）等七部分。现在祁县的境地，基本上是从那时候确定的。
战国时期，祁地属赵国。秦代，祁地属太原郡。西汉初置祁县。王莽篡汉，改祁为示，后复祁县。晋代恢复分封制，祁县属太原国，县城迁到祁城村。北魏时，祁县属大原郡。孝文帝太和年间，迁县城于今址。北齐天保七年废祁县。隋开皇十年重置县治，属并州。唐武德三年，属太州。后复属并州。金代，在县东南之团柏镇设帻州，县属之，不久帻州废，县属晋州，改祁为祈。元大德年间，复称祁县，属冀宁路。明、清两代属太原府。民国初年属冀宁道。1937年底属山西省第四行政区。解放后属榆次专区，后改称晋中地区。
祁县人杰地灵，名人辈出。有百余人。如东汉王允，东晋温峤，南朝梁之王僧辩，唐朝温大雅三兄弟，宋朝王溥，近代渠本翘，还有著名诗人王维、王绩、词人温庭筠等，社会贤达戴廷式寓居的丹枫阁，就在城内，是顾炎武、傅山等爱国志士聚会的场所。
祁县古城始建于北魏孝义帝太和年间（公元477──499年），距今已有1500多年历史。祁县古城以其严谨、周密的布局设计，精巧细致的建筑工艺，使越来越多的社会人士广泛关注。近年来，许多影视剧组纷纷来祁县拍摄外景。上海同济大学、上河城建学院等高等学府，更把祁县显示明、清建筑风格的街道、民居当作实物教材，多次派师生前来实地考察、研究。有关方面将祁县古城概括为“一城四街二十八巷，六十个圪道，四十个大院，万余间房室”。其间有与乔家大院相媲美的渠家、何家、马家等十二处。
1994年一月，祁县古城被国务院批准公布为国家级历史文化名城，祁县，将以其辉煌的历史，永垂史册，以其灿烂的今天，光照后人。