下列图中黑色虚线内为当代衡阳市行政区划范围。
秦朝战国末期，秦国灭楚后置长沙郡，今衡阳市地区均属长沙郡管辖。到了秦朝末期，境内置有耒阳县。
耒阳县，即今耒阳市的起源，因耒水得名。隋朝时曾改名为，唐朝又改回，延续至今。在今衡阳市现存县级行政机构中，耒阳建县的历史无疑最为悠久。
西汉上图为公元7年西汉时期。此时今衡阳市境内存在三县，分属长沙国、桂阳郡、零陵郡三地。
，西汉置，位于今衡阳市珠晖区酃湖乡境内。东晋时并入临县，未延续下来。
钟武县，西汉置，位于今衡阳县境内。东汉时改名重安县，唐朝时废，未延续下来。
西晋上图为公元年西晋时期。东吴打仗扩土不行，孙十万几次北伐都无功而返。但是建郡建县能力一流，东吴时期在南方大量新置郡县。一看数据，今年又多管了几个郡县，这算是数据开疆吧？
于是西晋统一后，今衡阳市境内存在八个县，分属四个郡（包括本土的湘东郡）。
衡阳县，东吴太平二年(年)置，不是今衡阳县的起源，而是今衡山县的起源。后因境内衡山而改名为衡山县，唐朝时期县城迁至今址，延续至今。
永昌县，东吴分泉陵县置，位于今祁东县境内。隋朝时废，未延续下来。
祁阳县，东吴分泉陵县置，今永州市祁阳县的起源。此时县城位于今祁东县金桥镇，明朝时迁至今址。
新平县，东吴置，位于今常宁市境内。东晋时废，未延续下来。
新宁县，今常宁市的起源，东吴时析耒阳县置。此时县城位于今常宁市南，唐天宝元年(年)改为常宁县，明洪武三年(年)迁至今址，延续至今。
隋朝上图为公元年隋朝时期。隋朝统一后，对大量小县进行废并。于是此时今衡阳市境内仅存四县，均属衡山郡管辖。
衡山郡，即今衡阳市的起源。隋大业三年(年)改衡州置，治衡阳县。衡州则是隋开皇九年(年)置，算一算至今已一千四百多年。
衡阳县，即今衡阳市区的起源，隋改临烝县置。临县的起源可以追溯到东汉末年，后有废置，也曾是湘东郡治。
湘潭县，即今湘潭市区的起源，南朝梁天监年间置。北宋时迁至今址，延续至今。
唐朝上图为公元年唐朝时期。此时衡山郡已更名为衡州，辖区不变。
和现在的衡阳市相比，西部少了祁东县，东部多了安仁、攸县、炎陵、茶陵等地。
北宋上图为公元年北宋时期。和唐朝时相比，衡州的辖区有所缩减。今衡山、衡东、南岳、攸县等地归属到北部的潭州管辖。
元朝上图为公元年元朝时期。元朝此时，今衡阳市地区分属五个二级行政单位管辖。衡州也改名为衡州路。
元至元十九年(年)，耒阳县和常宁县分别升为耒阳州和常宁州，属湖广行省管辖。因此，元朝衡阳市境内存在三个本土的地级行政单。
明朝上图为公元年明朝时期。明朝建国后，衡州路改为衡州府。之前的常宁州和耒阳州也降级为县，属衡州府管辖。宋元时期属北方管辖的今衡山、衡东、南岳地区也重归衡州府。
衡州府的辖区包含了今大部分衡阳市地区，当然还是缺今祁东县一带。清朝大体上沿袭了明朝的行政区划，所以下文不累述。
民国上图为公元年北洋政府时期。此时今衡阳市地区均属衡阳道管辖，衡阳道治所在衡阳县，辖区约当今衡阳、永州、郴州三市，年衡阳道废。
建国初上图为公元年建国初期，今衡阳市地区均属衡阳专区管辖。
衡阳专区是年置，专员公署驻衡阳市（年置）。年，衡阳专区与郴州专区、零陵专区合并，改设湘南行政区。
年，又撤销湘南行政区，恢复衡阳专区，辖区如上图。年，恢复零陵专区。年，改置衡阳地区。
当代随着年衡阳市升地级市，年撤销衡阳地区，逐渐成今日行政区划。
纵观衡阳市地区行政区划史。耒阳为历史上的地区首县，衡阳市区的行政建制起源于东汉末年，衡阳市的行政建制则起源于隋朝。
也基本从隋朝起，衡阳市区便是这一带的行政中心。只有元朝曾出现过三个地级行政中心并立的情况，另外两个正好是如今衡阳市代管的县级市。
最后再说说祁东县，其地历史上长期属今永州市地区管辖。年，分祁阳县东北部置祁东县，方开始归属衡阳。能有多少的认同感和归属感，笔者有点怀疑。
笔者已完结川、粤、桂、闽、赣各地市行政区划史，