图中虚线范围为当代徐州的行政区划。秦朝统一六国后，今天的徐州地区为泗水郡（郡治相县，今淮北市相山区）和东海郡（郡治郯县，今山东省郯城县）所辖。此时徐州主体为泗水郡所辖，东海郡辖如今的新沂和邳州两地。

汉武帝重分行政区划，此时的徐州地区为楚国（国都彭城，今徐州市）、沛郡（泗水郡改置）、东海郡（辖区越来越小了）、临淮郡（新置）所辖。西汉时徐州主体为楚国（有时也改为彭城郡），并且开始一脉相承下去，可以视为如今徐州的行政区划建制由来。东海郡依然辖如今的新沂和邳州两地，临淮郡辖睢宁，沛郡辖丰县和沛县。

到了东汉徐州地区还是为这四兄弟所辖，只是楚国改彭城国，临淮郡改下邳国（国都迁下邳，今睢宁县境内），沛郡改沛国。东海郡名字没变，只是辖区进一步缩小。

曹魏时期还是他们四个。只有沛国变化较大，国都也迁到了今徐州市境内的沛县。此时如今的徐州境内，存在三个二级行政单位（如今的地级市级别）的治所。

到了西晋还是这格局，四分徐州。只是沛国辖区又变大了，国都也迁回了相县。

隋朝统一后，对全国的行政区划大改。从西汉楚国一脉传承下来的彭城郡为主体，从西汉临淮郡传承下来的下邳郡辖有新沂、邳州、睢宁三地大部分地区，秦朝时辖有半个江苏的东海郡，这会只占一点边边了。

唐朝时，彭城郡改徐州，下邳郡改泗州，东海郡改海州。他们各自在如今徐州境内的辖区基本没变化。隋唐时期的徐州市其历史上行政版图最大的，所辖面积大概2.5万平方公里，是如今徐州辖区的两倍有余。

宋朝从泗州北部新设出来一个淮阳军，淮阳军治所还是在下邳县。

元朝大改，要问笔者哪个统一的朝代行政区划最乱，毫无疑问是元朝。归德府此时占主体，其治所在睢阳县（今河南商丘县）。

明朝复名徐州，早期属于凤阳府所辖，后直隶南京。东部的淮安府治所在山阳县，也就是今天的淮安市。

到了清朝的徐州，已经十分接近当代的行政区划了，多了萧县、砀山、宿迁三地，少了新沂。

民国初年，省下一级的行政单位是道。这一代为徐海道，其实从地图上看挺自然的。

建国初，徐州市和徐州专区并行，都是属于省辖行政单位。直到年，撤销地区专员公署，实行市管县。

随着年砀山县和萧县划归安徽省，年连云港市升地级市，徐州逐渐成如今行政区划。