战国时期，赵国置云中郡，辖境包括阴山南麓呼和浩特平原及以南山区丘陵地带，今土默特左旗、托克托县、和林格尔县、清水河县等都在统辖之内。秦袭赵制，秦之云中郡与赵之云中郡辖境相当。但为巩固边疆、充实边防，秦实行“实边政策”，大批人口被强制或奖励迁到边疆，因而秦之云中郡较赵之云中郡在经济、军事实力及政治地位上都有所提高。后，秦骤亡，北部边疆空虚，匈奴乘虚而入，云中地区一度归单于庭管辖，“而单于庭直代、云中”。

汉初袭秦制，据《史记·绛侯周勃世家》记载，汉之云中郡辖十二县，现可考证的辖县有云中、襄阴、咸阳、原阳、北舆、桢陵、武泉、沙陵、骆县，共九县。汉高祖十一年，云中郡分为两部分，云中县以西为新云中郡，属汉；以东为定襄郡，属代国。其后，云中郡所辖县基本定型，共包括11个县：云中、武泉、咸阳、北舆、陶林、桢陵、沙陵、沙南、原阳、阳寿、犊和。其中，云中县治所在今托克托县古城村古城，即云中古城，另有7个县属今呼和浩特辖境。

（一）沙陵县

《绥远通志稿》载：“沙陵故城，亦汉云中郡属，在今托克托县西北境黄河东岸，其他有金河泊，古称沙陵湖。今虽不在，然虽不在，然县或以斯湖得名也。”据考证，沙陵县治所即今托克托县中滩乡哈拉板申村东北的哈拉板申古城。

古城地形东高西低，平面呈方形，边长525米。城墙为夯土板筑，现残存北墙、东墙，城内东北角设子城，方形，边长约213米。古城内多出土铜钱、铜镞；子城地表散布很多砖、瓦等建筑构件和盆、罐等陶器残片，其中板瓦饰绳纹，瓦当饰卷云纹。1974年，在古城东侧出土一枚铜质官印，边长2.3厘米，印文为篆书“云中丞印”。

“云中丞印”

（二）桢陵县

《汉书·地理志》载：“桢陵，缘胡山在西北，西部都尉治。莽曰桢陆。”据考证，桢陵故城即今托克托县燕山营乡章盖营村章盖营古城。

古城平面呈正方形，边长约300米，东、北两墙保存较完整，南墙仅存一段，最高处5米。城内地表散布很多汉代典型器物和纹饰的陶片。20世纪80年代初，古城内收集到一块陶片，上面残留“丑有”二字，篆书，字长宽各1厘米。2004年，在地表采集到一块带有纹饰的残陶片，篆书戳印“司马文君”。

（三）原阳县

《水经注》载：“又有芒干水……其水西南迳武皋县，王莽之永武也，又南径原阳县故城西，又西南与武泉水合。”据推测，原阳县城址即今赛罕区金河镇八拜村八拜古城。

古城位于赛罕区金河镇八拜村东，古城平面大体呈长方形，南、北墙各长约420~440米，东、西墙各长约520~550米。城墙夯筑而成，北墙保存较好，其他均有不同程度破坏。城内文化堆积较厚，地表散布大量陶片及绳纹砖、瓦等。城南发掘有西汉中晚期墓葬3座。

（四）武泉县

武泉县在史书中多有提及，常与云中并列，据《史记·绛侯周勃列传》载“以将军从高帝击反韩王信于代，降下霍人。以前至武泉，击胡骑，破之武泉北”，可见其在两汉时期防御匈奴的重要军事地位。《绥远通志稿》及《汉书地理志汇释》均推测武泉县在今呼和浩特东北处。因此，部分学者推测其为新城区塔布陀罗亥古城，即塔利古城。

古城城址平面呈“回”字形，分为内、外两城。外城平面似方形，城址东西长约1260米，南北宽约1250米。城墙夯筑，南墙正中开门。内城位于外城中部偏北处，平面似方形，周长约1400米。城内地表散布大量釜、罐、盆、钵等器物的陶片，以及筒瓦、板瓦等遗物。

关于塔利古城的行政建置，一直存有争议，也有部分学者认为为陶林县或北舆县治所。

除以上四县基本确定的县治所在古城外，另有北舆县、阳寿县、陶林县，该三县虽也在呼和浩特境内，但因缺少考古挖掘资料，暂时无法确定其城址的确切位置。涉及三县存有争议的古城址包括：沙梁子古城、哈拉板申西古城、蒲滩拐古城。

纵观云中郡沿革历程，从赵国至秦汉，无论是赵武灵王“胡服骑射”，还是秦汉王朝为巩固边疆而实行的“实边政策”“汉匈和亲”等，始终都是民族交流交往频仍的地区。