从出土文物考证，虽然江西开发的历史可以上溯到距今一万年以前，但在政权建设方面，江西却不仅落后于中原，也落后于同处长江流域的荆楚和吴越。

据史料介绍，春秋战国时期，南方主要有三个大的诸侯国：吴、越抗衡于江西东北，楚国雄踞于江西的西北。江西的北部处于三国势力的交接地带，因而也被卷入三国角逐的旋涡，有时是“吴头楚尾”，又有时是“越头楚尾”。而在江西中部以南的广大地区，此时大抵上属“无政府”地带，这里既人烟稀少，也聚族而居，应该是真正的“世外桃源”。

江西的政权建设始于秦朝时期。秦始皇灭六国建立统一的中央政权后，设立九江郡。但九江郡的郡治不在今日江西的九江，而是在安徽的寿县，在江西境内并无郡治，也少设县。江西作为明确的行政区域建制，则始于汉高帝初年，也就是大约公元前202年，在东北的怀玉山，东边的武夷山，南边的南岭，西边的罗霄山、幕阜山，北边的长江之间，设豫章郡，下辖18县。我们不得不佩服古人的智慧，他们根据山水形势，将这个天然成一统的区域，划定了一个豫章郡，这次区域划分在两千多年前便“一步到位”，划定了今日之江西。这在中国的政区设置史上是绝无仅有的事情：今日江西省95%的区域，竟然和两千多年前的豫章郡几乎重叠。

贞观元年，也就是627年，唐太宗有一个重大举措，将全国划为10个道，唐玄宗时增为15道，洪、饶、虔、吉、江、袁、抚、信8州隶属于江南西道监察区，“江西”之名由此而来。但此时的江南西道仅是一个监察区而非行政区，直到“安史之乱”后，“江南西道”才成为真正的“江西省”。宋代改“道”为“路”，“江南西道”改称“江南西路”，宋代《太平寰宇记》记载江南西路辖6州4军。元朝开始确立行中书省制度，简称行省或省。明朝虽然基本上保留了元朝的省区建制，但改行中书省为布政使司，下辖13府78县。清代改江西布政使司为江西省，行政区域基本承袭明建制。民国时期，清朝的府、州、厅一律改为县。江西省共辖81县。

中华人民共和国成立后，江西省的行政区划曾经有过多次调整和变动。截止2023年末，全省共设11个设区市、100个县（市、区），总人口4515万人，汉族占总人口的99%以上。