湛江市区在形成以前，其范围分属遂溪、吴川两县。隋至唐初，今市郊湖光镇旧县村曾先后为铁耙县、遂溪县县治。

南宋景炎三年（公元1278年），元兵南进，南宋王朝君臣从福建沿海岸南逃，宋帝赵罡因惊吓病亡，赵昺即位于今东海硇洲岛，升硇洲为翔龙县；是时，今市区中最古老的城区赤坎也开始逐步形成商埠。明洪武年间至清雍正年间，曾先后在市郊旧县村和东海岛设置堪川巡检司。

1898年3月，在第二次鸦片战争后西方资本主义瓜分中国的割地狂潮中，法国以“趸煤”为借口，要求清政府允租吴川县属的海湾小村坊”广州湾”（今南三岛内），然后肆意向东西两边的内地扩张，引起遂溪、吴川爱国官绅和人民群众的坚决抵抗，这就是有名的广州湾人民抗法斗争，是近代史上中国人民反帝爱国斗争的组成部分。“千家炮火千家血，一寸河山一寸金”。郭沫若的诗句，是这一伟大斗争概括而形象的反映。由于清政府惧外妥协，于清光绪二十五年十月（1899年11月），在法国胁迫下，签订了《中法互订广州湾租界条约》，将遂溪、吴川两县属部分陆地、岛屿以及两县间的麻斜海湾（今湛江港湾）划为法国租界，统称“广州湾”，划入法属印度支那联邦范围，设广州湾行政总公使署，受安南总督管辖。从此，广州湾成为一个独立的行政区域。其范围：南部由原遂溪县属的通明港起向北至新圩沿官路为界至志满，转向东北至赤坎以北、福建村以南分中为界向东出海面，横过调顺岛北边水面至吴川县属的兜离窝登岸，再向东至西炮台河面分中出海，距陆地3海里海面起，向南沿硇洲岛、东海岛外海面直至通明港外3海里海面止；陆地总面积518平方公里。首府初设于麻斜市；1911年废麻斜市，行政首府迁西营市（今霞山），并设赤坎市。 民国32年（1943年）2月，日本侵略军占领广州湾，曾建立极为短暂的日伪政权。

抗日战争胜利后，于民国34年（1945年）9月21日，我国同时从日法手中收回广州湾，以原范围划设市治，定名为“湛江市”。1946年1月15日成立湛江市政府，为省行辖市，并隶属广东省第七区行政督察专员公署，市府仍设于西营；民国37年（1948年）3月改隶第八区行政督察专员公署；民国38年（1949年）5月，改隶第十四区行政督察专员公署，公署设于湛江。 1949年12月19日，湛江解放，仍为省辖市；1952年11月起，先后归属粤西区行政公署湛江专区专员公署、湛江地区行政专员公署，并为南路、高雷、粤西、湛江地区公署所在地。地区行政机关设于赤坎；市行政机关设于霞山，市区大体范围一直没大的变化。

1983年9月湛江地区与湛江市合并为市管县体制的湛江市，为省直辖市，原湛江市设赤坎、霞山、坡头4个区。中共湛江市委员会、市人民政府设于赤坎，市人大常委会、市政协设于霞山。