淮海之名最早见于《尚书·禹贡》，地理概念主要是指以徐州为中心的淮河以北及海州（今连云港市）一带的地区。其历史沿革如下：

- 清末实业家张謇曾提出《徐州应建行省议》，主张在“以徐州为众月之星，东到海州，西至商邱，南起泗州，北迄沂水，包括苏、皖、鲁、豫四省交会之区的四十五州县”建立行省。

- 1940年，地理学家胡焕庸也主张设立“徐淮省”。

- 1944年，汪伪政府曾以徐州为中心，成立伪淮海省，只存在一年多时间。

- 1986年3月，由苏鲁豫皖四省接壤地区的20个市组成的淮海经济区在徐州市成立。