Первая католическая церковь в Шанхае была построена в 1608 году итальянским иезуитом Ладзаро Каттанео.
13 декабря 1933 года в Шанхае была образована первая постоянная католическая структура Апостольский викариат Шанхая, который учредил Римский папаПий XI своей буллойIampridem Apostolica.
11 апреля 1946 года Римский папа Пий XII издал буллу Quotidie Nos, которой преобразовал апостольский викариат Шанхая в епархию.
9 июня 1949 года епархия Шанхая передала часть своей территории в пользу возведения новой епархии Сучжоу, апостольским префектурам Хайчжоу и Янчжоу.
Ординарии епархии
епископ Auguste Haouise (13 декабря 1933 — 10 сентября 1948);