11 августа 1926 года Римский папаПий XI издал буллу «Ut aucto», которой учредил апостольский викариат Хаймэня, выделив его из апостольского викариата Нанкина (сегодня — Архиепархия Нанкина). 11 апреля 1946 года Римский папа Пий XII издал буллу «Quotidie Nos», которой преобразовал апостольский викариат Хаймэня в епархию.