Впервые город упоминается в первой книге цикла, «Удивительный волшебник из страны Оз» (1900). Он находится в волшебной стране Оз, сама же эта страна в сказках Баума расположена на далёком неизвестном континенте посреди непроходимой пустыни. Изумрудный город был построен по приказу Оза. Город окружает стена, а на башнях города сияют настоящие изумруды. Дорога из жёлтого кирпича соединяет город со страной Жевунов.
В странах бывшего СССР Изумрудный Город известен по произведениям Александра Волкова и других авторов. У Волкова город находится в Волшебной стране в Северной Америке, и помимо пустыни страна также окружена кольцом гор. Местоположение указано, в частности, в книге «Урфин Джюс и его деревянные солдаты».