Родился 15 января 1937 года в префектуре Канагава. В 1959 году окончил университет Васэда. В 1967 году впервые был избран членом палаты представителей от Либерально-демократической партии. В 1976 году вышел из Либерально-демократической партии и вступил в партию Новый либеральный клуб. В 1986 году вернулся в Либерально-демократическую партию. С июля 1993 по сентябрь 1995 годов занимал пост президента Либерально-демократической партии. С 30 июня 1994 по 1996 год — пост министра иностранных дел[1].
Болел гепатитом C[2]. В связи с болезнью в апреле 2002 года Ёхэю Коно была пересажена часть печени. В качестве донора выступил его сын Таро Коно[3].