В ДЮФЛ выступал за: луганскую «Зарю» и донецкий «Шахтёр». В 2002 году попал в «Шахтёр-3», во Второй лиге дебютировал 25 августа 2002 года в матче против димитровского клуба «Уголёк» (0:0). С 2003 года по 2005 год выступал за «Шахтёр-2».
В 2005 году был отдан в аренду в харьковский «Металлист». В Высшей лиге дебютировал 3 апреля 2005 года в матче против ужгородского «Закарпатья» (0:0). С 2006 года по 2007 год выступал за киевский «Арсенал» на правах аренды, в команду его пригласил Александр Заваров. Начало сезона 2007/08 провёл в одесском «Черноморце». В январе 2008 года был отдан в аренду в мариупольский «Мариуполь», до конца сезона[2]. В декабре 2008 года был отдан в аренду полтавской «Ворскле»[3]. Летом 2009 года Ярошенко снова был отдан в аренду «Ильичёвцу»[4]. 20 июня 2013 года официально стало известно, что Константин заключил трёхлетний контракт с ФК «Севастополь»[5]. В июне 2014 перешёл в «Урал»[6].
В 2016 перешёл в львовские «Карпаты». В декабре 2016 года по обоюдному согласию с клубом расторг контракт и получил статус «свободного агента» и покинул львовский клуб.[7], а вторую половину сезона провёл в «ФК Мариуполь».
В августе 2017 заключил контракт с финским клубом КПВ, выступающим во втором по силе дивизионе чемпионата Финляндии[8].
