Пётр Гуриновский родился в 1770 году в семье московского священника. С 1778 года обучался в Московской духовной академии, откуда был отправлен в Санкт-Петербург в Комиссию об устройстве народных училищ[1].
5 августа 1800 года Пётр Гуриновский принял в академии монашескийпостриг с именем Парфения и был произведён в иеродиаконы, после чего служил в академии учителем грамматики, синтаксического класса, поэзии и риторики[1].
В 1804 году Парфений был возведён в сан архимандрита и определён настоятелемВерхотурского монастыря[1]. В том же году отец Парфений был назначен первым ректором незадолго до того открытой (1800) духовной семинарии в городе Перми[2], одновременно исполняя обязанности учителя богословия и красноречия и присутствующего в Пермской духовной консистории. За время своего ректорства Парфений успел наладить в Пермской духовной семинарии устройство административной части[1].