Во время войны за независимость принял сторону восставших. Вошёл (вместе с Бенджаменом Франклином) в состав делегации, пытавшейся убедить население Квебека примкнуть к движению за независимость североамериканских колоний (1776). С 1789 года был первым католическим епископом Соединённых Штатов, с титулом епископа (позже архиепископа) Балтиморского.
В 1783 году Кэрролл начал встречаться с местным духовенством на территории поселения Аннаполис, где они начали подготовку к организации нового университета. В 1789 году Кэрролл приобрел необходимую для размещения университета территорию в Джорджтауне, тем самым заложив основу для создания Джорджтаунского университета, начавшего работу в начале 1792 году.