Карл — старший сын ландграфа Филиппа Гессен-Филипстальского и его супруги Екатерины Амалии (1654—1736), дочери графа Карла Отто Сольмс-Лаубахского. Наследовал отцу в Гессен-Филипстале в 1721 году.
6 июня 1731 года ландграф Карл был удостоен датского ордена Слона. Во время Семилетней войны некоторое время скрывался в своём доме в Любеке. Позднее поступил на службу в имперскую армию, где дослужился до звания фельдмаршал-лейтенанта.