Сын купца Эрнста Карова (ум. 1945). Учился на режиссёрских курсах при киностудии «ДЕФА». В 1954—56 работал в научно-популярном кино. В игровом кино дебютировал в 1957 («Шериф Тедди»). Постоянный участник и член жюри Берлинского международного кинофестиваля.
Длительное сотрудничество связывало режиссёра с Юргеном Брауэром, который был оператором на многих его фильмах. Каров добился предоставления Брауэру возможности поставить свой первый фильм «Пуговица» и выступил соавтором его сценария.