Родился в 1808 году в Гамбурге в семье торговца. Выходец из старой торговой семьи (сама фамилия Кауфман означает «купец», «торговец»). Решив не продолжать семейное дело, учился живописи под руководством гамбургского художника Гердта Хардорфа, а с 1827 по 1833 год посещал Мюнхенскую академию художеств, где среди его учителей был художник-баталистПетер фон Гесс, известный тем, что много работал по заказам русского царяНиколая I.
Закончив Академию, Кауфман вернулся в Гамбург, где поселился. Владел мастерской и писал пейзажи, вдохновение для которых черпал из поездок по Германии; также посетил Норвегию. Любил изображать на картинах Баварию, где провёл годы обучения в Академии. Был особенно известен своим современникам зимними пейзажами и пейзажно-жанровыми сценами, изображающими быт немецких крестьян. Писал также жанровые сцены в собственном смысле слова и портреты.
Скончался Герман Кауфман в 1889 году в Гамбурге. Его имя с 1914 года носит одна из улиц города. Сын Германа, Гуго Кауфман (1844—1915), стал художником-жанристом, а сын Гуго, Герман Кауфман-младший (1873—1953) — портретистом.