Выходец из старинной дворянской семьи, Ульрих фон Брокдорф-Ранцау изучал юриспруденцию в Нёвшателе и Фрайбурге. В 1891—1893 годах служил в прусской армии. В 1894 году начал дипломатическую карьеру в Брюсселе. Затем служил в Вене и Будапеште. С 1912 года и всю Первую мировую войну служил в Дании в ранге посланника.
В феврале 1918 года после некоторых раздумий граф Брокдорф-Ранцау принял предложение занять пост государственного секретаря (а с февраля 1919 года рейхсминистра иностранных дел Веймарской республики в кабинете Шейдемана). 20 июня 1919 года вместе с другими членами кабинета ушёл в отставку, отказавшись подписать расценённый как «предательство Германии»Версальский договор.
В ноябре 1922 года вступил в должность посла Германии в Советской России. В своей деятельности стремился наладить хорошие отношения между двум странами и при этом избежать их тесного сближения. Решительно противился военному сотрудничеству с СССР, что послужило причиной его конфликта с армейской верхушкой Германии.