В сезоне 1988/89 появился только в матче Кубка УЕФА против польского клуба «Легия». Во время зимнего перерыва перешёл в «Нюрнберг». За два года в новом клубе Ульрих появился в 41 матче. В конце сезона 1990/91 подписал контракт с «Гертой» из Второй Бундеслиги. За столичный клуб Байершмидт провёл чуть больше 80 матчей. В 1994 году перешёл в «Теннис-Боруссия», где через 2 года завершил карьеру.