В 1998 году после неудачного просмотра в «Лос-Анджелес Гэлакси», Конрад по рекомендации тренеров начал выступление в дочерней команде «Гэлакси» «Сан-Диего Флэш». В 1999 году Джеймса пригласил в «Сан-Хосе Эртквейкс» тренер клуба Брайан Куинн. В 2001 году он вместе с клубом выиграл первенство MLS. В 2000 году Конрад на правах аренды выступал за польский «Лех».
В 2003 году Джеймс был обменян на драфте в «Канзас-Сити Уизардс» на Артуро Альвареса. В своем первом сезоне он играя на позиции центрального защитника забил 4 мяча. В 2004 году он помог команде выиграть Кубок Ламара Ханта, а также попал в символическую сборную MLS. Годом позже он был признан Лучшим защитником сезона. За «Уизардс» Джимми провел более двухсот матчей и забил 17 мячей.
В 2007 году Конрад продлил контракт с клубом, несмотря на неудачное выступление команды и интерес со стороны европейских клубов. В том же году Джеймс был назначен капитаном команды. В 2010 году после окончания контракта Конрад был выбран на драфте командой «Чивас США». 19 марта 2011 года в дебютном матче против своей бывшей команды «Спортинг Канзас-Сити» Джимми забил свой первый гол[1]. Во второй встрече Конрад получил тяжёлую травму. 18 августа 2011 года после тяжёлого процесса восстановления он принял решение о завершении профессиональной карьеры[2].
20 января 2007 года в товарищеском матче против сборной Дании Конрад вышел с капитанской повязкой[5]. 7 февраля в поединке против сборной Мексики он забил свой первый гол за национальную команду и был признан футболистом матча.
