Арт Карни был младшим из шести сыновей в католической семье ирландского происхождения. Во время Второй мировой войны служил в пехоте. Был ранен шрапнелью в ногу во время битвы за Нормандию, из-за чего хромал всю оставшуюся жизнь.
Был трижды женат, от первой жены родились трое детей.