Filadelfský rodák, jenž vyrůstal v Indianě, působil v televizi a u filmu pět desetiletí. Často hrál drsné charaktery, například ředitele školy ve filmu Vůně ženy nebo právníka v seriálu Kauzy z Bostonu. V seriálu Ve jménu vlasti hrál otce agentky CIA Carrie Mathisonové.

Rebhorn ztvárnil také role politiků (ministr obrany ve Dni nezávislosti), lékařů či vojáků. V seriálu Zákon a pořádek se proměnil v brutálního sériového vraha.