Zdeno Chára sa narodil a hokejově rostl v Trenčíně. Jeho otec byl reprezentantem Československa v zápase. Zdenove hokejové začátky byly těžké, protože tréneři kvůli jeho výšce moc nevěřili v jeho úspěšnou hokejovou kariéru. Po dorosteneckých a juniorských začátcích v Dukle Trenčín přestoupil v sezóně 1995/96 do Sparty Praha. V roce 1996 ho draftoval klub NHL New York Islanders v třetím kole jako 56. v pořadí. Zdeno odešel do USA a začal hrát v nižší profesionální soutěži WHL za Prince George Cougars. První zápas v NHL odehrál v roce 1997 za New York Islanders. V následující sezóně sa stal hráčem základního kádru.

V roce 2001 ho klub vyměnil za Alexeje Jašina a právo výběru v druhém kole draftu do klubu Ottawa Senators. V Ottawě Chára hokejově dozrál a stal sa jedním z klíčových hráčů mužstva. Byl prvním hráčem klubu, který byl na konci sezóny vybraný do All Stars týmu NHL. V roce 2004 sa dostal do výběru třech nejlepších obránců soutěže, bojujících o Norris Trophy. Nakonec skončil druhý za Scottem Niedermayerem. V sezóně 2004/05 (během stávky v NHL) hrál za Färjestad BK ve švédské Elitserien. Na sezónu 2005/06 měl platnou smlouvu s Ottawou Senators, která mu zaručovala roční příjem 3,724 mil. USD. V základní části zaznamenal svoje bodové maximum - 43 bodů. Před dalším ročníkem podepsal jako volný hráč pětiletý kontrakt s Boston Bruins s ročním platem 7,5 miliónů dolarů, přičemž sa stal kapitánem mužstva. V první sezóně v Bostonu si vyrovnal svůj bodový rekord, klub sa však do play-off neprobojoval.