Piłkarską karierę Weir rozpoczął w juniorach Celtiku Glasgow. Występował w juniorskiej drużynie Celtic Boys, ale w 1988 roku wyjechał do Stanów Zjednoczonych. Uczęszczał na Uniwersytet Evansville i jednocześnie występował w tamtejszej akademickiej drużynie piłki nożnej. W 1990 roku otrzymał tytuł dla najlepszego piłkarza ligi uniwersyteckiej USA, a w 1991 roku wrócił do Szkocji. Został piłkarzem Falkirk F.C., a w sezonie 1992/1993 zadebiutował w jego barwach w Scottish Premier League. Na koniec sezonu spadł z tym klubem do First Division, ale zespół "The Bairns" już po roku powrócił do ekstraklasy szkockiej. W Falkirk grał do roku 1996 i opuścił go po kolejnej degradacji klubu o klasę niżej. Wtedy też przeszedł do Heart of Midlothian F.C. z Edynburga. Tam także był podstawowym obrońcą drużyny, a w 1998 roku zdobył swój pierwszy Puchar Szkocji.

W lutym 1999 roku Weir przeszedł za 250 tysięcy funtów do angielskiego Evertonu. W Premiership swój pierwszy mecz rozegrał 17 lutego przeciwko Middlesbrough F.C. - Everton wygrał w nim 5:0. W zespole "The Toffies" Weir był podstawowym zawodnikiem. W zespole prowadzonym przez kolejnych menedżerów, swoich rodaków, Waltera Smitha oraz Davia Moyesa był kapitanem. W drużynie z Liverpoolu występował do stycznia 2007 roku i w tym okresie rozegrał 235 meczów w Premiership i zdobył 10 goli.

17 stycznia 2007 Weir wrócił do Szkocji i na zasadzie wolnego transferu trafił Rangers F.C.. Z klubem z Glasgow podpisał półroczny kontrakt, a 21 stycznia zadebiutował w jego barwach w wygranym 1:0 wyjazdowym spotkaniu z Dunfermline Athletic F.C.. Jego postawa w lidze była na tyle wystarczająca, że kierownictwo Rangersów przedłużyło kontrakt z Davidem o rok, do końca sezonu 2007/2008. W nim Weir dotarł do półfinału Pucharu UEFA.