Barry Ferguson wstąpił do szkółki młodzieżowej Rangers w wieku trzynastu lat. W sezonie 1994/95 wskoczył do kadry pierwszego zespołu i w ostatnim meczu sezonu 1996/97, przeciwko Hearts zaliczył swój pierwszoligowy debiut. W 1999 głównie dzięki ówczesnemu trenerowi The Gers, Dickowi Advocaatowi stał się pełnoprawnym zawodnikiem pierwszego składu.

Z początkiem sezonu 2003/2004 Ferguson dołączył do zespołu Blackburn Rovers za 7,5 miliona funtów. Zainteresowany kupnem pomocnika był także Everton, jednak Ferguson definitywnie odrzucił ich ofertę. Nieoficjalnie za powody sprzedaży piłkarza do Anglii uznano: problemy finansowe Rangers, chęć gry w Premiership oraz chęć skończenia z życiem w Szkocji, gdzie przytłaczała go sława.
Ferguson nie odniósł wielu sukcesów w Anglii, w 2004 objął opaskę kapitańską po Garym Flitcrofcie. Już po 18 miesiącach kazał się wystawić na listę transferową. Po derbach Lancashire z Boltonem, ogłosił, iż wraca do Rangers. Ustalono szybko cenę transferu (4,5 mln funtów) i pomocnik ponownie znalazł się na Ibrox Park.

Barry powrócił do Glasgow Rangers pod koniec sezonu 2004/05, lecz miał znaczący wkład w mistrzostwie Szkocji zdobytym przez The Gers. Nie był on jednak tym razem kapitanem, gdyż Alex McLeish nie chciał w środku sezonu pozbawiać tej funkcji Fernando Ricksena.
Przed sezonem 2005/2006 Ferguson został ponownie mianowany kapitanem drużyny. O jego nieustępliwym charakterze świadczy fakt, iż ostatnie mecze sezonu grał z kontuzją.
17 czerwca 2006 piłkarz został uhonorowany Orderem Imperium Brytyjskiego, jest także zaliczany do największych sław w historii zespołu z Ibrox Park.