José przyszedł na świat w 1983 roku w mieście Coimbra. Piłkarskie kroki stawiał w tamtejszym klubie Academica Coimbra. W barwach klubu zadebiutował jeszcze w sezonie 2003/2004, ale był to jego jedyny mecz w tamtym sezonie. W kolejnym był już członkiem podstawowej jedenastki. Rozegrał 24 mecze i zdobył 1 gola (w wygranym 1:0 meczu z G.D. Estoril-Praia), a z Academiką zajął 14. miejsce. Już wtedy piłkarzem zainteresowały się czołowe kluby portugalskie z Benficą, Sportingiem oraz FC Porto na czele, jednak ówczesny trener, Nelo Vingada zdołał namówić piłkarza na kolejny sezon gry w klubie. W nim Zé Castro rozegrał 30 meczów na środku obrony Academiki i po raz drugi z rzędu w dużym stopniu przyczynił się do utrzymania klubu w lidze.

Latem 2006 Zé Castro interesowały się Celtic F.C., Bayern Monachium oraz Tottenham Hotspur. Piłkarzowi skończył się kontrakt, więc mógł odejść za darmo i ostatecznie wybrał Atlético Madryt, do którego namówił go nowy szkoleniowiec zespołu, Javier Aguirre. W Primera División Portugalczyk zadebiutował w 9. kolejce, 4 listopada w zremisowanym 0:0 wyjazdowym meczu z RCD Mallorca. Pokazał się z dobrej strony i w następnym meczu z Villarrealem ponownie wybiegł w podstawowej jedenastce. W 36. minucie spotkania zdobył gola na 1:1, a madrycki klub ostatecznie wygrał 3:1. Od tego czasu Zé Castro stał się filarem obrony Atlético, na środku której gra z Luisem Amaranto Pereą bądź Pablo Ibáñezem