Fabio Grosso karierę piłkarską rozpoczynał w amatorskiej drużynie Renato Curi Angolana. W zespole tym występował przez 4 sezony i strzelił blisko 110 bramek. Wtedy Fabio grał jako skrzydłowy, czasem jako napastnik. Dopiero sezon 1998/1999 przyniósł transfer do profesjonalnej drużyny Serie C – Calcio Chieti, gdzie spędził trzy sezony. Wiek XXI to kosmiczny skok w karierze dla Włocha – najpierw przeniósł się do pierwszoligowej Peruggi, potem do US Palermo, gdzie grał jako pomocnik i 90 występach strzelił zaledwie dwie bramki. Po bardzo udanym występie na MŚ w Niemczech został za 5,5 miliona euro sprzedany do Interu Mediolan. W 2007 roku został z tym klubem mistrzem kraju oraz wystąpił w rozgrywkach grupowych Ligi Mistrzów. 8 lipca 2008 roku za 7 milionów euro przeszedł do Olympique Lyon, w którym zastąpił na lewej obronie Erica Abidala odchodzącego do FC Barcelona.