Piłkarską karierę rozpoczął w klubie RCF Paris , ale dość szybko został zauważony przez skautów Troyes AC. W Ligue 1 zadebiutował 8 grudnia 2001 roku w przegranym 0:2 spotkaniu z Bastią. W wyjściowym składzie Troyes zaczął grać w sezonie 2002/2003, ale drużyna z północy kraju spadła z ligi. Sezon 2003/2004 spędził grając w Ligue 2. Na początku sezonu 2004/2005 przeszedł do innego drugoligowca, FC Lorient. Tam stał się jednym z najlepszych zawodników klubu, a w 2006 roku świętował awans do Ligue 1.

Latem 2006 Ziani przeszedł za 2 miliony euro do FC Sochaux. W barwach tego klubu zadebiutował 5 sierpnia w wygranym 2:1 wyjazdowym meczu z AS Saint-Étienne i w debiucie zdobył zwycięskiego gola. Dobrze zagrał też w meczu 4. kolejki, gdy uzyskał 2 bramki w spotkaniu przeciw Paris Saint-Germain (3:2). Ogółem w całym sezonie aż 8 razy pokonywał bramkarzy rywali będąc wraz z Brazylijczykiem Álvaro Santosem najlepszym strzelcem zespołu. Z Sochaux zajął 7. miejsce w lidze, a także wywalczył Puchar Francji, dzięki zwycięstwu po serii rzutów karnych z Olympique Marsylia.

Latem 2007 roku Zianim interesowały się silniejsze francuskie kluby. Ostatecznie podpisał on kontrakt z Olympique Marsylia, które zapłaciło za niego 8 milionów euro. W zespole z Lazurowego Wybrzeża ma zastąpić Francka Ribéry.