Joseba Garmendia jest wychowankiem Athletic Bilbao, gdzie w drużynach juniorskich spędził siedem sezonów (1996-2003).
Pochodzi z miasta Basauri i tam też ma siedzibę jego pierwszy seniorski klub - CD Baskonia, będący filią Athletic Bilbao. W 2003 roku zadebiutował w Tercera Division i w Baskonii spędził cały sezon. W 2004 roku awansował do rezerw Athletic i w Segunda División B grał przez kolejne dwa sezony, a w 2006 roku trener Félix Sarriugarte przesunął zawodnika do pierwszego zespołu.

W Primera Division Joseba zadebiutował 27 sierpnia w zremisowanych 1:1 derbach z Realem Sociedad San Sebastian. W lidze był tylko zmiennikiem, ale zaliczył łącznie 16 spotkań w sezonie, w których zdobył 1 gola - w zwycięskim 4:2 meczu z Recreativo Huelva przyczyniając się tym samym do utrzymania baskijskiego klubu w ekstraklasie.