Piłkarską karierę rozpoczynał w Hamilton Academical F.C.. Spędził tam 2 sezony. Następnie przeniósł się do angielskiego Milwall FC. Zagrał tam w 44 spotkaniach, strzelił 4 bramki i po sezonie gry zdecydował się powrócić do Szkocji, do drużyny Raith Rovers F.C.. Mimo 13 bramek Hartleya w sezonie, drużyna spadła do drugiej ligi.

W 1998 roku Paul Hartley zasilił szeregi Hibernianu. Podczas pobytu w Edynburgu, został wypożyczony do Greenock Morton F.C.. Tam jednak zagrał tylko w 3 spotkaniach, w jednym z nich zdobył gola. Ogólnie w barwach Hibs w 36 meczach zdobył 6 bramek. W 2000 roku Hartley został piłkarzem St. Johnstone F.C.. Grał tam 3 lata. W tym czasie rozegrał 87 spotkań i zdobył 12 bramek. W 2003 roku przeszedł do zespołu Hearts. W 118 spotkaniach strzelił 31 goli.

W 2007 roku został piłkarzem Celtiku. Kontrakt Hartleya z drużyną z Glasgow wygasa w czerwcu 2009 roku.