Park pochodzi ze stolicy swojego kraju – Seulu. Swoją zawodową karierę piłkarską rozpoczął w 1999 roku w Myungji University. Przez jeden sezon tam spędzony nie wystąpił jednak w żadnym spotkaniu, więc przeniósł się do japońskiego Kyoto Purple Sanga. W pierwszym sezonie tam spędzonym zagrał tylko w 13 spotkaniach i strzelił 1 bramkę, jednak w następnym stał się podstawowym piłkarzem swojego klubu. W roku 2001 wraz ze swoim zespołem wygrał drugą dywizję J-League i został wybrany najlepszym graczem sezonu. Znalazł się także w najlepszej jedenastce. Rok później wygrał Puchar Emperor's, został jego najlepszym graczem i znów znalazł się w najlepszej jedenastce ligi.

W roku 2003 Park wraz ze swoim rodakiem, Lee Young-pyo przeszli do holenderskiego PSV. Jednak w pierwszym sezonie Park nie grał zbyt często natomiast Lee wychodził w podstawowym składzie. Rok później Park zaczął grać w pierwszym składzie, ponieważ Arjen Robben został kupiony przez Chelsea Londyn. 4 maja 2005 Ji-sung strzelił bramkę w półfinałowym meczu Ligi Mistrzów z włoskim AC Milanem. PSV wygrało u siebie 3-1 jednak na wyjeździe przegrało 2-0 i AC Milan awansował do finału rozgrywek

22 czerwca 2005 Park przeszedł za kwotę 4 mln funtów do angielskiego Manchesteru United. W ekipie Czerwonych Diabłów zadebiutował 9 sierpnia w meczu z DVSC Debreczyn. Swoją pierwszą bramkę zdobył 20 grudnia w wygranym 3-1 meczu z Birmingham City w ćwierćfinale Pucharu Carling. W sezonie 2005/06 był jednym z podstawowych piłkarzy swojego klubu. Od następnego sezonu zaczął jednak mniej występować. W tym czasie wraz z Manchesterem dwa razy został Mistrzem Anglii, jeden raz wicemistrzem, wygrał Puchar Ligi Angielskiej i Tarczę Wspólnoty. Park jednak nie wystąpił w wygranym w rzutach karnych 6-5 finałowym spotkaniu Ligi Mistrzów w sezonie 2007/08.