В подростковом возрасте Кэрролл был звездой юношеского баскетбола, однако затем в 13 лет пристрастился к героину. Своё бурное взросление он описывал в дневнике, который позднее переработал и издал под названием «Дневники баскетболиста».

Ещё в 60-е Кэрролл заработал славу как один из лучших поэтов своего поколения. В 70-е подруга Патти Смит убедила его заняться музыкой, а гитарист Rolling Stones Кит Ричардс организовал ему контракт на три альбома.

Кэрролл выпустил свой первый диск в 1980 году, второй в 1982-м и третий — в 1983-м. Его работы считаются классикой нью-йоркского панка.

"Дневники баскетболиста" - классическое произведение о юном хипстере, растущем на грязных улицах Нью-Йорка. Книга принесла Джиму Кэрролу огромную славу в андеграундной среде. Джек Керуак, впервые прочитав отрывки то веселой, то страшной хроники Кэррола о жизни городского подростка с тринадцати по шестнадцать лет, решился написать: "Тринадцатилетний Джим Кэррол пишет прозу лучше, чем 89% современных писателей". Позже, напечатанные на заре семидесятых в "The Paris Review" отрывки из произведения вызвали сенсацию - и продолжают вызывать по сей день.