1900年10月17日ケンタッキー州ルイズヴィル生まれ。
1931年7月23日ニューヨークにて死去。わずか30歳だった。
15歳からトロンボーンをプレイし始めたというが、その翌1916年頃からオハイオ州など主に中西部でプロとしてプレイしていたというから恐ろしい速熟ぶりである。天才とはそういうものかと思わずにいられない。
22年ニューヨークに進出し、フェス・ウィリアムス、ジューン・クラーク、エルマー・スノーデン、ビリー・ホウラーなどのバンドを経て、一時期エリントンのバンドに参加したこともあったが、27年初めにフレッチャー・ヘンダーソン楽団に加わった。
28年一時チャーリー・ジョンソンのバンドに移ったが間もなくヘンダーソンのバンドに復帰し31年まで在団した。同年チック・ウェッブの楽団に移った直後病のために死去した。
粟村政昭氏は、トロンボーンを文字通りソロ楽器たらしめた偉大なパイオニアとし、サッチモを筆頭とするニューオリンズ派のトランぺッターたちに影響を受け、それまで極めて制限された役割しか与えられていなかったトロンボーンという楽器をトランペットやサックスと同じ地位にまで引き上げるという大きな功績を残したと記している。
キャリアの短さを考えると驚異的なほどテクニックも抜群で、音楽家及び評論家のガンサー・シュラー氏は、エリントン楽団のジョー・ナントンを評するとき引き合いに出し「ジミー・ハリソンほどの抜群のテクニックは持ち合わせていなかったが他の奏者に比べれば群を抜いており」と述べているほど一頭地を抜けていた。
ハリソンはテクニックだけではなく、彼によって創始された簡潔で調和の取れたソロ・フレーズの構成とメロディアスな吹奏法は、後輩ジャック・ティーガーデンの出現によってさらに華々しいものとなって完成されていく。今日彼の名がサッチモ、ドッズ、ホーキンスといった他楽器の先駆者ほどにポピュラーでないのは単にハリソンの残したレコードの少なさとソロの短さにあった、とは粟村師の評である。
”The Duke”（History 204140-302）
"Fletcher Henderson ／A Study in frustration" CD-1,2
「RCAジャズ栄光の遺産シリーズ 第9巻 ザ・ビッグ・バンド・イーラ」第4巻“チャーリー・ジョンソンズ・パラダイス・オーケストラ”
"Bessie Smith／The collection"(Columbia CK 44441)
"Bessie Smith／Nobody's blues but me"(CG 31093)
「チック・ウェッブ／伝説」（SDL 10344）