Nuo 1965 metų 196 cm ūgio J.Sloanas 11 metų žaidė NBA, po to iškart pakeitęs sportinius marškinėlius ir trenerio kostiumą.
Po trumpo etapo „Chicago Bulls“ komandoje, jis įleido šaknis Jutoje „Jazz“ klube. Tris sezonus pasidarbavęs asistentu, 1988-aisiais jis perėmė komandos vairą, kurį išlaikė iki pat 2011-ųjų.
Net 23-ejus metus „Jazz“ vadovavęs J.Sloanas treniravo tokias legendas kaip Karlas Malone‘as ir Johnas Stocktonas, Andrejus Kirilenka.
Marškinėliai su numeriu 1223 (J.Sloano iškovotų pergalių skaičius) kabo „Jazz“ arenos palubėse.
Per 23-ejus jo darbo metus, Jutos klubas tik tris kartus nepateko į atkrintamąsias bei du kartus žaidė NBA finale, kuriame nesugebėjo įveikti Michaelo Jordano ir Čikagos klubo barjero.