Karl Malone menunjukkan bakat luar biasa dalam bermain bola basket sejak kecil. Dia mengasahnya dengan melanjutkan pendidikan ke Louisiana Tech University. Pemain kelahiran Summerfield, Louisiana, Amerika Serikat pada 24 Juli 1963 itu pun berhasil menarik perhatian para pencari bakat NBA di sana. Pada 1985, Malone dipilih Utah Jazz sebagai pilihan ke-13 dalam NBA Draft.
Selama 18 tahun bersama Jazz, Malone membentuk duo yang tidak terlupakan bersama John Stockton, salah satu pengatur permainan terbaik sepanjang masa. Keduanya membantu Utah Jazz kepada dua Final NBA pada 1997 dan 1998. Sayangnya, Malone dkk berakhir dengan kekalahan melawan Chicago Bulls yang dipimpin Michael Jordan.
Karl Malone sendiri tampil dalam 1.434 pertandingan untuk Utah Jazz. Selama itu, dia mengoleksi rata-rata 25,4 poin, 10,2 rebound, 3,5 assist, dan 1,4 steal. Poinnya lebih banyak datang dari area dua poin. Malone memang kerap bermain di area cat, menerima umpan yang biasanya dikirim Stockton. Sayangnya, Malone dan Stockton tidak pernah juara NBA.