Ilustrasi karyawan perusahaan (IDN Times/Aditya Pratama)
Dia memulai kariernya sebagai Production Manager di PT Adiguna Shipyard pada 1972 hingga 1976. Setelah itu, dia melanjutkan kariernya di PT Pupuk Kijang sebagai General Manager dari 1987 hingga 1990. Kemudian, dia diangkat sebagai Research & Development Director di PT Petrokimia Gresik pada periode 1990 hingga 1995.
Pada 1995, Rauf dipercaya sebagai Presiden Direktur PT Petrokimia Gresik, posisi yang dipegangnya hingga 2001. Setelah itu, dia melanjutkan perannya sebagai Presiden Direktur di PT Asean Aceh Fertilizer dari tahun 2001 hingga 2006.
Pengalamannya di sektor pemerintahan tercatat saat dia menjadi Staf Khusus Investasi untuk Menteri Perindustrian di Departemen Perindustrian dari tahun 2006 hingga 2009.
Rauf kemudian bergabung dengan PT Batuta Kimia Perdana sebagai Presiden Direktur pada 2010 dan memegang posisi tersebut hingga 2015. Pada 2016 dia menjabat sebagai Chief Executive Officer di PT Berau Nusantara Kawasan Industri. Pada 2016 juga, dia menjabat sebagai Komisaris PT Tridomain Performance Materials Tbk.