Jonan diangkat sebagai Direktur Utama PT KAI pada 2009 oleh Menteri BUMN saat itu, Sofyan Djalil. Kendati belum pernah berkarier di bidang bisnis transportasi--utamanya transportasi rel-- selama di PT Kereta Api Indonesia dia sukses membalikkan kerugian Rp83,5 miliar pada 2008 menjadi keuntungan Rp154,8 miliar pada 2009.
Pada 2013, tercatat laba sebesar Rp 560,4 miliar. Jonan juga melipatgandakan aset KAI dari Rp 5,7 triliun pada 2008 menjadi Rp 15,2 triliun pada 2013, atau terjadi peningkatan mendekati tiga kali lipat. Dia memperbaiki kondisi perkeretaapian di Indonesia.
Jonan mulai memberantas percaloan tiket dengan menerapkan sistem boarding pass, tiket daring, dan penjualan melalui toko ritel. Toilet stasiun yang awalnya harus membayar, digratiskan dan diperbanyak jumlahnya sehingga ada di setiap stasiun. Kereta juga dilengkapi AC dan diberi larangan merokok.
Dalam masa kepemimpinannya di PT KAI, terjadi peremajaan sarana yang cukup banyak, mulai dari peluncuran kereta-kereta baru, juga dengan mendatangkan 100 lokomotif seri CC206 untuk angkutan barang dan penumpang di Jawa.
Jonan juga dikenal keras dan disiplin dalam menjalankan pekerjaan. Tahun 2014, tercatat 200 karyawan PT KAI dipecat atau pensiun dini karena dianggap malas. Dia juga tidak mengenal kompromi saat menertibkan stasiun dari pedagang dan bangunan liar dengan menggunakan bantuan aparat TNI. Tranformasi ekstrem yang dilakukannya membuat dia dijuluki Bapak Transformasi Kereta Api Indonesia.