Musim 2005/2006 menjadi periode pertama Toure bermain untuk Olympiakos di mana dia berhasil mempersembahkan trofi Liga Yunani dan Piala Liga. Hanya bertahan semusim, Toure kemudian direkrut tim Prancis, AS Monaco.
September 2018 menjadi periode kedua sang pemain membela klub asal Yunani tersebut, setelah sebelumnya sukses bersama Man City selama 8 musim. Sayang, baru tiga bulan kontraknya berjalan, Toure yang hanya bermain dalam lima laga akhirnya harus putus kontrak.
Performa yang tak sesuai harapan tampaknya menjadi alasan utama klub melepasnya. Meski begitu, Olympiakos pun tetap berterima kasih melalui pernyataan resmi klub.
“Yaya masih dan tetap menjadi bagian penting dari keluarga Olympiakos, karena dia adalah bagian sentral dari sejarah klub."
“Olympiakos ingin berterima kasih kepada dia atas segala yang telah ia berikan kepada klub. Yaya akan selalu dikenang oleh klub ini dan dia tak lupa mendoakan Olympiakos agar sukses."
“Yaya pergi sebagai teman dan pintu di Olympiakos akan selalu terbuka untuknya. Perjalanan nasib pasti akan mempertemukan kita kembali.”