Kapal selam pertama dibuat di Inggris oleh seorang insinyur Belanda, Cornelis Jacobszoon Drebbel, pada 1620 berbentuk telur dari bahan kayu. Agar tahan air, kapal tersebut dilapisi dengan kulit serta lilin. Perahu Drebbel digerakkan dengan dayung, dan dapat bertahan selama 3 jam.
Kapal selam militer pertama hadir pada masa Perang Revolusi AS (1775-1783). Pada 1776, David Bushnell menciptakan Turtle, sebuah kapal selam untuk membantu tentara AS menaklukkan Britania Raya. Namun, kapal selam ini gagal melakukan tugasnya dan nasibnya antah berantah.
Di masa Perang Saudara AS (1861-1865), Horace Lawson Hunley juga menciptakan kapal selam agar tentara Konfederasi bisa mengalahkan tentara Uni. Sebuah terobosan untuk kapal selam militer, kapal selam Hunley adalah kapal selam militer pertama yang berhasil menenggelamkan kapal lawan, saat itu USS Housatonic!
Sebelumnya, kapal selam ditenagai secara manual oleh manusia. Hal tersebut berubah di penghujung abad ke-19 dengan perkembangan baterai listrik. Pada 1887, Isaac Peral y Caballero di Spanyol membangun Peral, kapal selam pertama bertenaga baterai listrik.
Pada 1897, insinyur Amerika, Simon Lake, menciptakan Argonaut, kapal selam pertama yang beroperasi di lautan lepas. Tiga tahun setelahnya, Angkatan Laut/AL AS merilis USS Holland, kapal selam pertama pesanan AL AS yang dibuat oleh insinyur Irlandia, John Phillip Holland.
Di masa Perang Dunia I (PD1), kapal selam militer semakin besar perannya. Angkatan Laut Jerman menciptakan U-Boat, kapal selam yang bertanggung jawab atas penenggelaman RMS Lusitania, kapal penumpang Inggris, pada 1915 atau tiga tahun menjelang akhir PD1. Insiden tersebut menewaskan hampir 1.200 jiwa.
Pada 1930an, insinyur Jerman, Hellmuth Walter, mengembangkan ide sistem propulsi kapal selam yang ditenagai oleh hidrogen peroksida. Hasilnya, kapal selam dengan mesin Walter 2 kali lebih cepat dari kapal selam di zamannya! Meskipun hasilnya menjanjikan, hanya sedikit kapal selam yang diproduksi dengan mesin Walter di zamannya.
Teknologi mesin energi kapal selam loncat jauh di 1955. Saat itu, AL AS kembali merilis USS Nautilus, kapal selam pertama yang ditenagai nuklir, yang beroperasi hingga 1980. Sekarang, USS Nautilus bisa dilihat di Submarine Force Library and Museum, Connecticut.
Dari segi ilmiah, AL AS pada 1964 juga merilis DSV Alvin, kapal selam kecil untuk riset ilmiah yang dioperasikan oleh Woods Hole Oceanographic Institution (WHOI). Salah satu pencapaian terbesarnya adalah menjelajahi bangkai kapal RMS Titanic pada 1986.
Tidak mau kalah, Uni Soviet juga ingin merilis kapal selam yang inovatif (di zamannya). Pada 1968, Uni Soviet merilis K-162, kapal selam dengan lambung titanium. Dianggap paling cepat di zamannya, kapal selam yang diubah namanya jadi K-222 pada 1978 ini mencetak kecepatan 82,8 km/jam!
Dengan berakhirnya Perang Dingin pada 1989, perkembangan kapal selam bertenaga nuklir semakin menjamur. Selain militer, kapal selam bertenaga nuklir juga digunakan untuk riset ilmiah Science Ice Exchange (SCICEX) pada 1990an di samudra Arktik yang dingin.