Günümüzde "Donanma Kenti" olarak anılan Gölcük ve yöresi çok eski ve zengin bir tarihi yapıya sahiptir. Gölcük'ün de kıyısında yer aldığı İzmit Körfezi'nin zamanında kara parçası olduğu, bugünkü İzmit-Gölcük ile Derince ve Bahçecik doğrultularında çapraz iki büyük yol bulunduğu ve çevresinde tarım alanlarının yer aldığı tarihçiler tarafından ifade edilmektedir. İzmit Körfezi'nin deniz tabanında bulunan kilise kalıntıları, duvarlar ve lahit kalıntıları bu tezin doğruluğunu gösteren bulgulardır. Deprem kuşağı içinde bulunan bölge tarih boyunca (M.S. 313, 358, 362 ve 554) şiddetli depremlere maruz kalmış ve yerleşim birimlerinin çökmesi sonucu bugünkü İzmit Körfezi oluşmuştur.
İzmit Körfezi'nin güney sahillerinin tarihine kısaca baktığımızda, M.Ö. VIII. yüzyıldan itibaren bölgede sırasıyla; Frigler, Lidyalılar ve Persler hâkimken, M.Ö. 378'li yıllarda Bitinya Krallığının hüküm sürdüğü görülür. Daha sonra Roma İmparatorluğu'na katılan bölge, İmparatorluğun 395 yılında ikiye ayrılması ile Doğu Roma (Bizans) yönetiminde kalır. Bizans yönetimi altında iken, yüzyıllar boyunca birçok kez Müslüman Arapların hücumuna maruz kalan bölge, 1075'te Selçukluların eline geçse de 1101'de Haçlılar tarafından tekrar geri alınır. Bundan sonra Osmanlılar tarafından fethedilene kadar Haçlılar ve Bizans idaresinde kalır.
Bölge 1326 yılında, Osmanlı uç beylerinden olan ve Kocaeli'ne ismini veren Akçakoca'nın yetiştirdiği yiğitlerden Karamürsel Bey tarafından fethedilir. Bölgenin büyük bir kısmı sipahilere tımar olarak dağıtılır. Yerleşim alanları, isimlerini çoğunlukla yerleşkeyi kuranların mensup oldukları, boy ve cemaatlerden aldıklarından, Bu bölge de dönem içinde "Kanlı Kuyu", "Aydın Pınarı", "Palamar", "Harun’un Çayırı", "Kazıklı", "Karaağaç" ve "Pazarlı" gibi adlarla anılmıştır. Kanuni dönemine ait "tahrir defterlerinde" kayıtları görülen Değirmendere ve Örcün köylerinin, Fatih döneminde de bu isimlerle yerleşim alanı olarak kullanıldığı, Baba Sultan (Sultan Baba) Zaviyesi ile ilgili bir vesikadan anlaşılır.
Osmanlı imparatorluğu'nun çöküşünden sonra Kurtuluş Savaşına kadar zaman zaman Yunanlılar ve İngilizler tarafından istila edilmiş, nihayet 10 Eylül 1922 'de ordularımız tarafından geri alınmıştır. Kurtuluş Savaşı sırasında başta Hamidiye köyünden Hasan Zobuoğlu olmak üzere birçok vatanseverin Kuvayı Milliyeci olarak düşmana karşı savaşmıştır.
Bu günkü Gölcük tarihinin Yavuz Zırhlısı ve onun tamir edilmesi amacıyla kurulan havuz ve tersane ile başladığı söyleyebiliriz. I. Dünya savaşında hasar gören Yavuz gemisi 1924 yılında İzmit Körfezine demirleyip onarımına başlandığı zaman, Gölcük'te bir sandal iskelesi, işçi barakaları ve üç beş evden başka bir şey yoktur. Yavuz gemisinin onarımı tamamlanıp havuzdan indirilince, havuzun bulunduğu yer kendiliğinden tersane haline gelir.
Bölgenin Gölcük ismini alması, depremler sırasında oluşan küçük göletlere dayandırılır. Bugün tersanenin bulunduğu alanda çökmeler sonucu meydana gelen 3 gölet ve göletlerin bulunduğu kara parçası "Göl Burnu" olarak anılmış, zamanla yöre sakinleri arasında buradaki gölcüklere atfen yöre önce "Gölcükler", daha sonra da "Gölcük" olarak anılmaya başlanmıştır.
Gölcük'te kentleşme tersanenin kurulmasıyla başlayıp, 1950'lerden sonra hızla gelişmiştir. Bu gelişmede, Gölcük'ün İzmit-Yalova-Bursa sanayi ekseninde önemli bir yolun üzerinde bulunması önemli rol oynamıştır. İzmit'in sanayi bölgesi olması Gölcük'te inşaat sektörünü hızlandırmış, değişik bölgelerden aşırı göç almasına neden olmuştur.
Gölcük, modern kent haline geçişi yaşarken, ağırlıklı olarak İzmit Körfezinin iki kıyısında öğrenci ve işçi taşıyan Üsküdar Vapurunun, 1 Mart 1958’de bir fırtına sonucu batmasıyla tarihe “Üsküdar Deniz Faciası” olarak geçen acıyı yaşamıştır. Kesin olmayan verilere göre bu deniz faciasında 270 kişi boğularak ölmüştür. Bu kazada ölenlerin anısına Gölcük Mezarlığının bir bölümünde “1 Mart Şehitliği” yapılmıştır.
Gölcüklülerin bu acısı henüz küllenmeden “Asrın Felaketi” olarak tanımlanan 1999 Marmara Depremi yaşanmıştır. Gölcük, bu depremde büyük hasar almış, Bursa-İzmit karayolu hattının alt kısmı neredeyse kullanılmaz hale gelmiştir. Depremin hemen ardından yaralarını saran Gölcük, yolun alt kısmında yerleşimden vazgeçip, yolun üst kısmındaki dağlık bölgeleri yerleşim merkezi olarak seçmiştir. Yeni Gölcük, kütüphanesi, kültür merkezleri, spor sahaları, ağaçlandırma, yeşillendirme çalışmaları ile adeta yeniden imar edilmiş ve hayata yeniden merhaba demiştir. Deprem nedeniyle Nüfusu, 70 binden 55 bine gerileyen Gölcük’ün 2020 yılına göre nüfusu 170.503’tür. Bu nüfusun; 86.092 kişisi (%50,49) erkek ve 84.411 (%49,51) kişisi kadından oluşmaktadır.
Daha önce, ilçe sınırları içinde ayrı ayrı belediye statüsünde olan Yazlık, Hisareyn, İhsaniye, Değirmendere, Halıdere ve Ulaşlı Belediyeleri, 2008 yılında çıkarılan 5747 sayılı Kanunla tüzel kişilikleri kaldırılarak Gölcük Belediyesi ile birleşmiştir.
İstihdam hacmi inşaat sektörüyle canlılık kazanırken, ilçe sınırları içinde FORD OTOSAN tesislerinin, Kocaeli Üniversitesine bağlı yüksek okulların, Gölcük Tersanesinin ve Donanmasının varlığı ile yeniden kendini toparlamıştır. İlçemiz, Kocaeli Büyükşehir Belediyesi sınırları içine alınarak hizmetten yararlanmasıyla, gelişmeye açık, modern ve çağdaş bir kent hüviyetine kavuşmuştur.