Komutanlığı Gölcük çevresinde Osmanlı döneminde kurulmuş birçok yerleşim birimi (Köyler) olmasına rağmen Asıl Gölcük ilçesinin kuruluşu Cumhuriyet döneminde gerçekleşmiştir. Halkın büyük bir çoğunluğu köylerde yerleşmişken Gölcük’e ilk yerleşimler önce tersanenin daha sora da Donanma Komutanlığının Gölcük’e kurulmasıyla başlar. Bu nedenle tersane ve Donanma Komutanlığı Gölcük için büyük önem arz eder.
Artık Gölcük’le özdeşleşmiş olan Donanma Komutanlığı ve Gölcük Garnizonu, Gölcük İlçesi’nde önemli bir yere sahiptir. Gölcük’ün kuruluşuna vesile olmuş olan tersane ve donanma, ilçenin “Donanma Kenti Gölcük” olarak tanınmasına vesile olmuştur.
1924 yılında Yavuz Destroyerinin tamir edilmesi amacıyla kurulan tersane ve askeri tesislerden sonra, 1935 yılında Donanma Komutanlığı binasının kurulması ile Gölcük ülkenin en büyük askeri limanı ve garnizonu haline gelmiştir. Bugün aileleriyle birlikte yaklaşık 10 bin kişinin yaşadığı garnizon bölgesinde subay ve ast subay ordu evlerinin yanı sıra çok sayıda sosyal ve kültürel tesisler ile deniz müzesi yer almaktadır.
Deniz Kuvvetlerine bağlı olan Donanma Komutanlığının kuruluş süreci 1920’lerde Önyüzbaşı Şevket Bey’in Genelkurmay çatısı altındaki bir masa ve iki sandalyeden oluşan Umur-ı Bahriye Müdürlüğü Karargahı’nı İzmit’te kurma görevini almasıyla başlar. 1923 yılında Marmara Üssü Bahri ve Kocaeli Müstahkem Mevki Kumandanlığı adı altında yeni bir komutanlık İzmit'te teşkil edilmiş ve aslında kilise olan Fransız okul binası satın alınarak komutanlık karargâhı bu binaya nakledilmiştir. Bundan 6 yıl sonra yeni bir komutanlık binasına ihtiyaç duyulmuş ve Gulte Hafnung isimli Alman firmasınca 1929 yılında yeni komutanlık binasının inşaatına başlanmış (Bugünkü Donanma Komutanı Konutu) bir yıl sonrada (Haziran 1930) hizmete açılmıştır.
Komutanlık binasının yapılmasından sonra 8 Mayıs 1933’te TBMM’de alınan bir kararla (2173 sayılı kanun) Türk Deniz Kuvvetleri Donanma Üssü’nün Gölcük’te kurulması kabul edilmiştir. 1935 Yılında Donanma Komutanlığı 6 Şube ile faaliyetlere başladı ve büyük başarılara imza attı. Her geçen gün artan iş yoğunluğuna paralel olarak Donanma Komutanlığında ihtiyaç duyulan hizmetlere yeterince cevap verebilmek adına yeni 1944 Yılında yeni bir şube daha kurularak şube sayısı 7’ye çıkarıldı.
1950’li yılların başları, Türkiye Cumhuriyeti Donanması’nın yerleşmiş düzen içerisinde gelişime ağırlık verildiği ve dünya denizci devletler seviyesine ulaşmanın hedeflendiği yıllar oldu. Donanmayı oluşturan kara ve yüzer birliklerin ihtiyaçları doğrultusunda yeni komuta kademeleri oluşturuldu. Bu oluşumlar, Gölcük Donanma Komutanlığının yeni genişleme ve geliştirmelerini de beraberinde getirdi. Yeni gelişmelere paralel olarak yeni ve daha büyük mekâna ihtiyaç duyulmaya başlanınca 1953 yılında yeni ve daha büyük bir komutanlık karargâh binası inşa edildi. Yine aynı nedenlerle 11 Mayıs 1964 tarihinde yeni bir komutanlık binası yapılmış ve bu bina 17 Ağustos 1999 tarihinde Marmara Depremi’nde yıkılana kadar hizmet vermiştir.
Gölcük Garnizonu ve Donanma Komutanlığı, asrın felaketi olarak kabul edilen 17 Ağustos 1999 depreminin merkez üssünde bulunduğundan, bölgede bulunan subay orduevi, Donanma Komutanlığı binası gibi tesisler ağır darbe alarak yıkılmış ve çok sayıda can kaybı olmuştur. Tüm bu kayıplara rağmen, Donanma Komutanlığı askeri personeli, depremden sonra yaşanan arama kurtarma, enkaz kaldırma çalışmalarında özveriyle hizmet vermiş, garnizon sahası evleri yıkılan insanların geçici olarak konakladığı yer olmuştur.
Depremden sonra Donanma Komutanlığı Karargâhı; depremden hemen sonra 28 Ağustos 1999 tarihine kadar çadırlarda hizmetlerini sürdürmüş, daha sonra da geçici olarak Preveze Harp Oyunu Merkezi’nde konuşlanmıştır. Donanma Komutanlığı Karargâhı, depremde yıkılan komutanlık binasının yerine 17 Temmuz 2000 tarihinde yapılan şimdiki (2021) binasında hizmetlerini sürdürmektedir.
2021 tarihi itibariyle ilk dokuzu (1922-1931 yılları arası) Albay, Yarbay ve Binbaşı rütbelerinde subay, diğerleri Amiral olmak üzere toplam 47 Komutan Donanma Komutanı olarak görev yapmıştır.