Sejarah Markas Armada bermula di Pangkalan Tentera Laut DiRaja Malaysia ( TLDM ) Woodlands, Singapura iaitu pada awal tahun 50-an. Walaubagaimanapun pada tahun 1969, kerajaan telah membuat satu perancangan untuk mewujudkan satu pangkalan tetap di Semenanjung Malaysia. Hasil kajian mendapati kawasan Lumut, Perak merupakan lokasi sesuai untuk dibina satu pangkalan yang strategik. Pembinaannya telah bermula pada Januari 1973. Fasa pertama pembinaan projek tersebut telah siap pada tahun 1982. Ekoran daripada itu Markas Armada telah dipindahkan ke Lumut pada 18 MAC 1983.

Pada 20 November 1984, Yang Amat Berhormat Dato Seri Dr. Mahathir Bin Mohamad, Perdana Menteri Malaysia telah merasmikan bangunan Markas dan sejak dari tarikh tersebut seramai 11 orang Panglima telah menerajui Markas Armada. Sepanjang pemerintahan Panglima - Panglima tersebut, berbagai perubahan dan kemajuan telah dilakukan untuk memantap dan meningkatkan taraf kesiapsiagaan operasi Armada dengan sokongan logistik yang efisyen .