Az első oszmán fegyverkiállítást is tartalmazó múzeumot a Topkapi szeráj kertjében álló Hagia Eirene templomban állították össze Szultáni Múzeum néven. Bár az egyéb kiállítási tárgyakat innen idővel elköltöztették, a fegyvergyűjtemény egészen a második világháborúig az eredeti helyén maradt. Végül 1959-ben kerültek a mai helyükre, az egykori Katonai Akadémiai Testgyakorló Házba (Harbiye Mektebi Jimnastikhane), amit az évtizedek alatt tovább bővítettek és modernizáltak. A jelenlegi tárlatban látható Kmety György és Guyon Richárd mellszobra, valamint azok a bőr harci dobok, amiket a mohácsi csata során vertek a török csapatok.