Mustafa Kemal Atatürk’ün amacı Türkiye Cumhuriyeti’ni tüm bölge ve yöreleriyle modern bir ülke haline getirmekti ve bu planın en önemli halkası yeni başkent Ankara idi. Başkent hem mimari açıdan hem de kurumsal olarak yenilenmeyi temsil ediyordu. Başkentte bir Etnografya Müzesi oluşturulması önerisi Atatürk’e 1924’de o dönem Ankara’da yaşayan Gyula Mészáros (1883-1957) tarafından sunuldu. Kurumun ilk müdürü yükseköğrenimini Budapeşte’de tamamlayan ve Eötvös Collegium’un da üyesi olan, arkeolog ve etnografya uzmanı Profesör Hamit Zübeyir Koşay (1910-1984) oldu. Müze kuruluşundan itibaren Macar müzesi materyallerine dayanmakta olup ilk hedefi Türkiye Cumhuriyetinin halk gelenek ve köklerini tanıtmaktı. 1930’da inşa olunan bina Cumhuriyet döneminin ilk tipik binalarından olup Mimarı Arif Hikmet Koyunoğlu’dur (1888-1982). Bu kurumun ne kadar önemli olduğunun bir başka göstergesi de Atatürk’ün cenazesinin, 1938-1954 yılları arasında Anıtkabir hazırlanıncaya kadar bu binada muhafaza edilmesidir.