İlk Türkiye Büyük Millet Meclisi binası olarak kullanılan bina, 1916 yılında İttihat ve Terakki Fırkası binası olarak yapımına karar verilmiştir. Harbiye Nazırı Enver Paşa'nın emriyle Mimar Salim Bey tarafından projelendirilmiş, Askerî Mimar Hasip Bey tarafından yapımı gerçekleştirilmiştir. Hasip Bey, binanın büyük bölümünü başarı ile bitirmiş ancak çatı ve diğer bölümler, birinci dünya savaşının devamı ve İttihat ve Terakki Fırkasının kapanması gibi nedenlerle tamamlanamamıştır.

Birinci Dünya Savaşı sonrası, Mondros Mütarekesi sonucu bir grup işgal kuvvetleri askeri Ankara'ya gelmiş, Fransız askerlerinin başındaki komutan ise henüz çatısı tamamlanmamış olan bu binanın bir odasını makam olarak kullanmıştır.

İstanbul'un ilk işgalinden önce Ankara'da bulunan işkal kuvvetlerinin küçük askeri birliği  Ankara'dan ayrıldı.  16 Mart 1920'de İstanbul İngilizler tarafından resmen işgal edildi. 18 Mart 1920'de Meclis-i Mebusan kendini feshetti. Türkiye Büyük Millet Meclisinin 23 Nisan 1920'de açılmasına karar verildiğinde, Ankara'da Meclisin toplanabilmesi için gerekli büyüklük ve donanıma sahip bir binanın bulunmadığı görüldü. Bu şartlar altında, inşası yarım kalan İttihat ve Terakki Fırkası binasının Meclis binası olarak kullanılması kararlaştırıldı.  Ankara halkı, Ankara’da bulunan 20. Kolordu askerleri ve Ankara Müdafaa-i Hukuk Cemiyeti büyük destek verdi. Böylece Meclis binası, Ankaralıların evlerinden ve Ulucanlar'daki Numune Mektebinden getirilen kiremitlerle, halkın fedakârlıkları ile tamamlandı. Tamamlanan bina Gazi Mustafa Kemal Atatürk önderliğinde dualarla açılışı yapıldı.

23 Nisan 1920 ile 15 Ekim 1924 tarihleri arasında Türkiye Büyük Millet Meclisi olarak kullanılan bina, daha sonra Cumhuriyet Halk Fırkası Genel Merkezi oldu. Ankara Üniversitesi Hukuk Fakültesinin temeli olan Hukuk Mektebi burada kurulmuş, bina mektebe kısa bir süreliğine ev sahipliği yapmıştır. 1957 yılında müzeye dönüştürülmek üzere çalışmalara başlanmış ve 23 Nisan 1961 tarihinde "Türkiye Büyük Millet Meclisi Müzesi" adıyla halkın ziyaretine açılmıştır.