Terinspirasi dari hal tersebut dan keinginan untuk melanggengkan Konferensi Asia-Afrika, lahirlah idenya untuk mendirikan Museum Konferensi Asia-Afrika di Gedung Merdeka. Ide ini dicetuskan dalam rapat panitia memperingati 25 tahun Konferensi Asia-Afrika (1980) yang dihadiri oleh Direktur Jenderal Kebudayaan, prof. Dr. Haryati Soebadio selaku perwakilan dari Kementerian Pendidikan dan Kebudayaan. Ternyata ide tersebut diterima dengan baik, termasuk oleh Presiden Republik Indonesia, Suharto.Â
Ide pendirian Museum Konferensi Asia-Afrika dilakukan oleh Joop Ave selaku ketua harian Panitia HUT ke-25 Konferensi Asia-Afrika dan sebagai direktur umum yang membidangi urusan etiket dan kekonsuleran di Asia-Afrika. Konferensi Kantor Luar Negeri. Kerjasama dengan Kementerian Penerangan, Kementerian Pendidikan dan Kebudayaan, Pemerintah Provinsi Jawa Barat dan Universitas Padjadjaran. Perencanaan teknis dan pelaksanaannya dilakukan oleh PT. Decenta, Bandung. Museum Konferensi Asia-Afrika dibuka oleh Presiden Indonesia Suharto pada tanggal 24 April 1980, sebagai puncak dari peringatan 25 tahun Konferensi Asia-Afrika.