Akhir masa Keraton Pleret sebagai pusat pemerintahan Mataram Islam ditandai dengan serbuan pasukan Trunajaya pada tahun 1677 Masehi yang mengakibatkan Amangkurat I pergi. Setelah berhasil dikuasai Trunajaya memerintahkan pasukannya untuk menghancurkan bangunan yang ada disekitar masjid, namun ada beberapa bangunan yang tidak dihancurkan seperti keraton itu sendiri, masjid besar, istana milik Pangeran Purboyo, Pangeran Sampang, Pangeran Cirebon dan Pangeran Aria Panular.
Seperti pada umumnya masjid tua yang berada di Jogjakarta terdapat makam-makam para panglima, prajurit dan para Ulama yang dimakamkan disitu. Dekat masjid tepatnya di dalam salah satu makam terdapat pohon randu yang sangat besar, pohon itu ada setelah pembangunan masjid dan memang tidak ditebang karena merupakan warisan budaya jadi tidak boleh diapa-apakan, perkiraan umurnya 300 hingga 400 tahunan. Saat itu pohon randu ada 2 tetapi yang satu sisi utara sudah mati pada tahun 2013.
