KH Abdurrochim adalah putra ke 4 dari 8 bersaudara pasangan KH Chasbullah Said dan Nyai Lathifah. Orang tua yang melahirkan dan membesarkan KH Wahab Chasbullah beserta adik-adiknya di dusun Tambakberas. Sebagaimana saudara-saudaranya yang lain, beliau lahir dan besar di Tambakberas Jombang dan melewati masa pendidikannya di beberapa pesantren, diantaranya di PP Termas Pacitan dan PP Mojosari Nganjuk.