Genjatan sejanta terjadi pada saat perjanjian Linggarjati pada 15 November 1946. Namun hal itu tidak bertahan lama karena Belanda kembali melancarkan serangan. Soedirman menyerukan kepada tentara untuk melakukan perang Gerilya.
Pasukan Gerilya diletakkan di beberapa titik wilayah, bersembunyi melakukan gerilya. PBB memandang lemah kekuasaan Indoensia lantas membagi batas-batas wilayah yang dikenal dengan Garis Van Mook. Soedriman tidak tinggal diam, menyuruh pasukan meninggal Jawa bagian barat sementara untuk berangkat ke Yogyakarta.
Soedirman membakar semua berkas-berkas penting sebelum melakukan Perang Gerilya. Hal ini dilakukan agar musuh tidak mengetahi identitas pribadi dan mencari titik kelemahananya.
Soedirman juga meminta istrinya menjaul perhiasan untuk membantu mendanai perang Gerilya. Soedirman sadar Belanda memburu mereka, maka mereka bergerak ke Jawa Timur. Untuk mengelabui musuh yang semakin mendekat, Soedirman menyuruh salah satu pasukannya memakai baju dan jubahnya. Taktik ini berhasil sehingga merka melanjutkan Gerilya ke wilayah lain dengan melewati hutan dan rimba.
Perjuangan Soedirman melawan Belanda sangat berjasa untuk mempertahankan kemerdekaan Indonesia. Di tengah gerilya-nya, Soedirman mengindap penyakit TBC (Tuberculosis) yang membuat dia bertahan dengan satu paru-paru setelah yang satu lagi dikempeskan.
Meski dalam keadaan sakit, Soedirman tetap melakukan gerilya, bahkan pernah ditandu selama 8 bulan saat perang tersebut. Soekarno pernah memintanya untuk beristirahat di rumah sakit namun Soedirman menolak dengan keras, ia mengatakan “yang sakit itu Soedirman, bukan panglima besar.” Keberanian dan pengorbanan Jenderal Soedirman tidak dapat diragukan lagi. Ia rela mati untuk memperjuangkan kemerdekaan yang hampir dirampas Belanda.
Pada tanggal 7 Mei 1949, dilaksankan perundingan Roem Royen. Hasil pelaksanan ini membuat Belanda menarik pasukannya. Para pemimpin Indonesia yang diasingkan kembali ke Yogyakarta. Soedirman beserta pasukannya menyusul pada 10 Juli 1949 yang disambut hangat oleh masyarakat.
