Umar bin Khattab merupakan khalifah ke-2 setelah Abu Bakar As-shidiq. Ia dipilih oleh Abu Bakar setelah melawati berbagai pendapat dan pertimbangan dari berbagai kalangan.
Umar adalah sahabat yang sangat dekat dengan Rasulullah. Beliau merupakan sosok senang melontarkan pendapat. Jika pendapatnya berbeda dengan Rasulullah, maka hal tersebut muncul karena keikhlasan dan kecintaan. Apabila pendapatnya tidak diterima, Umar akan tetap setia pada Rasulullah.
Beliau mengambil alih tonggak kekhalifahan dari khalifah pertama pada bulan Agustus 634 M. Tindakan yang dilakukan Umar di awal ia menjadi Khalifah adalah melepas Khalid bin Walid dari kedudukannya sebagai panglima perang. Saking cakapnya dalam berperang ia sampai dijuluki sebagai "Pedang Allah" oleh Rasulullah.
Khalid bin Walid telah banyak memenangkan pertempuran yang belum pernah terjadi, sehingga ia memiliki reputasi yang tinggi dan menonjol. Pada zaman Abu Bakar, Beliau membiarkan cara Khalid bin Walid yang menyimpang dari adat istiadat. Tetapi, Umar tidak akan membiarkan Khalid bin Walid  untuk melakukan cara-cara yang terlalu liberal.
Setelah Khalid bin Walid  dilepas dari jabatannya, Umar mengadakan rekonsiliasi. Hal ini ditujukan untuk memulihkan hubungan antara Khalid bin Walid  dan Umar bin Khattab yang mungkin menyisakan ketidaksukaan. Lalu, Khalid bin Walid  diangkat menjadi Gubernur di Kinnisrin.
Pelepasan jabatan itu tidak serta merta karena keinginan Umar sendiri. Hal tersebut dilakukan untuk suatu kepentingan, yaitu untuk menyadarkan bahwa kemenangan-kemenangan yang dicapai selama ini bukanlah berkat kepemimpinan Khalid, tapi dari sang pemberi kemenangan, yaitu Allah SWT. Keputusan ini merupakan pembuka jalan dan sebuah usaha yang sangat baik untuk sebuah pengorbanan.
