Kazım Karabekir, 2 Mart 1919'da Erzurum'daki 15. Kolordu Komutanlığı görevine getirildi. Bu emir geldiği sırada İstanbul'da idi. 12 Nisan 1919'da Gülcemal Vapuru'yla İstanbul'dan Samsun'a doğru hareket etti. 17 Nisan 1919'da da Samsun'a ayak bastı, ancak İngiliz kuvvetlerinin bölgede olduğunu gördü. Buradan Erzurum'a ulaşmasının zor olduğunu anladı. Bunun üzerine Trabzon'a hareket etti ve 19 Nisan 1919'da şehre vardı. Burada belli görüşmeler gerçekleştirdi. Bu görüşmelerin ardından Erzurum'a doğru hareket etti.
Kazım Karabekir, Erzurum'a vardığında halk tarafından büyük bir coşkuyla karşılandı. Doğuda kazandığı başarılar unutulmamıştı!
Ermenilerin ele geçirdiği Kars, Gümrü ve Sarıkamış kalelerini tekrar aldı. 15 Kasım 1920'de Ermenilerle Gümrü Antlaşması'nı imzaladı. Bu antlaşma, doğudaki sorunları büyük ölçüde bitiren bir antlaşmaydı.
Erzurum Kongresi'nin toplanmasında Kazım Karabekir'in büyük emeği vardı. Ayrıca, Atatürk'e en sıkıntılı anında destek olmuş biriydi. Atatürk, resmi bir görevi kalmadığı ve etrafındaki askerlerin kendisinden kopacağını düşündüğü sırada, Kazım Karabekir'den büyük destek gördü. Kazım Karabekir, birliğiyle beraber emrinde olduğunu Atatürk'e iletti. Kazım Karabekir'in desteği, Milli Mücadele'nin başlatılmasında önemli bir kıvılcımdı.
ATATÜRK'LE İLK FİKİR AYRILIĞI
Kazım Karabekir, zamanla Atatürk'le bazı konularda fikir ayrılığı yaşadı. İlk fikir ayrılığı da askeri strateji konusunda oldu. Falih Rıfkı Atay bu fikir ayrılığını şöyle anlatır: “Kazım Karabekir'in bütün düşündüğü ne yapabilirse ancak doğuda yapabileceğiydi. Türlü kuruluşları orada birleştirmeli, hazırlanmalı, olayların gelişmesini beklemeliydi. Ülkenin öteki bölgeleri milli hareket için elverişli değildi… Ama o (Mustafa Kemal) memleketi doğu ve batı diye ikiye ayırmayı doğru bulmuyordu. Vatan bir bütün olarak ele alınmalıydı ve Kurtuluş için milletçe yurt ölçüsünde tedbirler ve çareler bulunmalıydı.” Kazım Karabekir'in Atatürk'le olan görüş ayrılığı, cumhuriyet kurulduktan sonra da kendini gösterecekti.
Kazım Karabekir, Cumhuriyet ilan edildikten sonra TBMM'de İstanbul milletvekili olarak görev yaptı. Aynı zamanda askerlik görevini de sürdürüyordu. Bir süre hem askerlik, hem de milletvekilliği yaptıktan sonra askerlikten istifa etti. Bu istifayı iki hafta sonra CHP'den istifası izledi.
1924 yılında Terakkiperver Cumhuriyet Fırkası'nı kurdu. Ancak bu parti uzun soluklu olmadı. 1926 yılında ise Atatürk'e karşı düzenlenmesi planlanan “İzmir suikasti” sebebiyle tutuklandı. Daha sonra olayla ilgili olmadığından ötürü serbest bırakıldı. Ancak, serbest bırakıldıysa da bu olay onu çok etkilemişti.
1926 ve 1939 yıllarını hep takip altında ve gözetlenerek yaşadı. Bu sırada çok sayıda kitap yazdı. Bu yazdığı kitaplardan “İstiklal Harbimizin Esasları” adlı kitabı matbaada basım halindeyken toplatıldı ve yakıldı.
Hayatının ilerleyen süreçlerinde geçim sıkıntısı çekti. Bu sıkıntılarını en iyi yansıtan “İki Damla Gözyaşı” adlı şiiriydi. Bu şiirde, Kurtuluş Savaşı'nın önder kadrosundan olan bir komutanın çektiği sıkıntılar açıkça gözüküyordu.
6 Ocak 1939'da yeniden meclise girdi. 1946'da TBMM başkanı oldu. 26 Ocak 1948 tarihinde de yaşamını yitirdi. Efsane komutanın cephelerde geçen “fırtınalı” hayatı son bulmuştu.
Bence Atatürk haklıymış bu fikir ayrılığında, tabii işin derini bu kadar basit değildir elbette, ama zaten yadırgamamak lazım herkes Atatürk gibi ileri görüşlü ve cesur olamıyor.