İlçemiz Doğu Anadolu Bölgesinin en yüksek yaylaları üzerinde yer alır.Erzurum’un kuzeyinden Çıldır Gölü’ne kadar uzanan Allahuekber Dağları ile Kızılgedik Dağları ilçemizin kuzeyinde uzanmaktadır.
Güneyinde Aladağ-Akbaba Dağı ve Karanlık dere,batıda Sarıkamış Ormanları ile Kumru Dağı ve doğuda Kars Ovası ile çevrilmiştir.
Doğusunda Kars İli,Batısında Sarıkamış İlçesi,Kuzeyinde Göle İlçesi ve güneyinde Kağızman İlçesi bulunmaktadır.