Yemen, Asya'nın güneybatı bölgesinde bulunur ve Orta Doğu'nun bir parçası olarak kabul edilir. Ülkenin coğrafi koordinatları 15 derece kuzey enlem ve 48 derece doğu boylamdır.
Yemen, kuzeyde Suudi Arabistan ile kuzeyde Umman ile sınırda. Batıda, Yemen kıyı şeridi Kızıldeniz boyunca uzanıyor, Afrika ise diğer tarafta. Yemen'in güney kıyıları Aden Körfezi ve Arap Denizi'ni çevrelemektedir. Yemen çoğunlukla çöl iklimi yaşar; en sıcak ve kurak bölge doğudadır. Batı kıyı şeridi çevresindeki bölgeler daha ılıman bir iklime sahiptir.