Sivas il merkezinin kuzeyinde Ali Baba Caddesi’nin sonunda bulunan bu cami, giriş kapısındaki kitabesinden öğrenildiğine göre h.1200 (1786) yılında, Ali Baba isimli bir kişi tarafından yaptırılmıştır.
Cami yontma taştan, dikdörtgen planlıdır. İbadet mekânı oldukça geniş pencereler ile aydınlatılmıştır. Caminin kadınlar bölümünün sağında camekânla bölünmüş olan bölümde Ali Baba’nın türbesi bulunmaktadır. Bu türbede Ali Baba, oğlu ve iki torununun sandukaları bulunmaktadır.
Minaresi kesme taş kaideli, yuvarlak gövdeli ve tek şerefelidir.
