25 Şubat 1907 tarihinde, bugün Bulgaristan sınırları içindeki Gümülcine kazası Eğridere köyünde doğdu. Babası, bir piyade yüzbaşısıydı bu yüzden görev yeri sık sık değişiyordu ve Ali, çocukluk yıllarında İstanbul, Çanakkale, Edremit gibi çeşitli şehirlerde yaşadı ve çeşitli okullarda okudu. İlköğrenimini Üsküdar, Çanakkale ve Edremit’te yaptı (1921). Balıkesir Muallim Mektebi’ni bitirdi (1927). Aynı yıl Yozgat Cumhuriyet İlkolulu’na öğretmen oldu.

Maarif Vekaleti’nin açtığı sınavı kazanarak Almanya’ya eğitime gitti. Postdam ve Berlin’de öğrenim gördü. Yurda dönüşünde Aydın’daki bir ortaokulda Almanca öğretmenliğine atandı. 1932 yılında Konya’da bulunduğu sırada, bir arkadaş toplantısında Atatürk’ü yeren bir şiir okuduğu iddiasıyla tutuklandı. Bir yıla mahkûm olarak Konya ve Sinop cezaevlerinde yattı, 1933 yılında Cumhuriyetin onuncu yıl dönümü dolayısıyla çıkarılan af yasasıyla özgürlüğüne kavuştu.

Cezaevinden çıktıktan sonra Ankara’ya gitti ve Millî Eğitim Bakanlığı’na başvurarak yeniden göreve alınmasını istedi. Dönemin bakanı Hikmet Bayur’un “eski düşüncelerinden vazgeçtiğini ispat etmesini” istemesi üzerine 15 Ocak 1934 tarihinde Varlık dergisinde “Benim Aşkım” adlı şiirini yayımlayarak Atatürk’e bağlılığını göstermeye çalıştı. Aynı yıl Bakanlık Neşriyat Müdürlüğü’ne alınmış, Ankara II. Ortaokul’da öğretmenlik yapmıştır.

Maarif Vekaleti Talim Terbiye Dairesi’nde, Neşriyat Müdürlüğü’nde çalıştı. Ankara’da Almanca öğretmenliği, Ankara Devlet Konservatuvarı’nda çevirmenlik, öğretmenlik, dramaturgluk yaptı. 1945’te bakanlık emrine alındı. 1946’da işsiz kaldığı dönemde Aziz Nesin’le birlikte “Marko Paşa” dergisini çıkarmaya başladı. Yayın yoluyla hakaret suçlamasıyla 3 ay hapse mahkum edildi.

Yazar, 1937’de “Kuyucaklı Yusuf”, 1940’ta “İçimizdeki Şeytan” ve 1943’te “Kürk Mantolu Madonna” olmak üzere 3 roman yazdı. Serbest kalınca bir kamyon alarak taşımacılığa başladı. Sürekli izlenmekten, yargılanmaktan tedirgin olduğu için yurtdışına kaçmaya karar verdi. Kırklareli üzerinden Bulgaristan’a geçmek istedi.

2 Nisan 1948’de yurt dışında çıkmak için anlaştığı, kendisine kılavuzluk yapan Ali Ertekin tarafından, Bulgaristan sınırı yakınlarında Sazara köyü civarındaki ormanda öldürüldüğü iddia edildi. Cesedi öldürülüşünden iki buçuk ay sonra (16 Haziran 1948) bulundu. Mezarının nerede olduğu kesin belli değil.