1938 yılında Konya’nın Bozkır kazasında dünyaya geldi. İlk ve orta tahsilini Bozkır'da yaptı. 1958 yılında Adana Ziraat Meslek Lisesi’nden mezun olduktan sonra yedek subaylığı müteakip Haziran 1960 yılında Bitlis Teknik Ziraat Müdürlüğü'nde Ziraat Teknisyeni olarak çalıştı. Bu vazifesi sırasında Doğu ve Güneydoğu'da birçok il ve ilçede görev yapan yazar, Anadolu insanını geniş ölçüde inceleme ve yakından tanıma fırsatı buldu. 1971 yılında İstanbul'a gelip basın ve yayın hayatına atılan Rahmi Erdem çeşitli gazetelerde muhtelif vazifelerde bulunmuştur. Evlidir.