23 Nisan 1923'te Diyarbakır'ın Hançepek semtindeki Yağcı Sokak 7 no'lu evde dünyaya geldi.[1] Babası Rumeli'den Kerkük'e görevli gelmiş bir Türk aileye mensup gelen ve o yıllarda Osmanlı Devleti hizmetinde memur olarak çalışan Arif Hikmet, annesi Sare Hanım ise devrin ulemasından Şeyh Abdülkadir Cibrali'nin kızı olan Erbilli bir Kürt'tür.[2][3] Sekiz kardeşin en küçüğü idi. Asıl adı Ahmet Hamdi Önal'dır. "Ahmed Hamdi" dedesinin adı; yazın hayatında kullandığı "Ahmed Arif" ismindeki "Arif", babasının ön adıdır.[4]

Babası Arif Bey sivil hayatta en son Siverek'te nahiye müdürlüğü görevinde bulundu. Çocukluk yılları Siverek ile babasının vekaleten kaymakamlık görevinde bulunduğu Harran'da geçti. Siverek'te o sıralarda şehirde ağırlıklı olarak konuşulan dil olduğu için Zazaca'yı, Karakeçi'de çoğunlukla Kürt aşiretleri olduğu için Kürtçe'yi, Harran'da Arapça'yı öğrendi.[1] Annesini 1929 yılında kaybetti. Onu, üvey annesi Arif Hanım büyüttü.

İlkokulu Siverek'te, ortaokulu Urfa'daki ablasının yanında okudu.[5] Lise öğrenimine parasız yatılı öğrenci olarak Afyon Lisesi'nde devam etti. Bu okulda edebiyat bilgisini artırmak için iyi bir ortam buldu.[1] Afyon Lisesi’nde öğrenciyken yazdığı şiirlerin ilki, Afyon Halkevi dergisi Taşpınar’ın Kasım 1942 tarihli 94'üncü sayısında yayınlandı.[5] 1943 yılında liseden mezun oldu.

Liseyi bitirdikten sonra bir süre Uşak'ta ağabeyi Muhammed Necati'nin yanında kaldı. Babasının emekli olup Diyarbakır'a yerleşmesi üzerine Diyarbakır'a gitti. Ardından askere giden Ahmed Arif, Riva'da yedek subay olarak yaptığı askerlikten 11 Mart 1947'de terhis oldu.[1] Yükseköğrenimi için Ankara'ya gitti. Ankara Üniversitesi Dil ve Tarih-Coğrafya Fakültesi felsefe bölümüne kaydoldu, ancak mezun olmadı. Faruk Nafiz, Ahmed Muhip, Ahmed Hamdi, Cahit Külebi, Behçet Necatigil gibi o dönemin ünlü şairlerinin etkisinde şiirler yazdı.[6] İnkılapçı Gençlik ve Meydan dergilerinde yazdığı şiirlerle adını duyurdu. Özgün şiirsel yapısını yansıtan şiirleri 1948’de yayımlatmaya başladı. Attilâ İlhan’ın düzenlediği ve Varlık dergisinin yayımladığı Şiirler-1948 adlı antolojide yer alan Rüstemo başlıklı şiiri ilk şiiri kabul edilir.[7]

1948 yılında Dışişleri Bakanlığı'nın açtığı sınavı kazandı; ancak yurtdışında gönderileceği sırada Palmiro olarak bilinen bir şiiri nedeniyle gözaltına alındı.[5] İtalyan komünist öner Palmiro Togliatti'nin öldürülmesi üzerine yazdığı, henüz ham durumdaki bu şiirin müsveddeleri çalınıp çoğaltılması ve nüshaların bir arkadaşının evinde bulunması; kimi arkadaşlarının yargılanmasına, Ahmed Arif'in ise karakolda ifade verip serbest bırakılmasına neden olmuştu. Ahmed Arif, bu gözaltı nedeniyle işe alınmayınca Danıştay'a başvurdu ve Merkez Bankası'nda bir işe yerleştirildi. Bir yandan memuriyete, diğer yandan da eğitimine devam etti.[1]

Şair, 1950 yılında Hürriyet gazetesinde okuduğu bir röportaj ile 1943'te Van'da gerçekleşen ve tarihe Muğlalı Olayı olarak geçen olayı öğrenince, bu olayı konu edinen bir şiiri yazdı. Bir ağıt olarak tasarladığı, hiçbir zaman yayımlamayı düşünmediği 33 Kurşun başlıklı şiir, çok kısa zaman içerisinde elden ele dolaşarak çok bilinen bir şiir halline geldi.[6]

1950’de Türk Ceza Kanunu'nun 141'inci maddesine aykırı davranmak savıyla, 1952’de gizli örgüt kurma savıyla iki kez tutuklandı.[8] Tutukluluğu sırasında Ankara'dan İstanbul'a götürüldü ve Sanasaryan Han'da işkenceye maruz kaldı.[9] 38 aylık tutuklu kaldıktan sonra yapılan yargılama sonunda iki yıl hapis ve sekiz ay Urfa’da gözetim altında tutulma cezası verildi. Bu cezayı yargılanmadan önce fazlasıyla çektiği için 7 Ekim 1954'te tahliye edildi.[5] Sekiz ay kamu gözetimi altında tutulma cezasının Urfa yerine Diyarbakır olarak değiştirilmesini sağlayarak kız kardeşinin öğretmenlik yaptığı Diyarbakır'a gitti, bir tuğla ve kiremit fabrikasında katip olarak çalıştı.[5] Kamu gözetimi cezasını tamamladıktan sonra Ankara'ya döndü. 1954-1959 arasında platonik aşkı Leyla Erbil'e mektuplar yazdı.

Yükseköğrenimini tamamlama imkanı bulamayan Ahmed Arif, 1956’dan itibaren Medeniyet, Öncü ve son olarak da Halkçı gazetelerinde redaktör olarak çalıştı. 1967 yılında Ankara'da tanıştığı Aynur Hanım'la evlendi, 1972 yılında oğlu Filinta dünyaya geldi.[10][11] Uzun süre TKP Ankara il komitesi için çalıştı.

1960'larda Fikret Otyam'ın röportajlarına Ahmet Arif’in şiirlerinden bölümler eklemesiyle ünü yayıldı.[12] Şiirlerinin toplandığı tek kitabı Hasretinden Prangalar Eskittim 1968'de yayımlandı. Şairin tek kitabı olan bu eser, çok yoğun bir ilgiyle karşılandı; altmıştan fazla basımı yapılarak Türkiye'de en çok baskısı yapılan şiir kitapları arasına girdi.[9] Ahmet Kaya, Cem Karaca gibi sanatçılarca birçok şiiri bestelendi. Doğduğu ve büyüdüğü bölge olan Güneydoğu Anadolu insanını şiirlerine aktaran Ahmet Arif bu yönünden dolayı da halk arasında sevilen bir kişi oldu.[12] Hasretinden Prangalar Eskittim'den sonra hiç şiir yayımlamadı, hatta yazmadı.

Ahmed Arif, 1977 yılında gazetecilikten emekli olduktan sonra yaşamını Ankara'da sürdürdü.[13][14] Cemal Süreya, Canip Yıldırım, Cemalettin Ünlü, Muzaffer Erdost, Nedret Gürcan, Adnan Binyazar ve aile yakınları dışında kimse ile görüşmedi.[5] Ölümünden kısa süre önce yakınlarına, ikinci bir kitap basımı için şiirlerinin hazır olduğunu, İstanbul'a giderek dikte ettireceğini ve yeni kitabının basılacağını söylediği bilinir.[15] Fakat bu gerçekleşemedi. Yıllar boyu gazete ya da dergilere demeç vermeyen, açıklama bulunmayan Ahmet Arif, 1989'da şair ve gazeteci Refik Durbaş ile mülakat yaptı. Bu söyleşi, önce Cumhuriyet gazetesinde yayımlandı, sonra kitap haline geldi. Daha önce ikinci şiir kitabının adı olacağını duyurduğu Kalbim Dinamit Kuyusu, bu söyleşi kitabının adı oldu. Şair, Ankara'daki evinde 2 Haziran 1991 tarihinde geçirdiği kalp krizi sonucu yaşamını yitirdi.[16]

Ahmed Arif’in Cemal Süreya’ya yazdığı mektuplar, 1992 yılında kitap olarak yayımlandı.[17] Şairin, Hasretinden Prangalar Eskittim'e almadığı şiirleri, 2003 yılında Yurdum Benim Şahdamarım başlıklı kitapta toplandı. Leyla Erbil'e yazdığı aşk mektupları, 2013 yılında Leylim Leylim başlığıyla kitaplaştırıldı.