Bağdat'ta doğan Ahmet Haşim, büyük devlet adamlarının ve işadamlarının yetiştiği soylu bir aileye mensuptu. Babası da Hulle'de kaymakamdı. Oldukça katı olan ve oğluyla az konuşan babası, sık sık farklı şehirlere gider, zaman zaman onu da yanında götürürdü. Onu çok seven annesi ise maalesef hastalıklıydı ve henüz o, 12 yaşındayken çok sevdiği annesini kaybetti. Annesinin ölümü onu derinden etkiledi. Sonraki yıllarda da onunla geçirdiği günlerini hiç unutamadı.
Haşim, bir süre babasıyla birlikte yaşadıktan sonra, eğitimine devam etmesi için İstanbul'a akrabaların yanına gönderildi. O günler büyük şair için oldukça zor geçmişti. Bağdat'ta Arapça eğitim gören şairimiz, çok az Türkçe biliyordu. Türkçeyi öğrenmesi için önce Numune-i Terakki okuluna gitti. Bir yıl sonra da Mekteb-i Sultani'ye (şimdiki Galatasaray Lisesi) yatılı gönderildi. Babası ise çoktan Revendus Kaymakamlığı'na atanmış ve orada ikinci kez evlenmişti.
Haşim için yatılı okulda yalnız günler devam etti. Bu durum onu daha çok içe kapanık yapmış, ne sporla ne de oyunlarla ilgilenir olmuştu. O ara en çok merak sardığı şey matematikti. Sayıları yan yana, üst üste koyarak karşılaştığı problemleri çözmekten büyük haz duyuyordu. Bir gün okulda Ahmet Bedii isimli bir öğrenci ile tanıştı, şiirle ilgilenen bu arkadaşı ona Van Bever ve PaulLêautaud'un Anthologie des poetes d'aujourd'hui' isimli eserini verdi. Simgeci (symboliste) şiirlerden derlenmiş olan kitabı okuyunca, Haşim'de büyük bir şiir hevesi başladı.
Zamanla edebiyatla olan ilgisi git gide arttı. Haşim, Hamdullah Suphi, Emin Bülent, Abdülhak Şinasi, Refik Halit gibi edebiyat çevresinden de yeni arkadaşlar edinmeye başladı. Bu grup, teneffüs aralarında buluşur, edebiyat üstüne tartışır ve birbirlerine şiir okurdu.
Edebiyat özellikle de şiir artık onun için başka bir dünya olmuştu ve Haşim bu dünyayı çok sevmişti. Henüz on beş yaşına girdiği yıllarda artık şiir yazma vaktinin geldiğini anladı ve "Hayâl-i Aşkım" adlı ilk şiirini yazdı. Şiir, Mecmua-yi Edebiye'de çıktı. Bunu başka pek çok şiir de izledi. Bu dönemden sonra kendi ruh halini yansıtan şiirler yazmaya daha ağırlık verdi.
Haşim, ömrünün sonuna kadar da hiçbir akım içinde yer almadı, kendine has bir şiir ve nesir anlayışıyla kendine has bir sanatçı olarak kaldı. Onun şiirinin o zamana kadar yazılan şiirlerden anlam ve şekil bakımından farklı bir duyuşu vardı. Haşim, bu yönüyle kendisinden sonra yetişecek birçok şairi etkilemişti ve en önemlisi de kendi ruh halini yansıttığı için modern Türk şiirinin temelini atmıştı.
Tevfik Fikret ve Ahmed Hikmet Müftüoğlu'nun öğrencisi olan Haşim, 1907'de Mekteb-i Sultani'den mezun oldu. Bir süre Reji İdaresi'nde çalıştı. Bir yandan da Hukuk Mektebi'ne devam etmeye başladı. İzmir Sultanisi Fransızca öğretmenliğine atandı. Hukuk eğitimini bırakıp İzmir'e gitti. 1912-1914 arasında Maliye Nezareti'nde çevirmenlik yaptı. 1. Dünya Savaşı yıllarını Çanakkale ve İzmir'de yedek subay olarak geçirdi. Savaştan sonra İstanbul'a döndü. Devlet Güzel Sanatlar Akademisi'nde estetik ve mitoloji öğretmenliği yaptı. Harp Akademisi ve Mülkiye Mektebi'nde Fransızca dersleri verdi. Düyun-u Umumiye İdaresi'nde, Osmanlı Bankası'nda çalıştı. Akşam ve İkdam gazetelerinde köşe yazıları yazdı. 1928'de böbrek rahatsızlığının tedavisi için yurtdışına gitti ama iyileşemeden döndü. Birkaç yıl sonra da hayatını kaybetti.
