İmam-ı Gazali 1111 (h.505) yılının Cemaziyelevvel ayının 14. Pazartesi günü öldü.
Ölümüne ilişkin anlatılan hikayelerden bir tanesi şöyledir: İmam-ı Gazali, kendisini mezarın içine Şeyh Ebu Bekr en-Nessâc koysun, diye vasiyet etmişti. Şeyh bu vasiyeti yerine getirip mezardan çıktığında hâli değişmiş, yüzü kül gibi olmuş görüldü. Oradakiler “Size ne oldu?.. Niçin böyle sarardınız, soldunuz efendim?..” dediler. Cevap vermedi. Israr ettiler, gene cevap vermedi. Yemin vererek tekrar ısrarla sorulunca, mecbur kalarak şunları anlattı:
“İmamın nâşını mezara koyduğum zaman, Kıble tarafından nurlu bir sağ elin çıktığını gördüm. Hafiften bir ses bana şöyle seslendi. «Muhammed Gazali’nin elini, Seyyidü’l Mürselin Muhammed Mustafa sallallahü aleyhi ve sellemin eline koy» Ben denileni yaptım. İşte mezardan çıktığımda benzimin sararmış, solmuş olmasının sebebi budur. Allah ona rahmet eylesin.” şeklinde
İmam-ı Gazali, zamanındaki devlet adamlarının ikram ve iltifatlarına kavuşmuştu.