Terlalu banyak kenangan manis yang ditinggalkan Kak Mut, panggilan Mutahar yang lazim digunakan dalam tradisi pramuka. Di akhir masa hidupnya, ia menghuni sebuah rumah di jalan Damai Raya Nomor 20 di sebelah Pasar Cipete bersama Sanyoto, anak angkatnya.
Pada 9 juni 2004, habib tersebut akhirnya pulang ke Timur Abadisatu kata sandi yang seringkali dipakainya untuk menyebut Hadirat Allah. Ia meninggal dunia pada hari itu. Sebagai penyandang bintang Gerilya dan Bintang Mahaputra, tokoh ini sebenarnya berhak dimakamkan di Taman Makam Pa hlawan.
Namun, dalam wasiat yang ditulisnya di hadapan notaris, keturunan Rasulullah SAW ini ingin dikebumikan sebagai seorang rakyat biasa. Maka, Taman Pemakaman Umum (TPU) Jeruk Purut menjadi tempat peristirahatan terakhirnya.