১৯৬৮ সালে আব্দুর রহমান বাংলাদেশ হতে সৌদিআরবে পবিত্র হজ্ব পালন করতে গিয়েছিলেন। তার সেই সময় পায়ে হেঁটে হজ্ব পালন করতে সময় লেগেছিল ১৮ মাস।
মক্কায় হজ্জ পালন শেষে মদীনা, নীল নদের দেশ মিশরে ফির-আউনের লাশ দেখার উদ্দেশ্যে রওনা দেন৷ মিশর রহস্য দেখার পর দীর্ঘ ১৮ মাস পর হেঁটে হেঁটেই মাতৃভূমি বাংলাদেশে ফিরে আসেন৷
রবিবার দিবাগত রাত ১১ঘটিকায় নিজ বাসায় ইন্তেকাল করেন এবং রবিবার বাদ যোহর নিজ তার দাফন কার্য সম্পন্ন করা হয়। মৃত্যুকালে তার বয়স হয়েছিল ১২০ বছর।