মসজিদের ভেতরে ৬০টি স্তম্ভ বা পিলার আছে। এগুলো উত্তর থেকে দক্ষিণে ৬টি সারিতে অবস্থিত। প্রতিটি সারিতে ১০টি করে স্তম্ভ আছে। প্রতিটি স্তম্ভই পাথর কেটে বানানো। পাথরগুলো আনা হয়েছিল ভারতের উড়িষ্যার রাজমহল থেকে। প্রচলিত মিথ হচ্ছে- হযরত খানজাহান আলি তাঁর অলৌকিক ক্ষমতা বলে পাথর গুলি জলে ভাসিয়ে বাগেরহাটে নিয়ে এসেছিলেন। মসজিদের গম্বুজ সংখ্যা সর্বমোট ৮১টি হলেও ধারণা করা হয় এই ৬০ পিলারের কারণেই এর নাম হয়েছে ষাট গম্বুজ মসজিদ।