Gaya reka bentuk bangunan di zaman kolonial bercampur pengaruh seni bina tempatan amat ketara pada reka bentuk bangunan Masjid Sultan Abu Bakar ini. Reka bentuk bumbungnya bercirikan seni bina Moghul dan tradisional dengan mengaplikasikan konsep bumbung limas.