Si Ahmad ibn Tulun, ang Abbasid na gobernador ng Ehipto mula 868 hanggang 884 AD ay nag-utos sa pagtatayo ng moske, at ang proyekto ay nagsimula noong 876 AD.
Itinayo sa paligid ng isang bukas na kuwadrado na bakuran na nagbibigay-daan sa karaniwan na liwanag na dumaan, ang moske ay nagtatampok ng sinaunang mga istilo ng arkitektura ng Ehipto.