После завоевания Казани Иваном Грозным и вплоть до правления Екатерины II мусульманам было запрещено строительство каменных мечетей. Но во время визита императрицы в 1767 году татары смогли получить высочайшее разрешение на возведение культового здания, и к 1771-му новая мечеть распахнула свои двери. По рассказам Каюма Насыри, городские власти пожаловались Екатерине II на то, что мусульмане строят очень высокую мечеть. На это великая правительница (татары прозвали ее Эби-патша, или «добрая бабушка-царица») ответила: «Я определила им место на земле, а в небо они вольны подниматься по своему усмотрению, потому что небо не входит в мои владения». Мечеть сегодня носит имя знаменитого просветителя Шигабутдина Марджани.

Уникальность «Аль-Марджани» в том, что она не закрывалась ни на один день, а вплоть до перестройки была единственной действующей мечетью Казани. Советская власть безуспешно пыталась закрыть мечеть, в последний раз — в 60-е годы прошлого века под предлогом того, что в ней нет имама. Современная история Аль-Марджани также уникальна тем, что сейчас здесь действует по принципу вакфа исламский культурный центр им. Марджани, включающий в себя, кроме самой мечети, центр изучения Корана, музей татарского быта, рестораны, кафе. Благодаря деятельности данных структур может работать и сам дом Аллаха. Кроме того, при мечети действует единственное в Татарстане вероисповедальное кладбище, где захоронение осуществляется строго по шариату, без надмогильных скульптур-памятников, фотографий и т. д. В России аналогов такому комплексу нет. Также Аль-Марджани стала первой в России мечетью, где открылся шатер Рамазана. С середины 1990-х мечеть возглавляет Мансур Джалялетдин — один из самых известных мусульманских лидеров республики.